青云科技 2024 AI 算力發(fā)布會成功舉辦，以 “無界算力，共創(chuàng)數(shù)智未來” 為主題，全面展示了青云在 AI 算力領(lǐng)域的產(chǎn)品創(chuàng)新、生態(tài)建設(shè)及場景落地成果。

青云科技副總裁沈鷗與中科曙光智能計算產(chǎn)品事業(yè)部副總經(jīng)理胡曉東、中關(guān)村科服副總經(jīng)理陳俊豪、智譜 VP 聞劍輝、升哲科技首席架構(gòu)師張國棟等合作伙伴代表，就“智算生態(tài)協(xié)同創(chuàng)新，構(gòu)建企業(yè)數(shù)智未來”坐而論道，展開深入交流。

企業(yè)應(yīng)用 AI 的挑戰(zhàn)與困難

主持人：2023 年常被視作 AIGC 元年，2024 年則被稱為 AIGC 的應(yīng)用之年。當(dāng)前，企業(yè)對于使用 AI、引入 AI 的意愿極為強烈，但實際上，在這個過程中企業(yè)會面臨諸多挑戰(zhàn)與困難。下面請各位嘉賓來依次談?wù)勅绾慰创髽I(yè)應(yīng)用 AI 時所遇到的挑戰(zhàn)和困難。

張國棟：升哲科技基于算力底座以物聯(lián)網(wǎng)和人工智能為依托，提供城市級的數(shù)據(jù)服務(wù)，因此我們會做大規(guī)模城市治理等相關(guān)應(yīng)用的開發(fā)。目前，我們已在平臺中引入多模態(tài)大模型，對業(yè)務(wù)流程進(jìn)行改造。當(dāng)前面臨的最大挑戰(zhàn)在于，多模態(tài)、大模型的使用方式與傳統(tǒng)模型差異顯著，整個用戶邏輯、界面交互流程以及使用方法都與以往大不相同。我們?nèi)栽诿鳟?dāng)中，同時也在與各地用戶共同打磨、嘗試，以期找到更好的邏輯，充分發(fā)揮多模態(tài)、大模型的強大威力。此外，我們發(fā)現(xiàn)目前市面上熟悉多模態(tài)、包括大語言模型的產(chǎn)品經(jīng)理，以及懂得如何運用的工程師較為稀缺。

聞劍輝：就人工智能應(yīng)用而言，智譜觀察到，當(dāng)前客戶面臨的最大挑戰(zhàn)或許在于自我革命。如今，真正在人工智能應(yīng)用方面推廣力度較大的往往是超大規(guī)模企業(yè)，因為他們資金充裕且有長遠(yuǎn)規(guī)劃。還有一些技術(shù)、市場驅(qū)動的企業(yè)，他們積極主動擁抱未來，希望借此提升自身生產(chǎn)力。然而，對于一些中型企業(yè)或傳統(tǒng)行業(yè)來說，相對而言包袱較重。一方面，他們需要看清大模型的發(fā)展路徑，另一方面，顛覆自身所有業(yè)務(wù)模式以及 IT 構(gòu)建模式對他們而言難度頗大。從這個角度來看，無論是大模型的生態(tài)建設(shè)，包括底層算力和上層應(yīng)用，大家都只有不斷創(chuàng)新，真正向客戶展現(xiàn)出應(yīng)用價值和未來創(chuàng)新價值，才能將大模型真正應(yīng)用于千行百業(yè)。

胡曉東：中科曙光聚焦于算力底座這一層，從與各行業(yè)的合作溝通經(jīng)驗來看，我們認(rèn)為，對于企業(yè)而言，關(guān)鍵在于如何充分挖掘自身的場景價值和數(shù)據(jù)價值。此前我們談到 2023 年是 AIGC 元年，實際上在 2023 年，新的大模型持續(xù)發(fā)布，趨勢十分明顯。而到了 2024 年，大家都在致力于實現(xiàn)自身行業(yè)的垂直落地，大模型的發(fā)布節(jié)奏反而會稍緩一些。對于企業(yè)來說，AI 的幾大要素包括算力、算法和數(shù)據(jù)。算力無疑是非常重要且熱門的，在算法方面，大家都在積極發(fā)展大模型，國內(nèi)外在算法上處于互相追趕的狀態(tài)。實際上，在企業(yè)應(yīng)用上，更為重要的是數(shù)據(jù)。我們常說 AI 賦能千行百業(yè)，專有的數(shù)據(jù)和場景才是千行百業(yè)的特征所在。企業(yè)不可能完全依賴一個第三方來發(fā)展 AI，必須聯(lián)合起來，既有外部的算力專家和算法專家，同時也有了解企業(yè)內(nèi)部場景和應(yīng)用數(shù)據(jù)的人員，共同進(jìn)行抽象和挖掘，提煉出特有的行業(yè)屬性，才能促進(jìn)企業(yè)的深層應(yīng)用，推動垂類 AI 場景實現(xiàn)更好的發(fā)展。

陳俊豪：中關(guān)村科服有幾個方面的認(rèn)識：其一，作為北京市屬國企，除了我們這類服務(wù)科技創(chuàng)新的企業(yè)，還有很多是服務(wù)民生及基礎(chǔ)設(shè)施建設(shè)運營的企業(yè)，第一個問題便是如何將自身的服務(wù)產(chǎn)品與客戶數(shù)據(jù)和模型相結(jié)合，獲得高質(zhì)量、可用于訓(xùn)練和推理的數(shù)據(jù)，這個事頗具難度，是當(dāng)下傳統(tǒng)行業(yè)以及國央企要積極擁抱人工智能但又有實現(xiàn)障礙的原因之一。

其二，中關(guān)村在北京有十幾個園區(qū)，在北京之外還有幾十個園區(qū)，園區(qū)里匯聚了相當(dāng)數(shù)量的科技企業(yè)。如何讓這些企業(yè)用上更便宜的算力，是一個關(guān)鍵問題。正如青云科技分享了許多關(guān)于多卡、異構(gòu)、國產(chǎn)算力與進(jìn)口算力的適配等情況，對用戶來說還有很多障礙。我們也在思考究竟是投入算力基礎(chǔ)設(shè)施建設(shè)，還是與青云這樣的生態(tài)伙伴共同打造一個智算服務(wù)平臺。

其三，我們特別希望能夠扶持國內(nèi)的國產(chǎn)算力企業(yè)，包括芯片企業(yè)。我兼任中關(guān)村芯園的董事長，芯園為一大批芯片設(shè)計企業(yè)提供流片等服務(wù)，我們同樣希望能夠早日用上我們自己的國產(chǎn)算力。

沈鷗：我想表達(dá)兩點：第一， AI 對于傳統(tǒng)的 IT 基礎(chǔ)架構(gòu)、傳統(tǒng)應(yīng)用而言都是顛覆性的。正如剛才聞總所說，對于算力建設(shè)者來說，這種顛覆性意味著他們需要理解大模型建設(shè)背后的深層次技術(shù)能力是如何達(dá)成的，他們首先要在自身的組織架構(gòu)以及知識體系上進(jìn)行一些重構(gòu)。

第二，評估以何種方式去構(gòu)建與大模型相關(guān)的應(yīng)用系統(tǒng)和系統(tǒng)架構(gòu)，這對于大多數(shù)企業(yè)而言都是一個新的課題，這也正是為什么剛才花費了較多時間來介紹青云在各個行業(yè)和場景中的挑戰(zhàn)和 AI 建設(shè)場景。我們遇到了不少客戶，他們提出的問題仍然是基于傳統(tǒng)的 CPU 理念的，我們希望通過這樣的場景介紹，為那些希望使用大模型應(yīng)用的客戶指出一條路，讓他們知道起點在哪里，如何逐步走好建設(shè)大模型的道路。

生態(tài)合作才能更好實現(xiàn) AI 落地

主持人：從今年人工智能產(chǎn)業(yè)的發(fā)展情況來看，所有企業(yè)都在談?wù)撋鷳B(tài)。在當(dāng)前行業(yè)狀態(tài)下，各位嘉賓是如何看待通過生態(tài)合作來實現(xiàn)更好的客戶成就，或者幫助企業(yè)獲得更好的產(chǎn)品或服務(wù)的？正好前面陳總談到關(guān)于生態(tài)合作的一些想法，那這個問題先請陳總回答。

陳俊豪：先分享一個消息，中關(guān)村科服多次承辦由北京市國資委主辦的科創(chuàng)企業(yè)與北京市屬國有企業(yè)應(yīng)用場景發(fā)布對接會。最近一次預(yù)計在 12 月初，可能由京津冀三地國資委共同舉辦，歡迎今天在座的生態(tài)伙伴前來參與。

從我們自身的角度來看，如果大家現(xiàn)在都去建設(shè)算力基礎(chǔ)設(shè)施，短期內(nèi)可能會出現(xiàn)過剩的情況，最科學(xué)的方法是根據(jù)企業(yè)的實際需求提供全棧式解決方案。而這個全棧式解決方案從理論上講不應(yīng)該由一家企業(yè)來提供，也不可能形成一家獨大的市場格局。我們作為第三方專業(yè)科技服務(wù)機構(gòu)，希望在市里、區(qū)里相關(guān)政策的支持以及行業(yè)生態(tài)伙伴的合作下，以最少的成本為企業(yè)提供最好的服務(wù)，讓大家在賺錢的前提下共同做好這件事，使所有相關(guān)產(chǎn)業(yè)鏈中的客戶和服務(wù)者都能獲得自己的應(yīng)有收益。

我們期望這個生態(tài)更開放、更共享。我們后續(xù)還將進(jìn)行一個開源社區(qū)的建設(shè)落地工作，包括與青云科技一起，針對某些應(yīng)用場景，如數(shù)字醫(yī)療等場景進(jìn)行生態(tài)開發(fā)，非常歡迎大家共同合作。

張國棟：升哲自身積累了物聯(lián)網(wǎng)和人工智能方面的能力，擁有相關(guān)的軟硬件資源。然而，在 IaaS 和 PaaS 部分，當(dāng)一個城市接入成千上萬個攝像頭時，底層平臺所承受的壓力是巨大的。所以在這方面，我們每個算力中心基本上都是與青云合作，由青云為我們提供 IaaS 和 PaaS 的能力，這樣我們便可以專心致志地做好應(yīng)用服務(wù)工作。

聞劍輝：大模型技術(shù)從本質(zhì)上來說是對傳統(tǒng)人工智能的更新與迭代。大模型技術(shù)在應(yīng)用側(cè)，更為關(guān)鍵的是降低了應(yīng)用開發(fā)廠商進(jìn)入人工智能技術(shù)領(lǐng)域的門檻。所以實際上，大模型本身就是從根本上擁抱生態(tài)的產(chǎn)物。從整個生態(tài)建設(shè)的角度來看，最需要的是良好的土壤和空氣。在這一點上，我們確實堅定不移地期望國家和政府能夠給予相應(yīng)的產(chǎn)業(yè)扶持，從而帶動上下游企業(yè)共同發(fā)展。最后，我還是想強調(diào)，生態(tài)建設(shè)不光是我們同業(yè)之間的合作，更多的是需要涵蓋我們的客戶。只有將大家真正的場景落地，才能真正讓這個生態(tài)進(jìn)入正循環(huán)。

胡曉東：剛才沈總分享里 AI 架構(gòu)圖中，底層是算力底座，中間涵蓋平臺層、模型層以及一些行業(yè)應(yīng)用，最上層則是用戶。結(jié)合這張圖來看，曙光作為底層算力底座，在推動我們的產(chǎn)品和方案時，要做的事情是從底座直接貫穿至上層用戶場景。這樣的業(yè)務(wù)特征決定了我們在生態(tài)中具有一項優(yōu)勢，即拉通作用。我們可以與客戶共同分析業(yè)務(wù)需求，明確需要什么樣的功能，如何對行業(yè)進(jìn)行場景化分析，以及需要什么樣的 ISV 等等。

即便我們的某個伙伴專注于某個層面，因為畢竟整個鏈條很長，我們可以并且愿意將分析出來的需求共享，以硬件為載體，與整個上下游拉通，形成整體解決方案。這是我們愿意提供的價值，并且我們希望以曙光的硬件作為載體，以場景作為切入點，將整個鏈條所需的廠商聚集在一起，共同推進(jìn)，讓千行百業(yè)的場景得以落地。

沈鷗：建設(shè)生態(tài)是青云在整個智算建設(shè)過程中最為看重的一點，對于主持人的問題，我稍作延展。在整個生態(tài)合作當(dāng)中，如何讓生態(tài)合作伙伴建立起更好的互信，從而使這個生態(tài)真正落地，我認(rèn)為是關(guān)鍵所在，這并非僅僅依靠一個紙面簽字或者單純進(jìn)行技術(shù)對接就能實現(xiàn)的。

我們希望能夠從客戶的實際業(yè)務(wù)場景出發(fā)，共同規(guī)劃和驗證，和方案落地實施。只有當(dāng)各方的解決方案合作起來，真正解決客戶的痛點和難點，讓客戶覺得物有所值時，客戶才會買單。只有當(dāng)多方合作形成的方案被復(fù)制，被更大客戶所應(yīng)用，才能帶來更好的經(jīng)濟(jì)效益，推動大家繼續(xù)前行。因此，我們需要先彼此達(dá)成共識，明確目標(biāo)，為商業(yè)合作的達(dá)成共同努力。

企業(yè) AI 投資的 ROI 如何保障

主持人：在近兩年的訪談當(dāng)中，我們發(fā)現(xiàn)，企業(yè)常常在大模型投入方面表現(xiàn)得特別遲疑或者擔(dān)憂。他們尤其擔(dān)心自身的資源投入與回報周期不匹配，大家都在思索投資回報率（ROI）究竟如何，都期望找到良好的解決方案來推進(jìn)這件事。關(guān)于這個問題，我想先請從事大模型相關(guān)工作的聞總談?wù)効捶ā?/p>

聞劍輝：這確實是一個頗為難答的問題。但有一點是明確的，大模型的未來或者說人工智能的未來是不可逆轉(zhuǎn)的。正如我一開始所說，很多客戶要么具備規(guī)劃能力，要么有著進(jìn)行變革、創(chuàng)新的緊迫需求，所以往往會更快地接觸這些新技術(shù)。對于很多中型企業(yè)或者有一定資金能力但目前仍在遲疑的客戶，我個人的建議是，大家可以跨過淺水區(qū)，直接進(jìn)入深水區(qū)。如果一項技術(shù)能夠給企業(yè)帶來革新，尤其是對核心應(yīng)用的革新，相信每個企業(yè)都會進(jìn)行資金投入的嘗試。

但如果大家認(rèn)為大模型目前只能解決一些淺顯的問題，那么確實可能會遲疑。但大模型技術(shù)的更新迭代非?？?，我們今天的投入可能在三個月、六個月內(nèi)看不到結(jié)果，但三個月、六個月之后的大模型技術(shù)或許真的能夠讓他們獲得一些成果。所以，我覺得那些遲疑的企業(yè)可以跨過淺層應(yīng)用，直接到深水區(qū)進(jìn)行嘗試。

胡曉東：這個問題歸根結(jié)底是要解決投入與產(chǎn)出之間如何匹配的問題。首先是選擇適合自身的投入方式。實際上，企業(yè)的定位各不相同，如果讓每個企業(yè)購買千張卡去構(gòu)建自己的大模型，這肯定不現(xiàn)實，也無法獲得回報。企業(yè)需要考量自身的需求體量、業(yè)務(wù)特征以及此前的工作模式。比如，企業(yè)可以根據(jù)自身情況選擇構(gòu)建自己的集群進(jìn)行微調(diào)，打造具有行業(yè)屬性的模型。如果體量再小一些，可以考慮采用一體機或者利用線上資源池?？傊?，企業(yè)要選擇與自身情況相匹配的投入方式。

其次是產(chǎn)出要有逐步的預(yù)期。不能期望立即產(chǎn)生回報、立即改變生產(chǎn)模式并實現(xiàn)降本增效。而是從改變某些局部業(yè)務(wù)場景開始，逐步深化到企業(yè)的更多層面。企業(yè)還是要先入場，只有先入場，才能在快速變化的環(huán)境中找到適合自己的模式。如果行動越來越慢，可能就更跟不上時代的潮流了。

陳俊豪：我們需要跳出來審視這個問題。從產(chǎn)品可復(fù)制、算力可復(fù)制以及能夠無限獲取邊際收益的角度來看，我認(rèn)為人工智能是一個永遠(yuǎn)不可逆的潮流。大家在與人工智能相關(guān)的所有事情上的投入，終將把人解放出來，最終可能只需要便宜的能源。而在這件事情上，政府和大型國央企或許會找到更好的解決方式。就大模型而言，邊際收益一定是正的，并且一定是能夠無限放大的。

沈鷗：在過去的三年多時間里，北美有幾家公司從事無人卡車業(yè)務(wù)，從明星公司最高市值 120 億美元，到現(xiàn)在基本上都黃了。為什么呢？看到一個觀點，任何大模型、AI 智能要在場景落地時，一定要回到這個場景最本質(zhì)的地方去理解整個業(yè)務(wù)的鏈路，以及與業(yè)務(wù)相關(guān)聯(lián)的各個利益方到底是如何考慮和參與的。只有找準(zhǔn)了真正能解決痛點、帶來現(xiàn)金流的場景時，無論是用戶方還是技術(shù)方，大家都會非常愿意投入。

所以說，大模型相關(guān)的投資回報率（ROI）到底是高還是低呢？我認(rèn)為有兩個維度：第一個維度，大模型對于整個產(chǎn)業(yè)來說是革命性的變革，如果現(xiàn)在不投入，可能就會落后。這也是為什么這兩年大家拼命投入智算中心，不計成本地進(jìn)行 AI 應(yīng)用開發(fā)，就怕晚了一步。第二個維度，選擇真正能通過 AI 工具帶來質(zhì)變的場景和應(yīng)用。當(dāng)成功做出一個案例時，后續(xù)就很容易迭代和快速復(fù)制，到那時 ROI 這件事就會變得相對容易。這就要看企業(yè)思考哪個維度優(yōu)先，不同的企業(yè)會有不同的選擇。

如何看待開放與標(biāo)準(zhǔn)化

主持人：我們今年看到“人工智能+”成為非常重要的戰(zhàn)略，大家也在探討算力中心的互聯(lián)互通、大模型的標(biāo)準(zhǔn)以及操作性。從技術(shù)開放、開源、標(biāo)準(zhǔn)化的角度來講，對 AI 生態(tài)有哪些助力？

沈鷗：在過去的一年里，青云積極參與到國家的一些標(biāo)準(zhǔn)建設(shè)當(dāng)中，包括參加了許多信通院的標(biāo)準(zhǔn)制定工作。在國家算力互聯(lián)互通的測試驗證中，青云也是第一批完成相關(guān)技術(shù)驗證工作的企業(yè)。

剛才介紹時提到，青云在構(gòu)建生態(tài)時有一個重要利器，那就是云原生平臺，這是基于我們的開源社區(qū)所打造的非常強大的產(chǎn)品，現(xiàn)在 K8s 是智算相關(guān)技術(shù)依賴的的一個重要基礎(chǔ)，無論從事存儲、網(wǎng)絡(luò)還是其他方面的工作，包括像英偉達(dá)所提供的產(chǎn)品服務(wù) NIM，都是基于云原生 Kubernetes。大家相互之間使用同一種技術(shù)，同一個技術(shù)平臺進(jìn)行溝通，會變得非常方便。國家層面正在建立互聯(lián)互通標(biāo)準(zhǔn)，而我們則建立企業(yè)與企業(yè)之間在技術(shù)對接平臺的標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)結(jié)合在一起，會對 AI 產(chǎn)業(yè)的發(fā)展起到非常大的推動作用。

陳俊豪：中關(guān)村科服對政府部門的一些相關(guān)政策和支持會更為了解，包括市經(jīng)信局、市科委、市發(fā)改委、市國資委在冗余資源的組織、公共服務(wù)能力方面，甚至是對企業(yè)的投入補貼、使用推廣以及相應(yīng)的對客戶的補貼等方面，我們可以進(jìn)行一些對接。

胡曉東：首先，開放無疑是當(dāng)前行業(yè)中不可回避的問題，更是主旋律。在傳統(tǒng)觀念中，企業(yè)有上下游的概念，但在人工智能領(lǐng)域，可能并非傳統(tǒng)的上下游概念。智算中心更像是一個全連接的存在，只有這樣才能屏蔽一些困難。比如，不同行業(yè)的場景提供商無需關(guān)心底層云平臺采用何種調(diào)度策略，而對于同樣的行業(yè)廠商來說，他們關(guān)心的是將軟件層對接好，無需理會底層的硬件是何種芯片或服務(wù)器。這樣的模式?jīng)Q定了不同的合作方向。只有實現(xiàn)全面連接，才能推動這個行業(yè)快速發(fā)展。如果選擇一條封閉的道路，很快就會與大的發(fā)展趨勢脫節(jié)。

另一點是標(biāo)準(zhǔn)化。我們需要建立一個統(tǒng)一標(biāo)準(zhǔn)，曙光也同樣參與了一些信通院的標(biāo)準(zhǔn)制定工作，包括如何進(jìn)行平臺適配、調(diào)度、切分以及接口設(shè)計等。這樣能夠形成行業(yè)的高效合作，減少溝通時間，讓各家更加專注于自己的領(lǐng)域，做好迭代，促進(jìn)一個更加完整的產(chǎn)業(yè)鏈良性發(fā)展。

聞劍輝：如今可以說我們處于一個萬眾創(chuàng)新的時代。我們的同業(yè)與我們的客戶共同摸索創(chuàng)新，最終目的是為了百花齊放。既然國家制定了發(fā)展新質(zhì)生產(chǎn)力的大戰(zhàn)略，我們期望在大戰(zhàn)略的引領(lǐng)下，大家能夠?qū)⒏髯缘膬?yōu)勢發(fā)揮得更加淋漓盡致，只有這樣，我們的未來才可能相對更加便捷，也能夠讓我們更加快速地看到成果。

張國棟：從實際應(yīng)用的角度來說，國家制定標(biāo)準(zhǔn)是一件好事。我們現(xiàn)在使用過很多開源或者閉源的大模型，目前大家基本對 OpenAI 的協(xié)議都是兼容的，都可以進(jìn)行調(diào)用。但是，在一些特別的功能上，比如對一些圖片進(jìn)行檢測或者分割的時候，每家的語法還是不太一樣，這一方面的統(tǒng)一標(biāo)準(zhǔn)很難制定出來，相信標(biāo)準(zhǔn)的制定出來會對行業(yè)有更多推動作用。

對行業(yè)的期待

主持人：最后我想請各位專家、嘉賓用一句話說一下自己，對 AI、對算力行業(yè)的期待。

張國棟：人工智能已經(jīng)在悄悄改變我們的工作和生活。

聞劍輝：分享智譜堅信的一句話：讓機器像人一樣思考。

胡曉東：希望和大家一起攜手創(chuàng)新，開放共贏。

陳俊豪：祝愿每一家企業(yè)都能用算力助力自己發(fā)展。

沈鷗：我來收尾，要求一個“特權(quán)”，說兩句話。第一句是代表公司，我們希望整個 AI 的發(fā)展越來越好，能真正滲透到千行百業(yè)，為企業(yè)的發(fā)展助力。第二句是代表個人，我希望像具身機器人這些新的 AI 技術(shù)，能解決越來越多的現(xiàn)實生活問題，比如養(yǎng)老。