據(jù)媒體援引多位知情人士表示,OpenAI對英偉達(dá)最新的一些人工智能芯片并不滿意,并且自去年以來一直在尋找替代方案,這可能會使這兩家AI熱潮中最受關(guān)注的公司之間的關(guān)系變得更加復(fù)雜。
OpenAI這一戰(zhàn)略轉(zhuǎn)變,源于其對用于執(zhí)行AI推理中特定環(huán)節(jié)芯片的重視程度不斷提高。所謂推理,是指像支撐ChatGPT應(yīng)用的AI模型在響應(yīng)用戶問題和請求時所進(jìn)行的計算過程。英偉達(dá)在訓(xùn)練大型AI模型所需的芯片領(lǐng)域仍占據(jù)主導(dǎo)地位,而推理正成為競爭的新戰(zhàn)場。
分析稱,OpenAI及其他公司決定在推理芯片市場尋找替代方案,標(biāo)志著對英偉達(dá)AI主導(dǎo)地位的一次重大考驗。
周一,英偉達(dá)收跌近2.9%。
當(dāng)前,OpenAI和英偉達(dá)這兩家公司仍在進(jìn)行投資談判:
去年9月,英偉達(dá)表示,計劃向OpenAI投入高達(dá)1000億美元,作為一項交易的一部分。該交易將使英偉達(dá)獲得這家初創(chuàng)公司的股份,同時為OpenAI提供購買先進(jìn)芯片所需的資金。
在此期間,OpenAI已與AMD等公司達(dá)成協(xié)議,采購可與英偉達(dá)競爭的GPU。然而,知情人士稱,OpenAI不斷調(diào)整的產(chǎn)品路線圖也改變了其所需的計算資源類型,從而使與英偉達(dá)的談判變得更加復(fù)雜、進(jìn)展緩慢。
上周六,英偉達(dá)首席執(zhí)行官黃仁勛淡化了有關(guān)其與OpenAI存在緊張關(guān)系的報道,稱這種說法“純屬無稽之談”,并表示英偉達(dá)仍計劃對OpenAI進(jìn)行巨額投資。英偉達(dá)在一份聲明中表示:“客戶在推理領(lǐng)域仍然選擇英偉達(dá),因為我們在大規(guī)模應(yīng)用中提供了最佳性能和總體擁有成本。”
OpenAI的一位發(fā)言人在另一份聲明中表示,公司在其絕大多數(shù)推理算力集群中依賴英偉達(dá),而且英偉達(dá)在推理方面提供了最佳的性價比。
知情人士稱,OpenAI對英偉達(dá)硬件在某些特定問題上的響應(yīng)速度并不滿意,例如軟件開發(fā)以及AI與其他軟件之間的交互。OpenAI需要新的硬件,未來最終可滿足其約10%的推理計算需求。
報道稱,OpenAI曾討論與包括Cerebras和Groq在內(nèi)的初創(chuàng)公司合作,以獲得更快推理速度的芯片。不過,英偉達(dá)與Groq達(dá)成了一項價值200億美元的授權(quán)協(xié)議,從而終止了OpenAI與Groq的談判。
芯片行業(yè)高管表示,英偉達(dá)迅速拿下Groq,看起來是為了在快速變化的AI行業(yè)中鞏固其技術(shù)組合、提升競爭力。英偉達(dá)在聲明中稱,Groq的知識產(chǎn)權(quán)與英偉達(dá)的產(chǎn)品路線圖高度互補。
英偉達(dá)的替代方案
英偉達(dá)的GPU非常適合用于訓(xùn)練像ChatGPT這樣的大型AI模型所需的海量數(shù)據(jù)處理,這也是迄今為止全球AI爆炸式增長的重要基礎(chǔ)。但隨著AI的不斷進(jìn)步,重點正日益轉(zhuǎn)向?qū)σ延?xùn)練模型進(jìn)行推理和推斷,這可能成為AI的一個新階段。
自去年以來,OpenAI在尋找GPU替代方案時,重點關(guān)注那些在同一塊硅片上集成大量內(nèi)存(稱為SRAM)的芯片制造商。盡可能在每顆芯片上塞入昂貴的SRAM,可在聊天機(jī)器人和其他AI系統(tǒng)處理數(shù)百萬用戶請求時帶來速度優(yōu)勢。
與訓(xùn)練相比,推理對內(nèi)存的需求更高,因為芯片需要花費相對更多時間從內(nèi)存中獲取數(shù)據(jù),而不是進(jìn)行數(shù)學(xué)運算。英偉達(dá)和AMD的GPU技術(shù)依賴外部內(nèi)存,這會增加處理時間,降低用戶與聊天機(jī)器人交互的速度。
有知情人士稱,在OpenAI內(nèi)部,這一問題在其用于生成計算機(jī)代碼、并正被公司大力推廣的產(chǎn)品Codex中尤為明顯。OpenAI員工將Codex的部分性能不足歸因于基于英偉達(dá)GPU的硬件。
上月,OpenAI首席執(zhí)行官Sam Altman表示,使用OpenAI編程模型的客戶“會為編碼工作的速度支付很高的溢價”。OpenAI 滿足這一需求的方式之一,是其最近與Cerebras達(dá)成的合作協(xié)議。對于普通的ChatGPT用戶而言,速度并非那么關(guān)鍵。
相比之下,Anthropic的Claude和谷歌的Gemini等競爭產(chǎn)品,更多依賴谷歌自研的TPU進(jìn)行部署。TPU專為推理所需的計算而設(shè)計,在性能上可能優(yōu)于像英偉達(dá)GPU這樣的通用型AI芯片。
英偉達(dá)的應(yīng)對舉措
當(dāng)OpenAI明確表達(dá)了對英偉達(dá)技術(shù)的保留態(tài)度后,英偉達(dá)曾接洽包括Cerebras和Groq在內(nèi)、專注于高SRAM芯片的公司,探討潛在收購的可能性。知情人士稱,Cerebras拒絕了收購提議,并與OpenAI達(dá)成了一項商業(yè)合作,該合作已于上月宣布。
媒體稱,Groq也曾與OpenAI就提供算力展開討論,并吸引投資者興趣,擬以約140億美元的估值為公司融資。
但到12月時,英偉達(dá)以一項非獨家的全現(xiàn)金交易,獲得了Groq技術(shù)的授權(quán)。盡管該協(xié)議允許其他公司也可授權(quán)使用Groq的技術(shù),但目前Groq正將重心轉(zhuǎn)向銷售云端軟件,因為英偉達(dá)已挖走了Groq的芯片設(shè)計人員。
387
收藏

















