昨天的5千字長文不愿意看的,直接看這個(gè),Sam Altman最新直播核心要點(diǎn),OpenAI內(nèi)部路線圖精簡純享版
自動(dòng)化AI研究員路線圖
設(shè)定了內(nèi)部目標(biāo):到2026年9月,擁有一名運(yùn)行在數(shù)十萬個(gè)GPU上的自動(dòng)化AI研究實(shí)習(xí)生
到2028年3月,擁有一名真正的自動(dòng)化AI研究員
盡管此目標(biāo)可能完全失敗,但鑒于其巨大的潛在影響,公開透明符合公眾利益。
安全策略:五層模型
安全策略依賴于五個(gè)層面:價(jià)值對齊、目標(biāo)對齊、可靠性、對抗性魯棒和系統(tǒng)安全
其中,思維鏈忠誠度(Chain-of-thought faithfulness)是一個(gè)備受關(guān)注的工具,但它較為脆弱,需要?jiǎng)澏ㄟ吔绾颓逦某橄?/p>
產(chǎn)品方向:邁向平臺(tái)與AI云
產(chǎn)品層面,目標(biāo)是轉(zhuǎn)向一個(gè)真正的平臺(tái),讓基于OpenAI產(chǎn)品構(gòu)建服務(wù)的個(gè)人和公司能捕獲大部分價(jià)值。
目前,用戶可在API和ChatGPT應(yīng)用上構(gòu)建;最終目標(biāo)是提供一個(gè)能催生巨大業(yè)務(wù)的“AI云”。
算力投入:萬億級(jí)成本與AI工廠愿景
目前已承諾投入約30吉瓦的算力,未來數(shù)年的總擁有成本(TCO)約為1.4萬億美元
基于對模型能力和收入增長的預(yù)期,公司對此投入感到滿意。
更遠(yuǎn)大的目標(biāo)是建立一個(gè)“AI工廠”,能夠以遠(yuǎn)低于今天的成本,每周產(chǎn)生1吉瓦的新增算力。但這需要對未來的模型、收入以及技術(shù)和金融創(chuàng)新有更強(qiáng)的信心。
新公司結(jié)構(gòu)與使命
新結(jié)構(gòu)簡化:一個(gè)名為OpenAI基金會(huì)的非營利組織,管理一個(gè)名為OpenAI集團(tuán)的公益公司(PBC)
基金會(huì)初始擁有PBC 26%的股份,若PBC表現(xiàn)優(yōu)異,可通過認(rèn)股權(quán)證增加持股
PBC的設(shè)立旨在吸引實(shí)現(xiàn)使命所需的資源
非營利組織和PBC的共同使命保持不變:確保通用人工智能(AGI)造福全人類
非營利組織的資本部署
非營利組織初步承諾投入250億美元,用于健康與疾病治療,以及“AI韌性”建設(shè)
“AI韌性”包括幫助社會(huì)成功過渡到后AGI時(shí)代的所有事務(wù),如技術(shù)安全、經(jīng)濟(jì)影響、網(wǎng)絡(luò)安全等
與以往不同,該非營利組織現(xiàn)在能夠相對迅速地實(shí)際部署資本
科學(xué)發(fā)現(xiàn)時(shí)間表
預(yù)計(jì)到2026年,AI系統(tǒng)或能做出小規(guī)模的新發(fā)現(xiàn);到2028年,可能迎來重大發(fā)現(xiàn)
這被認(rèn)為是一件大事,因?yàn)榭茖W(xué)及其成果的廣泛傳播是提高生活質(zhì)量最重要的途徑