OpenAI聯(lián)合創(chuàng)始人、前首席科學(xué)家伊爾亞·蘇茨克維

從OpenAI離開一個(gè)月后，伊爾亞成立了一家公司。

6月20日，OpenAI聯(lián)合創(chuàng)始人、前首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）在社交平臺X上發(fā)文宣布成立新公司SSI（safe superintelligence，安全超級智能）。

他表示新公司將致力于追求安全超級智能，“只有一個(gè)重點(diǎn)、一個(gè)目標(biāo)和一個(gè)產(chǎn)品。我們將通過一支精干的小團(tuán)隊(duì)取得革命性的突破，從而實(shí)現(xiàn)這一目標(biāo)?！?/P>

伊爾亞的推文

根據(jù)SSI的公告，該公司由伊爾亞以及丹尼爾·格羅斯（Daniel Gross）和丹尼爾·利維（Daniel Levy）共同成立。格羅斯為前蘋果高管、Y-Combinator合伙人，利維是前OpenAI研究員。

“不讓商業(yè)壓力影響技術(shù)安全和進(jìn)步”

三位SSI的創(chuàng)始人在公告中表示，超級智能已經(jīng)觸手可及，構(gòu)建安全超級智能（SSI）是這個(gè)時(shí)代最重要的技術(shù)難題。

公告稱：“我們已經(jīng)啟動了世界上首個(gè)專注于SSI的實(shí)驗(yàn)室，目標(biāo)和產(chǎn)品都只有一個(gè)：安全超級智能。這個(gè)實(shí)驗(yàn)室名為Safe Superintelligence Inc。SSI是我們唯一的關(guān)注點(diǎn)，我們的團(tuán)隊(duì)、投資人和商業(yè)模式都致力于實(shí)現(xiàn)SSI。我們將安全性和能力視為通過革命性工程和科學(xué)突破來解決的技術(shù)難題。我們計(jì)劃盡快提高能力，同時(shí)確保安全性始終保持領(lǐng)先地位。這樣我們就可以安心擴(kuò)展規(guī)模。我們專注于一個(gè)目標(biāo)，這意味著不會受管理開銷或產(chǎn)品周期的干擾。我們的商業(yè)模式可以保證安全和進(jìn)步等都不受短期商業(yè)壓力的影響。”

該公告或許也解釋了伊爾亞為何離開OpenAI。

日前，據(jù)外媒報(bào)道，自去年12月以來，OpenAI的年化收入翻倍，達(dá)到34億美元，其中32億美元來自訂閱和API（應(yīng)用接口）訪問。而公司CEO山姆·奧特曼（Sam Altman）也被曝已告知股東，公司正在考慮調(diào)整治理結(jié)構(gòu)，將轉(zhuǎn)為不受非營利性董事會控制的營利性公司，此舉被指意在為IPO（首次公開募股）鋪路。

伊爾亞在5月宣布離職時(shí)表示，OpenAI的發(fā)展軌跡堪稱奇跡，相信OpenAI將在山姆·奧特曼（Sam Altman）、總裁格雷戈里·布羅克曼（Greg Brockman）、首席技術(shù)官米拉·穆拉蒂（Mira Murati）以及雅庫布·帕喬基（Jakub Pachocki，新任首席科學(xué)家）的領(lǐng)導(dǎo)下，打造既安全又有益的AGI（通用人工智能）。

伊爾亞在2015年參與創(chuàng)立了OpenAI。當(dāng)年，他參加了時(shí)任Y Combinator總裁奧特曼的一場晚宴，并遇到了埃隆·馬斯克（Elon Musk）和布羅克曼，當(dāng)時(shí)他們就公司的非營利性達(dá)成一致。

2022年底，聊天機(jī)器人ChatGPT發(fā)布，OpenAI瞬間出圈，走紅全球。

此后，OpenAI每年都會推出重磅新品，2023年3月，GPT-4發(fā)布；今年5月，多模態(tài)全能大模型GPT-4o發(fā)布，此后與蘋果合作接入GPT。

要“光鮮的產(chǎn)品”還是安全

人們對GPT-5、超級智能更加期待的同時(shí)，對于安全的擔(dān)憂也開始出現(xiàn)。

2023年底，奧特曼就曾因此陷入“宮斗”風(fēng)波，被OpenAI董事會解雇。事件最終以奧特曼重返公司復(fù)職并重組董事會告終，伊爾亞也從董事會名單中消失。

彼時(shí)，據(jù)消息人士稱，穆拉蒂曾告訴員工，一封關(guān)于Q*（發(fā)音為 Q-Star）AI取得突破的信件促使董事會采取了解雇行動。

OpenAI在Q*上取得的進(jìn)展，讓部分公司內(nèi)部人士相信，這可能是他們找到“超級智能（即AGI）”的突破。OpenAI將AGI定義為“比人類更聰明的AI系統(tǒng)”。

伊爾亞是否真的看見了Q*也一直是人們關(guān)注的焦點(diǎn)，奧特曼在公開采訪中也被多次問及，而他反復(fù)表示了對伊爾亞的愛戴和尊敬。

今年5月，伊爾亞宣布離職，幾小時(shí)后，OpenAI核心安全團(tuán)隊(duì)“超級對齊”的負(fù)責(zé)人楊·萊克（Jan Leike）也宣布離職。據(jù)報(bào)道，隨著兩位領(lǐng)導(dǎo)的離開，超級對齊團(tuán)隊(duì)也被解散，將納入其他研究工作當(dāng)中。

消息人士透露，注重AI系統(tǒng)安全的員工已對奧特曼的領(lǐng)導(dǎo)失去信心。萊克在宣布離職后，也發(fā)帖怒斥OpenAI及領(lǐng)導(dǎo)層“重視光鮮的產(chǎn)品，安全文化和流程不再受到重視”。

作為OpenAI早期投資人的馬斯克也多次抨擊OpenAI忘記初衷，并一度將其告上法庭，要求OpenAI恢復(fù)開源，并要求法院下達(dá)禁令，禁止OpenAI、布羅克曼和奧特曼以及微軟從該公司的通用人工智能技術(shù)中獲利。

在OpenAI與蘋果合作后，馬斯克更是炮轟稱集成了OpenAI技術(shù)的iPhone將會是令人毛骨悚然的“間諜軟件”。

OpenAI也采取了多項(xiàng)措施，包括引入新的團(tuán)隊(duì)、成立由董事會主導(dǎo)的安全委員會，也不止一次發(fā)布聲明強(qiáng)調(diào)對于安全的重視。

當(dāng)?shù)貢r(shí)間6月11日，穆拉蒂在一場《財(cái)富》雜志的活動上就IPO傳聞及馬斯克的批評等作出了回應(yīng)，她表示近期OpenAI的招聘意味著公司將進(jìn)入下一階段，而最大的風(fēng)險(xiǎn)是利益相關(guān)者誤解了技術(shù)。

穆拉蒂在活動上透露，OpenAI實(shí)驗(yàn)室里的模型，其實(shí)與公開模型之間不存在很大差距。

她表示：“這是一種與以往完全不同的技術(shù)推廣方式。這是個(gè)很好的機(jī)會，因?yàn)樗茏屓藗儏⑴c進(jìn)來，并對這些技術(shù)的能力和風(fēng)險(xiǎn)有更直觀的了解，從而為先進(jìn)AI的到來做好準(zhǔn)備，這里面蘊(yùn)含著巨大的機(jī)會?！彼J(rèn)為，經(jīng)常談?wù)擄L(fēng)險(xiǎn)是正常的，因?yàn)榇_實(shí)非常重要，“但如果我們不相信這些機(jī)會是巨大的，我們也不會去做這件事?！?/P>