智東西
編譯 陳駿達
編輯 Panken

智東西6月20日消息，今天凌晨，一個多月前正式從OpenAI離職的OpenAI聯(lián)合創(chuàng)始人兼前首席科學(xué)家Ilya Sutskever在社交平臺X上官宣，自己將建立全世界第一個直接以安全超級智能為目標的AI實驗室——Safe Superintelligence Inc.（SSI，安全超級智能）。

▲Ilya官宣創(chuàng)業(yè)的推文（圖源：X）

SSI的官網(wǎng)上寫道，SSI只有一個目標和一個產(chǎn)品：安全超級智能。公司將通過革命性的工程和科學(xué)突破，同時追求安全性與AI能力，并優(yōu)先確保安全性。

由于SSI的目標清晰，他們不會因為管理費用或產(chǎn)品周期分心，也不會受到短期商業(yè)壓力的影響。公司創(chuàng)始人有豐富的從業(yè)背景和極高的聲譽，因此籌集資金不會成為SSI面臨的挑戰(zhàn)。

SSI強調(diào)公司目前正在組織一支精干的團隊，都是由專注于實現(xiàn)安全超級智能的優(yōu)秀的工程師和研究人員構(gòu)成的。他們在美國帕洛阿爾托和以色列特拉維夫設(shè)立辦事處，這是因為3位創(chuàng)始人在當(dāng)?shù)赜写罅康娜嗣}積累。

與Ilya一同創(chuàng)辦SSI的另外兩位創(chuàng)始人是Daniel Gross和Daniel Levy。Daniel Gross是一名AI行業(yè)的老兵，十幾歲的時候就創(chuàng)建了搜索引擎Greplin（后更名為Cue），他21歲時Cue被蘋果收購，他也加入蘋果領(lǐng)導(dǎo)AI和搜索部門。他在2017年離開蘋果，到硅谷知名孵化器Y Combinator創(chuàng)建了專門負責(zé)投資AI的項目。另一位創(chuàng)始人Daniel Levy畢業(yè)于斯坦福大學(xué)，并在OpenAI與Ilya共事過一段時間。

▲SSI公司的三位創(chuàng)始人（從左至右：Daniel Gross、Ilya Sutskever、Daniel Levy）

一、將實現(xiàn)“核能級別”的安全水平，一步到位直通超級智能

以“安全超級智能”直接命名公司展現(xiàn)了Ilya和其它兩位創(chuàng)始人對AI安全問題的承諾。SSI在官網(wǎng)上寫道，超級智能已經(jīng)觸手可及了，而構(gòu)建安全超級智能是我們這個時代最重要的技術(shù)問題。

在昨日接受彭博社的獨家專訪時，Ilya透露，“這家公司的特別之處在于，它的第一個產(chǎn)品將是安全超級智能，在那之前它不會做任何其他事情”。實現(xiàn)安全超級智能是SSI的唯一使命，也是他們的整個產(chǎn)品路線圖。

▲網(wǎng)友對SSI愿景的生動闡釋（圖源：X）

SSI的團隊、投資者和商業(yè)模式都致力于實現(xiàn)SSI。Ilya稱公司不會面臨處理大型而復(fù)雜的產(chǎn)品的問題，也不會陷入激烈的競爭。

Ilya并沒有清晰地分享SSI將如何安全地實現(xiàn)超級智能。但他向彭博社透露，公司將嘗試通過AI系統(tǒng)內(nèi)部的工程突破來實現(xiàn)安全性的提升，而非依賴系統(tǒng)外部的“護欄”技術(shù)。公司產(chǎn)品的安全水平將是核能級別的安全，而不是互聯(lián)網(wǎng)公司常常掛在嘴邊的信任與安全（Trust and Safety）中的那種安全。

AI安全一直是Ilya最關(guān)心的問題。去年7月份，他在OpenAI領(lǐng)導(dǎo)組建了一個超級對齊團隊，旨在于4年內(nèi)解決引導(dǎo)和控制超級智能系統(tǒng)的問題。不過隨著OpenAI內(nèi)部的人事動蕩和權(quán)力斗爭，這一部門目前基本已經(jīng)處于解散的狀態(tài)。

Ilya曾多次就AI安全問題公開發(fā)聲。他在去年11月份進行了一場TED演講，向公眾普及了邁向AGI（通用人工智能）道路上可能存在的安全風(fēng)險。

他還參與了一部關(guān)于AI的紀錄片的拍攝，分享了自己的AGI世界觀和擔(dān)憂。他在這部紀錄片中稱，如果不加干涉，自然選擇的規(guī)律將會偏向那些優(yōu)先保障自身利益的AI系統(tǒng)，屆時人類的利益也可能受到損害。

其實，Ilya在5月15日官宣從OpenAI離職時，就已經(jīng)預(yù)告了自己接下來會有大動作。他當(dāng)時在推文中寫道，自己對未來將要發(fā)生的事情十分興奮，這個項目對他個人來說很有意義。

二、不差錢不缺算力也不缺人才，創(chuàng)始人資金人脈雄厚

創(chuàng)始人的背景給了SSI充足的底氣，讓他們能在公司官網(wǎng)寫出“我們不受短期商業(yè)壓力的影響”的表述。Ilya作為目前AI行業(yè)的頂流人物，在宣布創(chuàng)業(yè)消息后就受到廣泛關(guān)注，更有網(wǎng)友疾呼自己要給Ilya打錢支持。他一直以來都主張要優(yōu)先考慮AI安全問題，因此也深受同樣重視這一問題的技術(shù)人員的尊重，在AI行業(yè)聲譽頗高。

▲網(wǎng)友疾呼自己要給Ilya打錢（圖源：X）

但Ilya大概率不需要網(wǎng)友眾籌也能獲得大筆資金，讓他能心無旁騖地推動安全超級智能事業(yè)。雖然他在接彭博采訪時拒絕透露SSI的投資者和目前籌集到的資金，但我們能從幾位創(chuàng)始人的背景中找到些許端倪。

在Ilya還是OpenAI超級對齊部門的負責(zé)人時，OpenAI官宣了與谷歌前CEO Eric Schmidt的合作。OpenAI當(dāng)時和Eric Schmidt共同撥款1000萬美元，用于支持超級對齊技術(shù)的研究，具體包括可解釋性、可擴展的監(jiān)督等方面的探索。Eric Schmidt財力雄厚，目前凈資產(chǎn)約有250億美元，在世界財富榜上排名第74位，還曾考察過購買美國TikTok的可能性。

▲OpenAI官宣與Eric Schmidt的合作（圖源：X）

Eric Schmidt十分關(guān)注AI安全問題，還曾在2023年英國舉辦首屆全球AI安全峰會前，與DeepMind的聯(lián)合創(chuàng)始人Mustafa Suleyman聯(lián)合在英國《金融時報》上撰文呼吁加強AI監(jiān)管，提升AI公司開發(fā)的透明度。

SSI的另一位創(chuàng)始人Daniel Gross可能也擁有大量財富。2013年，也就是Daniel Gross年僅21歲時，他的創(chuàng)業(yè)公司Cue就被蘋果以4000萬-6000萬美元的價格（具體金額未披露）收購。此后他加入蘋果，領(lǐng)導(dǎo)蘋果的AI和搜索部門。

Daniel Gross還是一名活躍的天使投資人。他曾投資過打車平臺Uber、代碼托管平臺GitHub還有在2022年被Adobe公司以200億美金的高價收購的實時協(xié)作設(shè)計軟件公司Figma。他目前已經(jīng)投資過大約35家科技公司，并從中獲得不菲的收益。

在2017年加入YC后，Daniel Gross發(fā)起了YC的AI投資項目。他自己也在一年后成立了創(chuàng)業(yè)加速器和基金Pioneer，專門尋找科技領(lǐng)域的早期投資機會。

▲Daniel Gross創(chuàng)建YC AI投資項目時的博客文章（圖源：YC）

Daniel Gross還與硅谷知名投資人Nat Friedman有多次合作。Nat Friedman是一名連續(xù)創(chuàng)業(yè)者，在公司被微軟收購后進入微軟任職，官至微軟副總裁一職。在微軟收購GitHub后出任GitHub CEO。Daniel Gross和Nat Friedman一同參與了對Uber、GitHub以及Figma等公司的投資。

二人還在2023年斥資1億美元，建立了一個名為Andromeda的AI算力集群，并用這些算力來換AI初創(chuàng)公司的股權(quán)。這一算力集群擁有包括近3000塊英偉達H100 GPU在內(nèi)的大量算力基礎(chǔ)設(shè)施，光是GPU就重達近5噸?？磥鞸SI公司的算力是不用愁了。

▲Andromeda算力集群官網(wǎng)（圖源：Andromeda）

SSI公司在美國帕洛阿爾托和以色列列特拉維夫設(shè)有辦事處，他們稱公司在當(dāng)?shù)赜兄詈竦母⒂心芰φ心柬敿饧夹g(shù)人才。

帕洛阿爾托是美國舊金山灣區(qū)的重要城市，位于硅谷中心地帶，可謂是創(chuàng)業(yè)的風(fēng)水寶地。這里曾是惠普總部所在地，喬布斯小時候就在這長大，特斯拉也在這里布局了他們的全球工程與AI總部。

▲位于硅谷中心地帶的帕洛阿爾托（圖源：Google Maps）

SSI創(chuàng)始人之一的Daniel Levy大學(xué)就讀于斯坦福，而斯坦福的校園距離帕洛阿爾托的市中心只有幾分鐘的路程，這或許能讓SSI享受到斯坦福強大的校友資源。

帕洛阿爾托離蘋果公司在庫比蒂諾的總部也只有十幾公里。Daniel Gross在蘋果公司任AI和搜索部門負責(zé)人時積累的人脈或許能在創(chuàng)建SSI時派上用場。

公司的兩位創(chuàng)始人Ilya和Daniel Gross與以色列也頗有淵源。Daniel Gross出生在耶路撒冷，而Ilya是出生在俄羅斯的猶太人，5歲時隨著家人移民到以色列。Ilya在以色列開放大學(xué)學(xué)習(xí)了兩年，之后才移民到加拿大轉(zhuǎn)學(xué)到多倫多大學(xué)。在Sam Altman進行全球巡講活動時，Ilya還特別出席了在以色列特拉維夫大學(xué)的分享活動。

▲Ilya與Altman在以色列特拉維夫大學(xué)（圖源：路透社）

幾位創(chuàng)始人也向有志于開發(fā)安全超級智能系統(tǒng)的工程師和研究人員發(fā)出了邀請，讓他們加入這支精明強干的隊伍，共同解決這個時代最重要的技術(shù)挑戰(zhàn)。

結(jié)語：Ilya不忘初心，通往超級智能的道路或?qū)⒏影踩?/strong>

Ilya與他人一同創(chuàng)辦的SSI的愿景其實和OpenAI一開始的愿景頗為相似。OpenAI從成立之初就將公司的使命定義為確保AGI造福全人類，并將安全視為核心任務(wù)，但隨著公司規(guī)模的擴大和融資的需求，OpenAI逐漸轉(zhuǎn)變了自己的運營風(fēng)格和公司架構(gòu)，將增長視為公司的主要任務(wù)之一。

而Ilya在接受彭博社獨家采訪時，強調(diào)自己希望新公司SSI開發(fā)的產(chǎn)品能成為一股向善的力量，并反映人類共同認可的價值觀。Ilya認為未來將會出現(xiàn)能夠自主開發(fā)AI技術(shù)的超級智能系統(tǒng)，SSI的目標便是提升這些系統(tǒng)的安全性，同時讓這些系統(tǒng)發(fā)展出強大的能力，造福全人類。

在通往超級智能的路上，有這樣一股重視安全和人類共同利益的力量，或許能讓我們都安心不少。

來源：彭博社、SSI