自 5 月 15 日從 OpenAI 離職后，OpenAI 前首席科學(xué)家 Ilya Sutskever 官宣了自己的新動(dòng)向。

今日凌晨，Ilya 在社媒 X 上表示自己創(chuàng)立了一家新公司——「安全超級(jí)智能」(Safe SuperIntelligence，SSI)。

該公司的目標(biāo)和產(chǎn)品非常明確、單一：追求安全的超級(jí)智能，希望通過(guò)一支精干頂尖的小團(tuán)隊(duì)取得革命性的成果，進(jìn)而實(shí)現(xiàn)這一目標(biāo)。

以下是 SSI 公司的公告：

超級(jí)智能已經(jīng)觸手可及。

構(gòu)建安全超級(jí)智能(SSI)是我們這個(gè)時(shí)代最重要的技術(shù)難題。

我們已經(jīng)啟動(dòng)了世界上第一個(gè)專注于SSI的實(shí)驗(yàn)室，目標(biāo)和產(chǎn)品都只有一個(gè)：安全超級(jí)智能。

這個(gè)實(shí)驗(yàn)室名為「Safe Superintelligence Inc」。

SSI是我們的使命、我們的名稱和我們的整個(gè)產(chǎn)品路線圖，它是我們唯一的關(guān)注點(diǎn)。我們的團(tuán)隊(duì)、投資人和商業(yè)模式都致力于實(shí)現(xiàn)SSI。

我們將安全性和能力視為通過(guò)革命性工程和科學(xué)突破來(lái)解決的技術(shù)難題。我們計(jì)劃盡快提高能力，同時(shí)確保安全性始終保持領(lǐng)先地位。

這樣，我們就可以安心地?cái)U(kuò)展規(guī)模。

我們專注于一個(gè)目標(biāo)(SSI)，這意味著不會(huì)受到管理開(kāi)銷或產(chǎn)品周期的干擾。我們的商業(yè)模式可以確保安全、進(jìn)步等都不受短期商業(yè)壓力的影響。

我們是一家美國(guó)公司，在帕洛阿爾托和特拉維夫均設(shè)有辦事處。在那里，我們有著深厚的根基，并有能力招募頂尖的技術(shù)人才。

我們正在組建一支精干、頂尖的團(tuán)隊(duì)，由世界上最優(yōu)秀的工程師和研究人員組成。他們將專注于SSI，不做其他任何事情。

如果你是這樣的人，我們將提供一個(gè)機(jī)會(huì)，讓你從事一生的事業(yè)，幫助解決我們這個(gè)時(shí)代最重要的技術(shù)挑戰(zhàn)。

現(xiàn)在是時(shí)候了，加入我們吧。

公告地址：https://ssi.inc/

公告中出現(xiàn)的另外兩位聯(lián)合創(chuàng)始人分別為前蘋(píng)果AI高管、Y-Combinator 的合伙人Daniel Gross和前OpenAI技術(shù)團(tuán)隊(duì)成員Daniel Levy。

Daniel Gross表示自己很高興和榮幸與Ilya和Daniel Levy開(kāi)啟這一新事業(yè)。

Daniel Levy則表示，很難想象在人類歷史的這一時(shí)刻從事任何其他工作。

Ilya 與 OpenAI 的故事

Ilya Sutskever 是以色列裔加拿大人，出生于前蘇聯(lián)，五歲隨家人移民耶路撒冷(因此他精通俄語(yǔ)、希伯來(lái)語(yǔ)和英語(yǔ))，2002 年搬到加拿大生活。

在多倫多大學(xué)讀本科期間，Ilya Sutskever 從一個(gè)叫做「改進(jìn)隨機(jī)鄰域嵌入算法」的項(xiàng)目開(kāi)始，開(kāi)始了與 Geoffrey Hinton 的合作，后來(lái)在攻讀博士學(xué)位時(shí)正式加入了 Hinton 的團(tuán)隊(duì)。

后來(lái)的事情我們都熟悉：2012 年，Hinton 帶著 Ilya Sutskever 和另一名研究生 Alex Krizhevsky 建立了一個(gè)名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，其識(shí)別照片中物體的能力遠(yuǎn)遠(yuǎn)超過(guò)了當(dāng)時(shí)的其他系統(tǒng)。

Ilya Sutskever(左)、Alex Krizhevsky(中)、Geoffrey Hinton(右)

AlexNet 是深度學(xué)習(xí)的爆發(fā)時(shí)刻。經(jīng)歷了多年的失敗之后，他所在的團(tuán)隊(duì)最早證明了模式識(shí)別問(wèn)題可以被解決——秘決就是一個(gè)經(jīng)過(guò)大量數(shù)據(jù)和算力訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)。

這種思路從計(jì)算機(jī)視覺(jué)延伸到了自然語(yǔ)言處理領(lǐng)域，同樣是ChatGPT取得如今成就的重要因素，包括Sora在視頻生成領(lǐng)域的成功也離不開(kāi)這兩點(diǎn)。

2012 年畢業(yè)后，Ilya Sutskever 在斯坦福大學(xué)跟隨吳恩達(dá)做了兩個(gè)月的博士后，隨后返回多倫多大學(xué)并加入了Hinton 研究小組的衍生公司 DNNResearch 。

2013 年 3 月，Google 收購(gòu)了 DNNResearch，聘請(qǐng)了Ilya Sutskever 擔(dān)任 Google Brain 的研究科學(xué)家。

在谷歌，Ilya Sutskever展示了如何深度學(xué)習(xí)的模式識(shí)別能力應(yīng)用于數(shù)據(jù)序列，包括單詞、句子。他與Oriol Vinyals和Quoc Le合作創(chuàng)建了序列到序列(Seq2seq)學(xué)習(xí)算法，深度參與了TensorFlow的研究，也是AlphaGo論文的眾多作者之一。

對(duì)語(yǔ)言的濃厚興趣，或許推動(dòng)了Ilya Sutskever加入OpenAI的腳步。

2015 年 7 月，Ilya Sutskeve 參加了 Y Combinator 總裁 Sam Altman 在 Sand Hill Road 一家餐廳舉辦的晚宴，在那里遇到了 Elon Musk 和 Greg Brockman。

那場(chǎng)晚宴上誕生了OpenAI。在場(chǎng)的人就一件事達(dá)成了一致：它需要是一個(gè)非營(yíng)利組織，沒(méi)有任何競(jìng)爭(zhēng)性的激勵(lì)措施來(lái)淡化其使命，還需要世界上最好的人工智能研究人員。

2015 年底，Ilya Sutskever 以「研究總監(jiān)」的頭銜開(kāi)始領(lǐng)導(dǎo) OpenAI 的研究和運(yùn)營(yíng)，這個(gè)組織還吸引了幾位世界知名的人工智能研究者，包括「GAN 之父」 Ian Goodfellow、UC伯克利的 Pieter Abbeel 以及 Andrej Karpathy。

2016 年，OpenAI 的第一個(gè) GPT 大型語(yǔ)言模型問(wèn)世。從GPT-2 到 GPT-3，模型的能力越來(lái)越強(qiáng)大，證明了這條路線的實(shí)際正確性。每一次發(fā)布，OpenAI 都在不斷提高人們的想象力上限。

但I(xiàn)lya Sutskever卻透露，真正讓OpenAI出圈的ChatGPT發(fā)布時(shí)，公司內(nèi)部對(duì)此的期望值很低：「你問(wèn)它一個(gè)事實(shí)性的問(wèn)題時(shí)，它會(huì)給你一個(gè)錯(cuò)誤的答案。我以為它會(huì)很平淡無(wú)奇，人們會(huì)說(shuō)：你為什么要做這個(gè)?這太無(wú)聊了!」

將GPT模型封裝在一個(gè)易于使用的界面中并免費(fèi)開(kāi)放，讓數(shù)十億人第一次了解到 OpenAI 正在構(gòu)建的東西。在此之前， ChatGPT 背后的大型語(yǔ)言模型已經(jīng)存在了幾個(gè)月。

ChatGPT的成功，讓創(chuàng)始團(tuán)隊(duì)受到了前所未有的關(guān)注。

2023年，OpenAI 的首席執(zhí)行官Sam Altman花了大半個(gè)夏天的時(shí)間，進(jìn)行了長(zhǎng)達(dá)數(shù)周的外聯(lián)之旅——與政客們交談，在世界各地座無(wú)虛席的禮堂發(fā)表演講。

作為首席科學(xué)家，Ilya Sutskever保持著低調(diào)的風(fēng)格，也不經(jīng)常接受采訪，不像公司的其他創(chuàng)始成員那般是個(gè)公眾人物，而是把更多的精力放在了GPT-4上。

今年早些時(shí)候，Hinton曾公開(kāi)表示對(duì)自己幫助發(fā)明的技術(shù)感到恐懼：「我從沒(méi)見(jiàn)過(guò)更高智能水平的東西被遠(yuǎn)遠(yuǎn)更低智能水平的東西控制的案例。」

作為Hinton的學(xué)生，Ilya Sutskever沒(méi)有對(duì)這一言論發(fā)表評(píng)論，但他對(duì)超級(jí)智能負(fù)面影響的關(guān)注表明他們是同道中人。

隨著 GPT-4 以及后續(xù)一系列更強(qiáng)大的大語(yǔ)言模型的更新，以Ilya Sutskever為代表的一部分OpenAI 成員越來(lái)越擔(dān)憂 AI 的可控性問(wèn)題。

于是就有了后面 Ilya Sutskever 突然與 Sam Altman 所代表的派系決裂、離職收?qǐng)龅墓适隆?/p>

Ilya Sutskever還分享了與Sam Altman、Greg Brockman和Mira Murati等人的合照

如今，Ilya成立了新的公司，也重新開(kāi)始了自己對(duì)AI的理想與堅(jiān)持。期待SSI能為人工智能的發(fā)展帶來(lái)新的驚喜。

參考鏈接：https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence