編者按：ChapGPT 背后公司的老板是一位很像比爾·蓋茨的人。但他最突出的能力不在于技術(shù)，而在于洞悉未來與說服人的本領(lǐng)。正是因為 OpenAI 采取了讓利的策略，讓這家創(chuàng)業(yè)公司拿到了巨額投資，同時也因為它沒有太多顧忌地將 AI 技術(shù)推向消費者，從而成為有史以來突破一億用戶最快的組織。對于未來，山姆·奧特曼（Sam Altman）很樂觀，但他知道你也許會擔(dān)心。文章來自編譯。

【資料圖】

我第一次見到 山姆·奧特曼（Sam Altman） 是在 2019 年夏天。幾天前，微軟同意向他那家成立 3 年的初創(chuàng)公司 OpenAI 投資 10 億美元。在他的建議下，我們到離他位于舊金山的家不遠(yuǎn)的一家現(xiàn)代風(fēng)格的小餐館吃晚飯。

吃到一半時，他舉起了他的 iPhone，好讓我看到他用了過去幾個月的時間與全球最大科技公司之一談下來的合同。上面寫道，微軟投資的數(shù)十億美元將幫助 OpenAI 開發(fā)出所謂的通用人工智能 (AGI)，也就是一種可以做人類大腦能做的任何事情的機(jī)器。

后來，當(dāng)奧特曼喝著甜酒當(dāng)作甜點時，他把自己的公司比作曼哈頓計劃。他說美國在二戰(zhàn)期間制造原子彈的努力是一個“OpenAI 級別的項目——我們的抱負(fù)是渴望做到那種程度”，說話的口吻平常到仿佛他在討論明天的天氣預(yù)報一樣。

他相信 AGI 會給世界帶來前所未見的繁榮和財富。他還擔(dān)心他的公司正在開發(fā)的技術(shù)可能會造成嚴(yán)重傷害——傳播虛假信息，破壞就業(yè)市場。甚至摧毀我們所知道的世界。

他說：“我盡量開誠布公。我做的是不是好事？還是真的很糟糕？”

2019 年的時候說這樣的話，聽起來仿佛在看科幻小說。

2023 年，人們開始懷疑奧特曼的先見之明是不是超出了他們的想象。

現(xiàn)在 OpenAI 已經(jīng)發(fā)布了在線聊天機(jī)器人 ChatGPT，任何有互聯(lián)網(wǎng)連接的人與能回答各種問題的技術(shù)都只要一步之遙——比如有機(jī)化學(xué)亟待解決的問題，寫一篇關(guān)于馬塞爾·普魯斯特與他的瑪?shù)铝盏?2000 字的學(xué)期論文，甚至生成一臺計算機(jī)在筆記本電腦屏幕上投放數(shù)字雪花的程序這樣的要求都可以滿足。所有這些似乎都是人類才具備的技能。

隨著人們意識到這項技術(shù)也是一種傳播謊言，甚至是說服人們做他們不應(yīng)該做的事情的手段，一些批評者指責(zé)奧特曼的魯莽行為。

比如最近有一千多名人工智能專家和技術(shù)領(lǐng)袖呼吁 OpenAI 等公司暫停在 ChatGPT 等系統(tǒng)上的工作，稱它們“對社會和人類構(gòu)成了極大風(fēng)險”。

然而，當(dāng)人們表現(xiàn)得好像奧特曼幾乎實現(xiàn)了他長期以來的愿景時，他卻開始反擊了。

他在最近的一個下午告訴我：“對這些系統(tǒng)的炒作——即便我們希望的一切從長遠(yuǎn)看都是對的——但在短期內(nèi)則是完全失控的”。他說，需要時間來更好地了解這些系統(tǒng)最終會如何改變世界。

很多行業(yè)領(lǐng)導(dǎo)者、人工智能研究人員以及權(quán)威人士都把 ChatGPT 視為一項根本性的技術(shù)轉(zhuǎn)變，認(rèn)為它跟網(wǎng)絡(luò)瀏覽器或 iPhone 的發(fā)明一樣重要。但很少有人能就這項技術(shù)的未來達(dá)成一致。

部分人認(rèn)為它將帶來一個烏托邦，人人都將擁有所需要的一切時間與金錢。其他人則認(rèn)為它會毀滅人類。還有一些人花費了大量時間來爭論，質(zhì)疑這項技術(shù)根本不像每個人所說的那么強(qiáng)大，堅持認(rèn)為天堂與世界末日都不像看起來那么近。

奧特曼來自圣路易斯郊區(qū)的，今年 37 歲，既是創(chuàng)業(yè)者也是投資者。他長得很瘦，一臉孩子氣，盡管外面波浪滔天，他卻巍然不動。作為 OpenAI 的首席執(zhí)行官，不知怎地，這些看似矛盾的觀點在他身上都有體現(xiàn)，似乎在希望將這種奇怪、強(qiáng)大、有缺陷的技術(shù)推向未來時能平衡無數(shù)的可能性。

這意味著他經(jīng)常受到來自各個方面的批評。但與他最親近的人認(rèn)為這是理所當(dāng)然的。 OpenAI 總裁 Greg Brockman 說：“如果你能同時讓兩個極端的人都感到不安，那你肯定就做對了?！?/p>

與奧特曼呆在一起，就是為了了解硅谷將推動這項技術(shù)向前發(fā)展，盡管硅谷自己也不太確定其潛在影響是什么。在我們 2019 年的那次晚餐上，他曾引用了曼哈頓計劃負(fù)責(zé)人羅伯特·奧本海默的話，后者認(rèn)為原子彈是科學(xué)進(jìn)步的必然產(chǎn)物。 他說：“技術(shù)之所以會發(fā)生，是因為它是可能的”。 （奧特曼指出，仿佛命中注定，他跟奧本海默都是同一天生日。）

他相信不管是以何種形式，人工智能都會發(fā)生，它會做出連他自己都無法想象的奇妙事情，但我們可以找到緩和人工智能可能造成的危害的方法。

這種態(tài)度也是奧特曼自身軌跡的體現(xiàn)。在一套有效的個人技能的推動下，他的生活一直都是芝麻開花節(jié)節(jié)高——而且我們還沒提到他的運(yùn)氣。他相信會發(fā)生的是好事而不是壞事，這是說得過去的。

但如果他錯了，還有一個逃生口：在與微軟等投資者的合同中，OpenAI 的董事會保留了隨時關(guān)閉該技術(shù)的權(quán)利。

素食的肉牛農(nóng)場主

與標(biāo)志上除了行車路線以外，還有一條警告：“小心奶?！薄?/p>

奧特曼周末的度假去處是加州納帕市的一個牧場，那里有農(nóng)場工人種植釀酒葡萄，飼養(yǎng)奶牛。

這一周，奧特曼和他的搭檔、澳大利亞軟件工程師 Oliver Mulherin 住在舊金山市中心俄羅斯山（Russian Hill）的一所房子里。但隨著星期五的到來，他們搬到了牧場，一個安靜的地方，位于布滿青草的巖石山丘之間。那間房子已經(jīng)有 25 年的歷史，經(jīng)過了改建，看起來既樸實又現(xiàn)代。覆蓋外墻的 Cor-10 鋼已完全生銹。

接近他的住處時，可以看到在綠色原野與碎石路上閑逛的奶牛。

奧特曼這個人好像活在矛盾之中，這一點即便在他的度假屋里也是如此：一個飼養(yǎng)肉牛的素食主義者。他說他的伴侶喜歡這些動物。

在最近一次的下午，我們一起在牧場散步，途中在一個小湖邊停下來休息。眺望水面，我們再次討論起人工智能的未來。

自 2019 年以來，他發(fā)出的訊息并沒有太大變化。但他的話現(xiàn)在更加大膽了。

他說，他的公司正在開發(fā)的技術(shù)將“解決我們最緊迫的一些問題，將真正提高人們的生活水平，并為人類的意志與創(chuàng)造力找到更好的用途?！?/p>

他不確定這個東西將解決什么問題，但關(guān)于有哪些可能性，他認(rèn)為 ChatGPT 顯示出了一些初步跡象。然后馬上他又擔(dān)心起如果同樣的技術(shù)落入到壞人手中時，可能會造成的嚴(yán)重危害來。

奧特曼傾向用仿佛已經(jīng)存在的口吻來描述未來。在描述時他的那種樂觀態(tài)度似乎與當(dāng)今世界的氛圍格格不入。與此同時，他有辦法對另一方的意見快速點頭認(rèn)可。

對此，曾與奧特曼一起共事，擔(dān)任過 OpenAI 的董事會顧問，身為風(fēng)投公司 Thrive Capital 合伙人的Kelly Sims表示，這就好像他一直在跟自己爭論一樣。

她說：“在一場對話中，他既是辯論俱樂部的正方，也是反方?！?/strong>

他是硅谷的產(chǎn)物，在 2010 年代中期發(fā)展得如此迅速、如此得意忘形的那個科技中樞的產(chǎn)物。作為硅谷創(chuàng)業(yè)加速器、種子輪投資者 Y Combinator 的總裁， 2014 年到 2019 年間，他為雨后春筍般冒出來的新公司提供建議——而且是足夠精明的建議，有好幾家家喻戶曉的公司（包括 Airbnb、Reddit 和 Stripe）都是他親自投資的。對于能夠看出一項技術(shù)何時將取得指數(shù)級的增長——然后站在風(fēng)頭浪尖走向未來，他感到很自豪。

但他也是一個奇怪的、不斷滋長的在線社區(qū)的產(chǎn)物，大概在奧特曼來到硅谷的同時，這個社區(qū)也開始擔(dān)心起人工智能有朝一日會毀滅世界。這一運(yùn)動的成員被稱為是理性主義者或利他主義者，他們在創(chuàng)立 OpenAI 方面發(fā)揮了重要作用。

問題是奧特曼的兩面性最終能否兼容：如果這項技術(shù)的發(fā)展可能以災(zāi)難告終的話，那么站上風(fēng)頭浪尖還有沒有意義？奧特曼當(dāng)然下定決心要看看結(jié)果如何。

他打算這么做未必是受金錢驅(qū)使。就像硅谷的許多個人財富都已經(jīng)與各種各樣的上市及非上市公司捆綁在一起一樣，奧特曼的財富也沒有得到很好的記錄。但當(dāng)我們在他的牧場漫步時，他第一次告訴我，他手上并沒有 OpenAI 的股份。他唯一能從公司賺到的錢是約 65000 美元的年薪，再加上Y Combinator 過去曾投資過這家公司，他手頭也有一小部分。

關(guān)于奧特曼的動機(jī)，他的長期導(dǎo)師、Y Combinator 創(chuàng)始人保羅·格雷厄姆 (Paul Graham) 是這樣解釋的：“他為什么要從事不能讓他變得更富有的事情？一個答案是，很多人一旦有了足夠的錢之后就會這樣做，奧特曼可能就是處于這個原因。另一個是他喜歡權(quán)力?！?/p>

“比爾·蓋茨年輕的時候肯定就是他這樣的”

私立預(yù)科學(xué)校約翰·巴勒斯學(xué)校 (John Burroughs School)是以 19 世紀(jì)美國博物學(xué)家和哲學(xué)家的名字來命名的。1990 年代后期， 該校邀請了一位獨立顧問來觀察其位于圣路易斯郊區(qū)的校園的日常生活，并給出評論。

顧問的意見當(dāng)中包括一條嚴(yán)厲批評：學(xué)生群體中充斥著恐同癥。

2000 年代初期，約翰·伯勒斯學(xué)校 17 歲的學(xué)生奧特曼開始致力與改變這里的文化，他獨自一人說服老師在教室門貼上“安全空間”的標(biāo)志，以此來作為支持同性戀學(xué)生（比如他）的聲明。大四那年，他正式出柜，說他十幾歲時的圣路易斯對于同性戀來說不是一個容易呆的地方。

教授該校大學(xué)預(yù)修計算機(jī)科學(xué)課程的Georgeann Kepchar將奧特曼視為她教過的最有才華的計算機(jī)科學(xué)學(xué)生之一，并稱他具有將人們推向新方向的罕見本領(lǐng)。

她說：“他有創(chuàng)造力，有遠(yuǎn)見，再加上有雄心壯志和人格力量，可以說服其他人與他合作，能將他的想法付諸實踐”。奧特曼還告訴我，他曾要求一位特別恐同的老師張貼“安全空間”標(biāo)志，就為了嘲笑一下那個人。

與奧特曼一起工作了十年的格雷厄姆在這個來自圣路易斯的人身上看到了同樣的說服力。

格雷厄姆說：“他天生就有說服別人的能力。如果這不是天生的能力，那至少在他 20 歲之前就已經(jīng)完全培養(yǎng)出來了。我第一次見到奧特曼是在他 19 歲的時候，我記得當(dāng)時我在想：‘比爾·蓋茨年輕的時候肯定就是他這樣的。 "”

兩人相識于 2005 年，當(dāng)時奧特曼的創(chuàng)業(yè)公司向 Y Combinator 的第一批次訓(xùn)練營提出了申請。他贏得了一個名額，并且拿到了 10000 美元的種子資金，在斯坦福大學(xué)上到大二之后，他退學(xué)創(chuàng)辦了自己的新公司 Loopt，這是一家社交媒體初創(chuàng)企業(yè)，可以讓人們與家人朋友分享自己的位置。

回憶起當(dāng)年在斯坦福的短暫停留，他說自己從玩撲克的許多夜晚學(xué)到的東西比他從大多數(shù)其他大學(xué)活動中學(xué)到的還要多。大一結(jié)束后，他到吳恩達(dá)教授（教授后來創(chuàng)建了谷歌的旗艦AI實驗室）負(fù)責(zé)的人工智能與機(jī)器人實驗室工作。但玩撲克教會了奧特曼如何讀懂人和評估風(fēng)險。

撲克向他展示了“如何逐步觀察人的行為模式，如何在非常不完善的信息下做出決定，為了獲取更多信息，如何（在某種意義上）決定什么時候忍受痛苦是值得的”。他在納帕的牧場漫步時告訴我：“這是很好的游戲?！?/p>

在出售 Loopt 獲得微薄回報后，他以兼職合伙人的身份加入了 Y Combinator。三年后，格雷厄姆辭去了公司總裁一職，出乎硅谷許多人的意料，他選擇了當(dāng)時才 28 歲的奧特曼作為他的繼任者。

奧特曼不是碼農(nóng)、不是工程師或 AI 研究人員。他是制定議程、將團(tuán)隊凝聚到一起并達(dá)成交易的那個人。接任 Y Combinator 的總裁后，他幾乎毫不猶豫地開啟公司的擴(kuò)張勢頭，不僅啟動了一支新的投資基金，成立了一個新的研究實驗室，還將每年提供咨詢的公司數(shù)量增加到數(shù)百家。

他還開始從事投資公司以外的幾個項目，其中就包括了 OpenAI，這是 2015 年他與埃隆·馬斯克等團(tuán)隊共同創(chuàng)立的一家非營利組織。 奧特曼自己也承認(rèn)，Y Combinator 越來越擔(dān)心他的注意力過于分散了。

他決心將注意力重新集中在一個（如他所說那樣）將對世界產(chǎn)生真正影響的項目上。他考慮過政治，但最終選擇了人工智能。

根據(jù)奧特曼的弟弟 Max 的說法，奧特曼相信自己是為數(shù)不多的可以通過 AI 研究讓世界發(fā)生重大改變的人之一，而且不是像很多人那樣靠政治來做到這一點。

2019 年，正當(dāng) OpenAI 的研究剛剛起步時，奧特曼辭去了 Y Combinator 總裁一職，個噢來接手OpenAI，把自己的注意力放在一家員工不到 100 人、還不確定該如何支付賬單的公司。

在一年之內(nèi)，他把 OpenAI 變成了一家擁有營利性部門的非營利組織。這樣一來，他就可以籌集到所需的資金，去建造一臺可以做人腦能做的任何事情的機(jī)器了。

融資“100 億美元”

2010 年代中期，奧特曼與當(dāng)時的男友、他的兩個兄弟以及他們的女朋友合租了一套三居室、三浴室的舊金山公寓。2016 年，兄弟倆分道揚(yáng)鑣，不過大家還都在一個聊天群里面，他們花了很多時間互相吐槽，只有兄弟姐妹才能做到這樣。然后，有一天，奧特曼發(fā)了一條短信，說他計劃為公司的研究籌集 10 億美元。

后來不到一年的時間，他就做到了。在愛達(dá)荷州太陽谷（Sun Valley）舉行的科技領(lǐng)袖年度聚會（通常被稱為“億萬富翁的夏令營”）上，在遇到了微軟首席執(zhí)行官薩蒂亞·納德拉后，他親自與納德拉以及微軟的首席技術(shù)官凱文·斯科特（Kevin Scott）談判，最終達(dá)成了協(xié)議。

幾年后，奧特曼再次給他的兄弟們發(fā)了一條短信，說他打算再籌集 100 億美元。今年一月，他又做到了，跟微軟又簽訂了一份合同。

OpenAI 總裁 Brockman 表示，奧特曼的才能在于了解別人想要什么。Brockman告訴我： “他總是設(shè)法找到對一個人最重要的東西——然后弄清楚如何把別人想要的東西給到對方。這就是他反復(fù)使用的算法?！?/p>

這份協(xié)議讓 OpenAI 與微軟站在了一場運(yùn)動的中心——而這場運(yùn)動有望重塑從搜索引擎到電子郵件應(yīng)用乃至于在線輔導(dǎo)的一切。所有這一切發(fā)生得太快，快到甚至讓那些幾十年來一直在追蹤這項技術(shù)的人都感到驚訝。

在這種狂熱之中，奧特曼還是一如既往地冷靜——盡管他確實說他用 ChatGPT 來幫助快速總結(jié)所收到的大量電子郵件和文件。

斯科特認(rèn)為奧特曼最終將可以與蓋茨、史蒂夫·喬布斯以及馬克·扎克伯格比肩。

他說：“這些人給科技行業(yè)乃至世界的結(jié)構(gòu)留下了不可磨滅的印記。我認(rèn)為奧特曼將成為其中的一員。”

問題是，與蘋果、微軟以及 Meta 剛剛起步的日子不同的是，現(xiàn)在人們很清楚技術(shù)將如何改變世界——以及它會有多么危險。

站在中間的那個人

今年 3 月，奧特曼在推特上發(fā)布了一張自拍，沐浴在淡橙色的閃光下，照片上的他微笑著站在一位金發(fā)女人與一個戴著淺頂軟呢帽的大胡子男人之間。

這位女士是加拿大歌手Grimes，馬斯克的前妻，戴帽子的是Eliezer Yudkowsky，他自稱是人工智能研究人員，并且相信人工智能有朝一日會毀滅人類，或許在這一點上沒人比他更加堅定。

這張自拍照是奧特曼在他的公司舉辦的派對上拍攝的——這說明了他與這種思維方式的接近程度。但他對人工智能的危險有自己的看法。

Yudkowsky 和他的著作對于 OpenAI 以及 DeepMind （另一家致力于開發(fā)通用人工智能的實驗室）的創(chuàng)立發(fā)揮了關(guān)鍵作用。。

他還幫助催生了一個龐大的理性主義者與有效利他主義者的在線社區(qū)。這群人堅信，人工智能會給人類帶來生存風(fēng)險。這個具有驚人影響力的團(tuán)體的代表是許多頂級人工智能實驗室（包括 OpenAI 在內(nèi)）的研究人員。他們并不認(rèn)為這種態(tài)度是虛偽：他們當(dāng)中有許多人認(rèn)為，正因為他們比其他任何人都更清楚地了解個中的危險，所以他們才是開發(fā)這項技術(shù)的最佳人選。

奧特曼認(rèn)為，有效利他主義者對 AI 的崛起發(fā)揮了重要作用，他們提醒這個行業(yè)要注意危險。他還認(rèn)為這幫人夸大了這些危險。

隨著 OpenAI 開發(fā)出 ChatGPT，包括谷歌和 Meta 在內(nèi)的許多其他公司也在開發(fā)類似的技術(shù)。但選擇與世界分享技術(shù)的是奧特曼與 OpenAI。

這個領(lǐng)域有很多人批評這一決定，認(rèn)為這引發(fā)了一場技術(shù)的發(fā)布競賽。這些技術(shù)會把東西搞錯，會捏造事情，并可能很快會被用來迅速傳播虛假信息。最近，意大利政府以擔(dān)心隱私問題和對向未成年人提供露骨內(nèi)容為由暫時禁止該國使用 ChatGPT。

奧特曼認(rèn)為，與其在全面發(fā)布之前完全閉門開發(fā)和測試這項技術(shù)，不如逐步將它共享出來會更安全，這樣每個人都可以更好地了解有哪些風(fēng)險以及如何應(yīng)對這些風(fēng)險。

他告訴我，這將是一次“進(jìn)展非常緩慢的起飛”。

當(dāng)我問奧特曼，當(dāng)人腦可以做的任何事情機(jī)器也可以做時，會不會最終將人類勞動的價格降為零，他表示反對。他說他沒法想象一個人類智慧將毫無用處的世界。

如果他錯了，他認(rèn)為自己也可以彌補(bǔ)人類。

他已經(jīng)對 OpenAI 進(jìn)行了重組，讓這家公司變成他所謂的有利潤上限（capped-profit）的公司。正因為次，他才可以通過向微軟等投資者承諾出讓利潤來尋求數(shù)十億美元的融資。但這些利潤是有上限的，任何額外的收入都將被抽回到 2015 年成立的那家 OpenAI 非營利組織。

他有一個宏偉想法，那就是 OpenAI 將通過創(chuàng)建出 AGI 來獲取全世界大部分的財富，然后將這些財富重新分配給人們。在納帕，當(dāng)我們坐在他牧場中心的湖邊聊天時，他拋出了幾個數(shù)字——1000 億美元、1 萬億美元、100 萬億美元。

如果 AGI 確實能創(chuàng)造出所有這些財富的話，他不確定公司將如何重新分配這些財富。在這個新世界里，金錢可能意味著非常不一樣的東西。

但正如他曾經(jīng)告訴我的那樣：“我覺得 AGI 在這方面可以提供幫助?！?/p>

關(guān)鍵詞：