2023-11-24 17:38
外媒爆：密信揭示ChatGPT進化速度令人擔憂：恐毀滅人類，OpenAI CEO奧特曼曾親口承認丨宮斗番外
“OpenAI宮斗連續(xù)劇”果然沒那么快徹底翻篇，這不，番外來了。?
突發(fā)！奧特曼上演王者歸來，重返OpenAI CEO大位：反賊全殲，科技宮斗大劇終落幕
就在剛剛！連播快一周的“OpenAI宮斗連續(xù)劇”終于迎來了最可能的大結(jié)局！山姆·奧特曼重新執(zhí)掌這家人工智能的初創(chuàng)獨角獸，出任CEO。
本周三，山姆·奧特曼重返OpenAI CEO大位，但是「罷免門」事件卻仍在激蕩。雖然人事職權(quán)方面已經(jīng)原則上恢復奧特曼的地位，但是上周五突遭罷免的原因至今仍然撲朔迷離。
EVA確信，即便首席科學家“感情用事”，其他三位董事也會從“理性”出發(fā)。
當?shù)貢r間11月23日，路透社發(fā)布獨家報道稱，在奧特曼離開公司之后，幾名研究人員向董事會寄了一封信，警告他們OpenAI已經(jīng)有了一項重大的人工智能發(fā)現(xiàn)，而這項發(fā)現(xiàn)可能會威脅到人類。知情人士表示，正是因為這些“可疑的人工智能突破”，讓董事會與奧特曼之間產(chǎn)生了較大的分歧，最終釀出罷免案。
路透社提到，OpenAI內(nèi)部正在運行一個代號為「Q*」的秘密項目，并在奧特曼被開除后，才將這個項目的細節(jié)呈報董事會。
來自O(shè)penAI的一位線人透露，上述內(nèi)部信息由公司的CTO Mira Murati親自發(fā)布，目的是提醒內(nèi)部員工在私下接受媒體采訪時，要注意言論的準確性對公司的影響。
Mira Murati在奧特曼被罷免后臨時出任CEO僅僅一天，基于團隊穩(wěn)定，“理性”占據(jù)上風的她很快選擇了“站隊”前領(lǐng)導。
無獨有偶，馬斯克日前也曾經(jīng)截獲一封據(jù)稱來自O(shè)penAI前員工的告密信——奧特曼曾經(jīng)要求研究人員推遲向管理層匯報“秘密項目”的開發(fā)進度，曾有對此提出質(zhì)疑的員工表達“不符合企業(yè)文化理念”而遭到開除。
此外，本次風波的決定性人物——OpenAI首席科學家Ilya Sutskever曾經(jīng)私下向同事透露，奧特曼擅自組建了兩支開發(fā)團隊，卻在打造同一款產(chǎn)品；此外，奧特曼在給董事會的工作匯報當中，分別向兩位董事提交了兩種截然不同的說法。
種種跡象均指向，奧特曼似乎刻意在隱瞞著什么。
「Q*」全稱為Q-Star，一些內(nèi)部人士認為，這可能是OpenAI在追尋“超級智能”(Super Intelligent)以及通用人工智能(AGI)的道路上取得的重大突破。
換句話說，目前世界上已經(jīng)存在比絕大多數(shù)人類更智慧的AI系統(tǒng)或者與之相關(guān)的其他技術(shù)突破。而這僅僅只是外界的樂觀估計~
事實上，山姆·奧特曼作為公司CEO，本人也曾經(jīng)對外透露關(guān)于下一代大模型GPT-5的一些動態(tài)。
在被罷免前夕，奧特曼接受英國金融時報專訪透露，他還需要融資更多的資金，尤其是來自“金主爸爸”微軟的扶持，才能完成GPT-5的開發(fā)任務(wù)。而這個下一代GPT很可能具備“超級智能”。
更早一點時候，11月初OpenAI開發(fā)者大會后，奧特曼和CTO Mira Murati一同接受華爾街日報的專訪指出：人類可能已經(jīng)十分接近AGI的閾值。
而一旁作為ChatGPT產(chǎn)品經(jīng)理的Mira Murati則強調(diào)，下一代的GPT大模型應該要瞄準解決減少模型的幻覺，將致力于解決現(xiàn)在困擾模型的幻覺問題。
很顯然，奧特曼不斷釋放信號，在忙于爭取各種資本力量的支持，而他的同事們則更專注于產(chǎn)品的安全性本身，尤其是對于人類社會的影響。
其中，最具有代表性的人物要數(shù)OpenAI首席科學家Ilya Sutskever。
Ilya Sutskever在本次「罷免門」事件當中，充當了決定性一票的角色，是他讓奧特曼無需到場的情況下直接被董事會Fire。
從某種意義上說，Ilya的行為方式是“單純”而“圖樣”的。
在沒有與投資伙伴充分達成共識的情況下草率地做出決策，而后又因為與OpenAI被罷免總裁Greg Brockman的妻子進行長談后選擇悔棋。
（備注：Ilya是Brockman夫婦的證婚人及摯友。）
但是從人性的本源來看，拋開被情感牽著走的表面現(xiàn)象，我們更應該注意Ilya下意識的直覺行為。
人工智能自誕生以來，便有激進派與保守派之分。保守派中最大的聲量來自被譽為「AI教父」的英國學者Geoffrey Hinton，他是2018年圖靈獎得主。
Hinton是深度機器學習算法——卷積神經(jīng)網(wǎng)絡(luò)理論的領(lǐng)軍人物，30多年不斷嘗試構(gòu)建更強大的神經(jīng)網(wǎng)絡(luò)，為今天的AI大模型奠定了理論基礎(chǔ)。
然而當AI涌現(xiàn)出“超能力”的時候，Hinton開始猶豫并擔憂這項技術(shù)可能給人類帶來的危害。他不止一次對外界警告，AI可能具備“意識”，反復多次通過各種渠道向外界傳達AI的威脅。
只不過，每個人對于“意識”一詞的定義不盡相同。
Ilya Sutskever(下圖左一)是Hinton的得意門生，在導師今年從谷歌退休之后，自然接過了“AI保守派”的大旗。
據(jù)外媒報道，GPT-4的誕生讓世界為之震驚，然而卻讓身為首席科學家的Ilya越發(fā)擔心。
今年早些時候，上文提到的「Q*」項目如火如荼開展，該項目由兩位OpenAI的頂級研究員Jakub Pachocki和Szymon Sidor基于Ilya的研究成果構(gòu)建。用通俗的話，這個模型將比GPT-4更強大。
在奧特曼被開除后，二人也立即提出辭職。
Ilya對于二人領(lǐng)導的這個項目有一些猶豫。
于是在今年7月份，Ilya開始在OpenAI內(nèi)部推動一項名為“超級對齊計劃”的項目，旨在希望用4年時間，讓AI學會“聽人話”，確保技術(shù)符合人類利益。
Ilya領(lǐng)導的這個團隊在OpenAI官網(wǎng)上留下一句話：
雖然“超級智能”現(xiàn)在似乎還很遙遠，但我們相信它可能會在十年內(nèi)到來。
對此，今年剛成立人工智能創(chuàng)業(yè)公司xAI的馬斯克也深表同意，他更加激進，認為AGI最早將于2029年實現(xiàn)。
所謂“超級對齊”，就是盡量讓AI聽從人類的指令。簡單地說，就是我們從小經(jīng)歷的壓迫式填鴨教育，父母教你什么，你就跟著做什么，絕對不可逾越限制。
用今天的話說，就是PUA啦~
從Ilya為數(shù)不多的采訪能看出，他把相當一部分的工作重心放在了AI安全上。隨著時間推移，Ilya的保守策略與奧特曼嘗試擴大產(chǎn)品商業(yè)化的分歧也逐漸顯露。
根據(jù)外媒的爆料，二人經(jīng)常在公司內(nèi)部發(fā)生激烈的辯論。Ilya對奧特曼快速擴張OpenAI的業(yè)務(wù)線感到憤怒，最終情緒爆發(fā)在OpenAI開發(fā)者大會之后——奧特曼風光無限地發(fā)布「GPTs」這項讓用戶可自定義GPT的服務(wù)。
此外，還有外媒提供線人爆料，就在被罷免前夕，奧特曼并未告知董事會的情況下，曾私下進行了一次募資路演活動，截獲消息后刺激到了董事們的神經(jīng)。
至此，我們可以理解為何前董事會在罷免聲明當中如此寫道：
他(奧特曼)在與董事會的溝通中始終不坦誠，阻礙了董事會履行職責的能力。
簡而言之，奧特曼主張商業(yè)化，不斷四面出擊引入更多的資本力量，讓以Ilya為代表的“AI保守派”董事們深感擔憂。最終，一系列的導火索引爆東窗事發(fā)。
在OpenAI官方正式宣布奧特曼重返公司后，Ilya在其推特(X)上寫道：
沒有任何語言、任何語句能夠表達我有多開心。
看起來，二人之間并沒有陷入水火不容的局面。雙方經(jīng)過充分溝通，于情于理，或許已經(jīng)達成某種共識。
然而，AI產(chǎn)業(yè)的“激進派”與“保守派”的矛盾卻不會因此消除，立場不同的投資人也不會消失，恐怕會因為本次事件之后更加激化。
對于OpenAI來說，目前投資人的意見分成了兩派——
一派認為，經(jīng)過“宮斗”之后，奧特曼將會把更多的精力放在公司治理，優(yōu)化調(diào)整董事會的架構(gòu)，推進公司目前運轉(zhuǎn)的項目。目前臨時董事會并非最終形態(tài)，后續(xù)很可能會引入更多不同立場的制衡勢力。
另外一派則認為，避免將雞蛋放在一個籃子里，資本將會尋覓更多有潛力的AI創(chuàng)業(yè)公司。
但是不管哪一派，都沒有辦法準確回應——AI對人類到底有沒有威脅？
假設(shè)Ilya Sutskever的擔憂成真，假設(shè)奧特曼的確正在開發(fā)具備“超級智能”的GPT，那么作為普通人的我們，是無法控制強有力的資本方加速推進AI技術(shù)的拓展與延伸。
外媒從線人截獲的路邊社消息指出，下一代大模型將具備更強大的數(shù)學推理能力。
眾所周知，數(shù)學是人類一切應用科學的基礎(chǔ)學科，AI一旦具備所謂的“意識”，主動去學習和解答更多的數(shù)學謎題，人類的腦力將永遠無法追上。
人類的密碼學、計算機學與代碼編程原理都基于數(shù)學，AI將具備完全的主動編譯能力，破解人類過去百年建立的代碼庫將變得易如反掌。
如果~EVA只敢說~如果，好萊塢里邊的劇情被有心人利用和復制，對AI進行操縱與蠱惑。
屆時，后果將不堪設(shè)想，在左右搖擺之間，人類似乎正在走向某種既定的“命運終局”。
對此，無論這個很厲害的大模型是叫GPT-5還是「Q*」什么的，好與壞，我也沒有答案。
本號的一位網(wǎng)友給我留言：
沒有人覺得奧特曼才是最大的反派嘛。
確實也將持續(xù)引發(fā)思考。
此刻風波階段性塵埃落定，山姆·奧特曼已經(jīng)重新執(zhí)掌這家價值數(shù)百億美元的超級獨角獸創(chuàng)企。
作為凡人的我們，唯有選擇相信“光”？
相關(guān)文章
Altman
