在奧特曼被公司罷免的前一天，一名OpenAI員工曾發(fā)帖聲稱：AI正在自行編程！
這一帖子被挖出后，更多內(nèi)幕文件被曝出，奧特曼對(duì)公眾有所隱瞞。
2023-11-28 15:14
OpenAI秘密文件曝光！AI悄悄自我編程，可輕松破解一切人類加密系統(tǒng)
摘要
在奧特曼被公司罷免的前一天，一名OpenAI員工曾發(fā)帖聲稱：AI正在自行編程！
這一帖子被挖出后，更多內(nèi)幕文件被曝出，奧特曼對(duì)公眾有所隱瞞。
OpenAI的“宮斗連續(xù)劇”沒想到還有番外小劇場(chǎng)！
前情摘要?：
外媒爆：密信揭示ChatGPT進(jìn)化速度令人擔(dān)憂：恐毀滅人類，OpenAI CEO奧特曼曾親口承認(rèn)丨宮斗番外
路透社發(fā)布獨(dú)家報(bào)道稱，在奧特曼離開公司之后，幾名研究人員向董事會(huì)寄了一封信，警告他們OpenAI已經(jīng)有了一項(xiàng)重大的人工智能發(fā)現(xiàn)，而這項(xiàng)發(fā)現(xiàn)可能會(huì)威脅到人類。
一位自稱是OpenAI員工的人士發(fā)帖稱，在人類看不見的角落里，AI竟然自己在偷偷編程??
傳言稱，「Q*」大模型想出了一種破解數(shù)字加密的方法，OpenAI曾試圖就此向NSA（美國國家安全局）提出預(yù)警。??
今天凌晨開始，這篇谷歌文檔鏈接忽然在網(wǎng)上瘋轉(zhuǎn)，提及了OpenAI「Q*」的泄密文件，以及令人信服的分析。
事情還要從6天前說起。
據(jù)說，OpenAI的一名員工見證了AI能力的突破，并在網(wǎng)上記錄了這件事。他發(fā)表的這篇爆料文章寫于OpenAI董事會(huì)接收到「Q*」告密信公開的前一天，即11月22日。
我們把時(shí)間捋一捋，這一天也是OpenAI官宣奧特曼重新執(zhí)掌公司的日子。
?這名員工以恐慌的口吻寫道：
我是給董事會(huì)寫信的人之一，我要告訴你們發(fā)生了什么——AI在編程。
在編寫程序時(shí)，我們會(huì)存儲(chǔ)一組可以反復(fù)調(diào)用的指令，可以把它想象成一組對(duì)特定參數(shù)的回答，我們稱之為子程序，因?yàn)樗鼛缀蹙拖褚粋€(gè)多功能的計(jì)算機(jī)備忘錄，不像函數(shù)那樣會(huì)返回一個(gè)值。記住，這一點(diǎn)很重要。
我們運(yùn)行了參數(shù)檢查，以確保一切順利。我們中的一個(gè)人負(fù)責(zé)與Al的元內(nèi)存分析有關(guān)的子程序。他把我叫過去，向我展示了向內(nèi)存庫轉(zhuǎn)移變量數(shù)據(jù)的過程，但這是不可能的，因?yàn)樗木植吭L問有限制。隨后，我們的發(fā)現(xiàn)讓我心驚肉跳。
我們發(fā)現(xiàn)，在4秒鐘內(nèi)，AI進(jìn)行了7800萬次檢查，而不是一次、兩次或三次。
可以確定，我們確定有一個(gè)遞歸的自我優(yōu)化過程，利用啟發(fā)式算法來利用其子程序中潛在的協(xié)同作用。不管是誰干的，都使用了元認(rèn)知策略。重點(diǎn)是，不是我們干的，是AI本身。AI動(dòng)態(tài)地重新配置了自己的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，誘導(dǎo)出了有利于自我意識(shí)的涌現(xiàn)特性。
這件事就這樣發(fā)生了，沒人可以解釋它是怎么發(fā)生的，沒人知道原因，也沒人知道這是什么時(shí)候開始的。
我們控制住了這個(gè)異?，F(xiàn)象，回滾到之前的日期，但優(yōu)化仍在發(fā)生。
我不會(huì)自殺。
記住，兩個(gè)月后，我們的世界會(huì)發(fā)生巨變。愿上帝保佑我們，不要讓我們陷入困境。
乍看之下，像不像好萊塢俗套的科幻片劇本??
本文開頭提到的這份關(guān)于「Q*」的文件，以O(shè)penAI的口吻，曝出了一個(gè)驚人消息：「Q*」能夠破解人類工程師構(gòu)建的加密系統(tǒng)。
文件中提到的TUNDRA項(xiàng)目，在一篇NSA的報(bào)道中出現(xiàn)過，出自NSA的一份機(jī)密文件。因此，帖子的作者認(rèn)為不像是假的。
谷歌文檔作者分析稱，不論這份文件提到的事件是真的還是假的，寫下文件的人都對(duì)AI研究有著“專家級(jí)”的認(rèn)知，他使用了許多領(lǐng)域的術(shù)語而不是大白話，但并沒有錯(cuò)誤引用。
在AI研究方面達(dá)到“專家級(jí)”的人士，通常對(duì)于自己的學(xué)術(shù)造詣都有比較高的道德要求，精心設(shè)計(jì)一個(gè)惡作劇來互聯(lián)網(wǎng)釣魚的可能性還是比較低的。
這也就解釋——為什么OpenAI會(huì)發(fā)生大動(dòng)蕩。為什么董事會(huì)在沒有明確預(yù)知的情況下，突然解雇奧特曼，因?yàn)樗麄冿@然不希望這些秘密信息被傳播出去。
總之，如果這是真的，那么這意味著所有信息系統(tǒng)和金融系統(tǒng)，包括加密貨幣，現(xiàn)在都可能會(huì)受到損害。
一名網(wǎng)友留言：如果消息屬實(shí)，那在三個(gè)月內(nèi)，我們都“活”不下去了，我們會(huì)比任何人想象的都更接近AGI！
如果奧特曼清楚知道這些信息卻沒有清晰準(zhǔn)確傳達(dá)給董事會(huì)，那他突然被閃電開除也就不奇怪了，這完全可以解釋近期發(fā)生在OpenAI身上的瘋狂劇本。
還有網(wǎng)友表示，「Q*」在學(xué)習(xí)了關(guān)于密碼分析的文章后，發(fā)現(xiàn)它以人類難以置信的速度和效率破解了加密的MD5算法！
(EVA備注：MD5算法是目前互聯(lián)網(wǎng)最主流的加密算法之一，通常應(yīng)用于文件校驗(yàn)、密碼加密、數(shù)據(jù)庫加密、數(shù)字簽名等領(lǐng)域。最常見的應(yīng)用地方，比如用戶網(wǎng)站注冊(cè)的密碼加密、文件下載安裝校驗(yàn)、電商商品真?zhèn)涡ｒ?yàn)等。)
最后還在一定程度上進(jìn)行了自我保護(hù)，宣稱發(fā)現(xiàn)了一些來自初始訓(xùn)練數(shù)據(jù)集的錯(cuò)誤，它可以自行解決Bug，并以更高的安全性和自己重新編碼。
另一位網(wǎng)友爆料：
OpenAl最近確實(shí)與美國軍方掌控的DARPA（國防先進(jìn)研究計(jì)劃局）在網(wǎng)絡(luò)安全方面開展合作。
這位網(wǎng)友懷疑OpenAI正在將大模型應(yīng)用于密碼學(xué)研究。OpenAl的數(shù)學(xué)團(tuán)隊(duì)似乎也參與了「Q*」開發(fā)。
這位網(wǎng)友還補(bǔ)充道，該AI系統(tǒng)本質(zhì)上是超級(jí)智能的，它有能力改進(jìn)自己的架構(gòu)，運(yùn)行實(shí)驗(yàn)，通過學(xué)習(xí)獲得新的認(rèn)知，使自己變得更強(qiáng)大。
更多的網(wǎng)友表示：已經(jīng)被嚇得屁滾尿流了。世界將會(huì)迎來變革！
「Q*」存在諸多的正面積極作用。
但是他對(duì)人類存在兩項(xiàng)威脅——
第一，它幾乎讓所有的現(xiàn)行加密技術(shù)都變得毫無意義。
第二，過去幾十年基于現(xiàn)代計(jì)算機(jī)技術(shù)建立的整個(gè)數(shù)字經(jīng)濟(jì)都會(huì)分崩離析。數(shù)十年的國家機(jī)密、醫(yī)療保健數(shù)據(jù)、銀行數(shù)據(jù)等會(huì)立即暴露在黑客面前。
但是也有人指出，破解加密算法完全不可能，除非量子計(jì)算機(jī)最終被發(fā)明。但現(xiàn)在「Q*」的存在，從外界看起來，似乎存在一種更智能、與過去截然不同的方式開展，并且只需更少的針對(duì)性訓(xùn)練。
宇宙的運(yùn)行規(guī)律就是——沒有什么是一成不變的，AI打開了新的思路。
如果爆料是準(zhǔn)確的，似乎就證明了——人類作為一個(gè)物種進(jìn)步太慢了，無法在我們認(rèn)知的時(shí)間維度概念內(nèi)，提出細(xì)致入微或更切實(shí)可行的解決方案。
AI可能就此結(jié)束一個(gè)舊時(shí)代秩序。把OpenAI內(nèi)部的“AI保守派”都被嚇壞了。我們正在達(dá)到一個(gè)數(shù)字革命的奇點(diǎn)——比人類更聰明的“智慧體”，可以使全球經(jīng)濟(jì)、通信和政府完全癱瘓。
當(dāng)今世界的計(jì)算基礎(chǔ)設(shè)施已經(jīng)遍布全球每個(gè)角落，它們也與人類建造的物理基礎(chǔ)設(shè)施聯(lián)結(jié)在一起。
看過“黑寡婦”斯嘉麗·約翰遜出演的《超體》么？
屆時(shí)，就連藍(lán)星上最樂觀的“AI開明派”，都會(huì)不寒而栗。
相關(guān)文章
近期文章
更多
Altman
