2023-05-31 14:44
“ChatGPT之父”奧特曼警告：AI的確可能毀滅人類
AI奇點(diǎn)網(wǎng)5月31日?qǐng)?bào)道丨當(dāng)?shù)貢r(shí)間5月30日，AI 領(lǐng)域落下了一顆不大不小的震撼彈。包括OpenAI CEO、「ChatGPT 之父」Sam Altman 在內(nèi) 350 位 AI 權(quán)威都簽署了這封聯(lián)名公開信，并對(duì)當(dāng)前正在開發(fā)的 AI 技術(shù)可能會(huì)對(duì)人類構(gòu)成生存威脅擔(dān)憂。這封信只有一句聲明：降低人工智能滅絕的風(fēng)險(xiǎn)，應(yīng)該與其它社會(huì)規(guī)模的風(fēng)險(xiǎn)（如大流行病和核戰(zhàn)爭）一樣，成為全球的優(yōu)先事項(xiàng)。
簽署人包括三個(gè)全球領(lǐng)先的 AI 技術(shù)公司高管：OpenAI 首席執(zhí)行官 Sam Altman；Google DeepMind 首席執(zhí)行官 Demis Hassabis；Anthropic 的首席執(zhí)行官 Dario Amodei。更重要的是，名單里還有 Geoffrey Hinton 和 Yoshua Bengio 兩位人工智能的「教父」。
超過 350 名從事人工智能工作的高管、研究人員和工程師簽署了這份由非盈利組織人工智能安全中心發(fā)布的公開信，認(rèn)為人工智能具備可能導(dǎo)致人類滅絕的風(fēng)險(xiǎn)，應(yīng)當(dāng)將其視為與流行病和核戰(zhàn)爭同等的社會(huì)風(fēng)險(xiǎn)。
如今人們越來越擔(dān)心 ChatGPT 等人工智能模型的發(fā)展可能對(duì)社會(huì)和就業(yè)帶來的潛在威脅，很多人呼吁針對(duì) AI 行業(yè)進(jìn)行更強(qiáng)力的監(jiān)管，否則它將對(duì)社會(huì)造成不可挽回的破壞。AI 技術(shù)在不斷狂飆迭代，但相關(guān)的監(jiān)管、審計(jì)手段卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。
在上周，Sam Altman 出席了美國國會(huì)的聽證會(huì)，并與另外兩位 OpenAI 的高管提出，應(yīng)該建立類似國際原子能機(jī)構(gòu)這樣的國際跨國合作組織來安全監(jiān)管 AI 技術(shù)的發(fā)展，他呼吁國際間領(lǐng)先的人工智能制造商應(yīng)該展開合作，并要求政府強(qiáng)化對(duì)尖端人工智能制造商的監(jiān)管。
其實(shí)早在 3 月，就一篇有關(guān)呼吁叫停全球 6 個(gè)月時(shí)間 AI 研究的網(wǎng)絡(luò)公開信火遍了全網(wǎng)。該信呼吁所有的 AI 實(shí)驗(yàn)立即暫停研究比 GPT-4 更先進(jìn)的 AI 模型，暫停時(shí)間至少 6 個(gè)月，為的就是把這些可怕的幻想扼殺在搖籃之中。AI 的進(jìn)步速度實(shí)在過于驚人，但相關(guān)的監(jiān)管、審計(jì)手段卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。該聯(lián)名信已經(jīng)獲得了包括 2018 年圖靈獎(jiǎng)得主 Yoshua Bengio、特斯拉 CEO 馬斯克、蘋果創(chuàng)始人史蒂夫 · 沃茲尼亞克、Skype 聯(lián)合創(chuàng)始人、Pinterest 聯(lián)合創(chuàng)始人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯(lián)名人數(shù)已經(jīng)達(dá)到 1125 位 IT 產(chǎn)業(yè)的大佬。
聯(lián)名信呼吁，AI 實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這個(gè)暫停時(shí)間共同制定和實(shí)施一套共享的先進(jìn) AI 設(shè)計(jì)和開發(fā)安全協(xié)議，這些協(xié)議應(yīng)該由獨(dú)立的外部專家嚴(yán)格審核和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)在合理懷疑范圍之外是安全的。這并不意味著暫停 AI 發(fā)展，而只是從不斷邁向更大、不可預(yù)測的黑箱模型及其突現(xiàn)能力的危險(xiǎn)競賽中退一步。
AI 研究和開發(fā)應(yīng)該重點(diǎn)放在提高現(xiàn)有強(qiáng)大、先進(jìn)系統(tǒng)的準(zhǔn)確性、安全性、可解釋性、透明度、魯棒性、對(duì)齊、可信度和忠誠度。與此同時(shí)，AI 開發(fā)者必須與政策制定者合作，大力加速 AI 治理體系的發(fā)展。在面臨可能對(duì)社會(huì)造成災(zāi)難性影響的其他技術(shù)上，社會(huì)已經(jīng)按下了暫停鍵。在這里，我們也可以這樣做。讓我們享受一個(gè)漫長的 AI 盛夏，而不是毫無準(zhǔn)備地沖向秋天和寒冷的冬天。
相關(guān)文章
Altman
