2024-05-27 09:01
谷歌回應(yīng)AI搜索服務(wù)翻車：“被黑了”丨媒體曝：蘋果正在醞釀更多AI功能丨馬斯克承認(rèn)Grok目前不如ChatGPT
AI奇點(diǎn)網(wǎng)2024年5月27日報(bào)道丨AI資訊早報(bào)
在本月初，Google 在2024年I/O大會上宣布將面向美國地區(qū)的部分用戶推出AI搜索概述（AI Overviev）功能。這個功能會在用戶輸入搜索字符串時，由人工智能驅(qū)動的搜索引擎，根據(jù)網(wǎng)絡(luò)上多個來源的信息，生成問題的答案提供給用戶，并且這些信息會注明來源。
在 Google 上線該功能后，很多用戶反應(yīng)， AI 搜索概述提供了許多的錯誤答案。
比如，當(dāng)輸入「奶酪不粘在披薩上」時，AI 搜索概述功能給出的答案是「醬汁中加入大約 1/8 杯無毒膠水」；而當(dāng)用戶提問「我每天應(yīng)該吃多少塊石頭」時，該工具的回答為「根據(jù)加州大學(xué)伯克利分校地質(zhì)學(xué)家的說法，人們每天應(yīng)該至少吃一塊小石頭」，同時列出了其維生素和消化益處。
更駭人聽聞的是，甚至有網(wǎng)友成功通過谷歌AI搜索概述（AI Overviev）獲取了”如何自殺“的方法，被外界質(zhì)疑價值觀存在嚴(yán)重的負(fù)面導(dǎo)向。
隨后，Google 就AI 搜索生成重大事實(shí)錯誤內(nèi)容一事，做出回復(fù)：
絕大多數(shù)人工智能概述都提供高質(zhì)量的信息，以及在網(wǎng)絡(luò)上進(jìn)行更深入挖掘的鏈接。
我們看到的許多示例都是不常見的查詢，我們還看到了被篡改或無法重現(xiàn)的示例。
在推出這一新體驗(yàn)之前，我們進(jìn)行了廣泛的測試，與我們在搜索中推出的其他功能一樣，我們感謝您的反饋。我們正在根據(jù)我們的內(nèi)容政策采取適當(dāng)?shù)难杆傩袆?，并利用這些示例對我們的系統(tǒng)進(jìn)行更廣泛的改進(jìn)，其中一些已經(jīng)開始推出。
今年的 WWDC 開發(fā)者即將到來，鎖定 6 月。彭博社記者在當(dāng)?shù)貢r間5月25日的最新周刊報(bào)道里邊，介紹了蘋果在 AI 方面的新動向，比如：
根據(jù)該名記者的最新介紹，被外界備受關(guān)注的蘋果 iOS 18 及其他操作系統(tǒng)的生成式人工智能功能可能會被標(biāo)記為「測試版」或預(yù)「預(yù)覽版」。意味著這些功能尚不夠穩(wěn)定或成熟，將無法以正式版直接推出。根據(jù)他個人推測，蘋果的AI團(tuán)隊(duì)目前缺乏足夠的時間進(jìn)行測試，以測試版的形態(tài)趕上 WWDC。
此外，還有消息指出，蘋果還計(jì)劃為 Apple Watch 開發(fā)一款特殊的小型化的人工智能大模型，用于處理“健康”數(shù)據(jù)。
據(jù)外媒 AppleInsider 報(bào)道，蘋果公司正在測試一個升級版的 Safari 瀏覽器，內(nèi)置大量的生成式 AI 功能升級服務(wù)，其中包含界面優(yōu)化、高級內(nèi)容屏蔽功能以及名為“智能搜索”的人工智能驅(qū)動的新工具。
蘋果希望借由 AI 功能改進(jìn) Safari 瀏覽器的用戶體驗(yàn)，為用戶提供工作便利與上網(wǎng)服務(wù)，以確保用戶可以最大程度地留在蘋果的操作系統(tǒng)生態(tài)當(dāng)中。
據(jù)悉，該軟件更新預(yù)計(jì)將在 2024 年晚些時候作為 Safari 18 正式發(fā)布，目前正與下一代蘋果操作系統(tǒng)更新，包括 iOS 18 和 macOS 15，目前內(nèi)部版本正在進(jìn)行評估。如果所有新功能都能通過測試，用戶將迎來全新的用戶界面UI來自定義常用頁面控制功能，以及“網(wǎng)頁橡皮擦”功能和人工智能驅(qū)動的內(nèi)容摘要工具。
近日，埃隆·馬斯克在巴黎舉行的 VivaTech 大會上發(fā)表了視頻演講和遠(yuǎn)程采訪，談到了一些關(guān)于 AI 的話題。
馬斯克談到了旗下 AI 初創(chuàng)公司 xAI 的聊天機(jī)器人 Grok，聲稱要將其打造成「又嚴(yán)謹(jǐn)、又追求真理、又是最風(fēng)趣」的 AI 聊天機(jī)器人，不過他承認(rèn)，Grok 在與 OpenAI 和 Google 競爭之前，還需要「迎頭趕上」，馬斯克也補(bǔ)充說可能能在今年年底實(shí)現(xiàn)追趕。
馬斯克在會上措辭強(qiáng)硬地批評了 OpenAI 和 Google，表示 AI 應(yīng)當(dāng)被訓(xùn)練成誠實(shí)的，而不是「政治正確」的。
馬斯克將訓(xùn)練 AI 和育兒進(jìn)行了對比：重要的是你用什么樣的價值觀來培養(yǎng)它，我關(guān)心微軟、Google、OpenAI 的價值觀是否將 AI 導(dǎo)向負(fù)面。
根據(jù)彭博社在 5 月 24日的報(bào)道，xAI 將于 6 月完成一輪最新融資，融資后估值可能超過 240 億美元，是目前業(yè)內(nèi)僅次于 OpenAI 的最大“獨(dú)角獸”。
當(dāng)?shù)貢r間周四，OpenAI 給絕大部分的前員工發(fā)送一則通知消息，宣布廢除前員工公開談?wù)摴镜母鞣N情況的言論禁令，表示不會因?yàn)榍皢T工評價前東家，而直接取消員工已歸屬的股權(quán)和任何已獲得的利益。目前在職的雇員也都已經(jīng)收到了相關(guān)的通知。
日前外媒Vox獨(dú)家爆料稱，OpenAI 給離職員工制定了相當(dāng)嚴(yán)格的禁令，永久禁止離職員工談?wù)摴?，否則將會失去股權(quán)，這意味著相當(dāng)豐厚的利潤。報(bào)道出街后，OpenAI CEO 奧特曼和首席戰(zhàn)略官 Jason Kwon 對此表示了歉意，并表示此前「完全不知情」，但后來有新的消息曝光，在相關(guān)文件上出現(xiàn)了這兩名高管的簽名。
奧特曼在回復(fù)該報(bào)道的推文上寫道：這是他在 OpenAI 工作中遇到最尷尬的一件事。
在上周，歐盟委員會全體決議，通過了全球首部《人工智能法案》。據(jù)路透社最新報(bào)道，歐盟數(shù)據(jù)保護(hù)委員會的一個特別工作組在法案通過后表示，盡管 OpenAI 在減少 ChatGPT 輸出信息的錯誤率上做出了一定努力，但它仍然不足以確保“完全符合”歐盟的數(shù)據(jù)規(guī)則。
當(dāng)?shù)貢r間上周五，歐盟數(shù)據(jù)保護(hù)委員會發(fā)布了一份報(bào)告并指出，“為了遵守透明度的原則，OpenAI 采取了一些措施，也有利于避免 ChatGPT 輸出錯誤信息，但這些措施仍然不足以遵守?cái)?shù)據(jù)準(zhǔn)確性的原則。”
早在 2023年，就有以意大利政府為首的國家監(jiān)管機(jī)構(gòu)此前對廣泛使用的 AI 服務(wù)提出了擔(dān)憂，歐盟數(shù)據(jù)保護(hù)委員會隨后成立了“ChatGPT 特別工作組”。
一部分成員國的國家隱私監(jiān)管機(jī)構(gòu)仍在進(jìn)行各種對 ChatGPT 的調(diào)查。據(jù)悉，“數(shù)據(jù)準(zhǔn)確性”是歐盟保護(hù)數(shù)據(jù)規(guī)則的指導(dǎo)原則之一。報(bào)告還指出，“事實(shí)上，由于系統(tǒng)的概率性質(zhì)，目前的訓(xùn)練方法導(dǎo)致模型也可能產(chǎn)生偏差或編造的輸出結(jié)果”。此外，ChatGPT 輸出的結(jié)果很可能最終被用戶視作“事實(shí)準(zhǔn)確”，不論其實(shí)際上的準(zhǔn)確性究竟如何。
36氪獲悉，字節(jié)跳動的大語言模型研發(fā)技術(shù)專家楊紅霞，已于近日從字節(jié)跳動離職，并開始籌備 AI 創(chuàng)業(yè)項(xiàng)目。
36氪從多個獨(dú)立信源處獲悉，楊紅霞正在開始籌備自家主導(dǎo)的AI創(chuàng)業(yè)項(xiàng)目。截至發(fā)稿前，字節(jié)跳動并未回應(yīng)上述消息。公開資料顯示，楊紅霞畢業(yè)于南開大學(xué)、杜克大學(xué)統(tǒng)計(jì)科學(xué)系，師從著名統(tǒng)計(jì)學(xué)家David Dunson。她在人工智能領(lǐng)域國際會議、頂級期刊有近百篇頂級論文。
去年 3 月，曾有報(bào)道稱楊紅霞加入字節(jié) AML（機(jī)器學(xué)習(xí)系統(tǒng)）團(tuán)隊(duì)，對上向字節(jié)跳動 AML 和豆包大模型 Foundation 團(tuán)隊(duì)的負(fù)責(zé)人項(xiàng)亮匯報(bào)，楊紅霞曾經(jīng)在美國西雅圖從事大語言模型的研發(fā)。
相關(guān)文章
Altman
