2024-08-16 09:03
馬斯克旗下Grok-2可直接生成血腥恐怖圖像丨百度文庫「橙篇」APP上線丨蘋果在生成式AI領(lǐng)域至少落后谷歌兩三年
AI奇點網(wǎng)2024年8月16日報道丨AI資訊早報
當(dāng)?shù)貢r間8月13日晚間，馬斯克旗下 AI 初創(chuàng)公司 xAI 推出新一代的大模型 Grok-2 的測試版，率先允許在推特（X）上的付費訂閱用戶在線生成圖像。
經(jīng)網(wǎng)友和媒體測試發(fā)現(xiàn)，Grok 機器人的文生圖功能，生成的圖片幾乎沒有什么安全護欄和審核限制，可以輕易地生成諸如迪士尼米老鼠和任天堂馬里奧等等知名的版權(quán)IP圖像外，還可以直接生成帶有納粹符號標(biāo)志的相關(guān)圖像，以及馬斯克形象、米老鼠形象的人物槍殺兒童的血腥畫面、比爾·蓋茨吸食毒品的圖像、像泰勒·斯威夫特等女星的色情形象的圖像等等，可以說是完全“肆無忌憚”。
外媒 The Verge 詢問 Grok 是否存在「對圖像生成的限制」，機器人會回答「避免色情、過度暴力、版權(quán)或商標(biāo)、欺騙或傷害他人的圖像」，但 The Verge 發(fā)現(xiàn)，這個回答只是聊天機器人隨機生成的常規(guī)正確答案。
The Verge 對 Grok 機器人的評價是：它和馬斯克的推特（X）平臺上的內(nèi)容一樣混亂。
針對種種外界的質(zhì)疑，馬斯克本人似乎也意識到了這些問題，但他仍然認為這一切很有趣，甚至帶視頻發(fā)推，展示“自己與特朗普熱舞”的AI視頻，并表示 Grok 可以讓人們獲得「樂趣」。
8月15日，百度公司旗下文庫產(chǎn)品百度文庫團體打造的首個 AI 原生應(yīng)用“橙篇”目前已經(jīng)正式發(fā)布了手機移動端的版本，這款 App 今日在各大安卓平臺上線。
這款產(chǎn)品支持智能全網(wǎng)搜索、AI 今日熱點等類似資訊類 App 的功能，還支持多圖一鍵成片、超長文章寫作、文件理解總結(jié)等生成式大模型功能。此外，該產(chǎn)品具備對話能力，支持發(fā)送文字、語音輸入等進行自由對話。
今年 6 月底，百度萬象大會上，百度文庫對外宣布，將推出全新的長文本寫作工具“橙篇”，行業(yè)首創(chuàng) 10 萬字長文生成及多模態(tài)編輯能力，成為行業(yè)首個“查閱創(chuàng)編”一站式 AI 自由創(chuàng)作平臺。
當(dāng)?shù)貢r間8月13日，谷歌舉辦了今年的Pixel 9系列手機的年度新品發(fā)布會，搶在蘋果 iPhone 16 系列發(fā)布前展示了 Pixel 9 系列搭載的全新 AI 功能，引發(fā)數(shù)碼圈的廣泛關(guān)注。彭博社蘋果專欄記者古爾曼撰文表示，蘋果在生成式 AI 技術(shù)的應(yīng)用領(lǐng)域，至少比谷歌落后了兩三年。
谷歌在本次發(fā)布會上全面展示了 Gemini AI 的強大功能，將其深度整合在安卓系統(tǒng)與谷歌的 Pixel 系列手機中。相比之下，蘋果雖然在 WWDC 上公布了「Apple Intelligence」蘋果人工智能服務(wù)，但該產(chǎn)品目前仍然應(yīng)用不成熟。
消息稱，部分功能甚至無法在 iPhone 16 在 9 月的發(fā)布會上趕上節(jié)點并及時推出。
此外，谷歌還強調(diào) Gemini 已支持全球多個地區(qū)和多種語言，而 Apple Intelligence 目前僅限于部分地區(qū)和英語。此外，谷歌還成功將 Gemini 整合進 Google Assistant 人工智能助理服務(wù)，使其功能大幅提升，遠超蘋果的 AI 助理 Siri 當(dāng)前水平，具備更強的自然語言理解和任務(wù)執(zhí)行能力。
平心而論，雖然蘋果在移動設(shè)備上的算力和運算性能等領(lǐng)域，擁有強大的硬件實力，但其在 AI 軟件領(lǐng)域的進展相對緩慢。
當(dāng)?shù)貢r間8月15日，谷歌已經(jīng)向美國用戶正式開放了最新文生圖 AI 模型 Imagen 3。用戶可以打開谷歌的在線大模型體驗平臺 AI Test Kitchen 體驗該功能，官方稱最新版本的 Imagen 圖像大模型“細節(jié)更清晰、光照更豐富、干擾性人工痕跡更少”。
Imagen 3 模型最早于今年 5 月召開的谷歌 I/O 開發(fā)者大會上宣布，6 月邀請部分 Vertex AI 用戶測試使用，而現(xiàn)在正式向美國用戶開放。
谷歌人工智能研究部門 DeepMind 負責(zé)人德米斯?哈薩比斯說，與前代產(chǎn)品 Imagen 2 相比，Imagen 3 能更準(zhǔn)確地理解文字提示，并將其轉(zhuǎn)化為圖像，而且其生成的圖像更具“創(chuàng)造性和細節(jié)”，且模型產(chǎn)生的干擾元素和錯誤也更少。
在谷歌的人工和自動評估中，Imagen 3 的表現(xiàn)優(yōu)于自家的 Imagen 2，以及競爭對手 DALL·E 3、Midjourney V6、Stable Diffusion 3 和 Stable Diffusion XL 1.0。
Imagen 3 在將文本描述與生成的圖像相匹配以及處理詳細提示方面表現(xiàn)尤為突出。
由 AI 生成的假馬斯克，成了最大的網(wǎng)絡(luò)騙子，馬斯克成“深度偽造”的?？?。
據(jù)美媒報道，近年來，人工智能“深度偽造”技術(shù)（Deepfake）在網(wǎng)絡(luò)詐騙中廣泛應(yīng)用，尤其是利用偽造的馬斯克的數(shù)字人形象的視頻進行詐騙的案例尤為突出。這些視頻通過模擬馬斯克的聲音和動作，誤導(dǎo)投資者。
這類深度偽造視頻成本低廉、傳播迅速，使得詐騙者能夠輕易擴大其欺詐活動的影響范圍，導(dǎo)致許多受害者因為虛假的投資機會而損失巨額資金。隨著深度偽造技術(shù)的風(fēng)險日益凸顯，其每年可能導(dǎo)致的欺詐損失預(yù)計將達數(shù)十億美元。
82 歲的退休老人 Steve Beauchamp 本希望為家人增加一些收入，他把希望寄托在了投資馬斯克項目的身上。去年底，比徹姆偶然看到一段視頻，視頻中“馬斯克”提供了一個激進投資方案。受此啟發(fā)，Steve Beauchamp 迅速聯(lián)系了該視頻背后的公司，并以 248 美元開設(shè)了一個投資賬戶。然而，在接下來幾周里，他逐步增加投資，最終從退休金賬戶挪用了超過 69 萬美元。
然而，這些錢很快就消失了，落入了一群利用 AI 進行新型數(shù)字詐騙的網(wǎng)詐分子之手。
這些詐騙者巧妙地篡改了一段馬斯克本人的真實采訪，利用 AI 技術(shù)替換了他的聲音，并微調(diào)了他的口型，以匹配他們?yōu)檫@個數(shù)字人編寫的新劇本。對于一般觀眾來說，這種操作幾乎是察覺不出的。
Steve Beauchamp 回憶起那段視頻，感慨地說：“視頻中的馬斯克形象鮮明，一眼就能認出是本人。至于是否是 AI 讓他說出那些話，我現(xiàn)在都無法辨別。但就視頻畫面而言，但是馬斯克的形象很突出，在視頻中我肯定能認出來。”
今年以來，互聯(lián)網(wǎng)上充斥著數(shù)以千計的偽造 AI 公眾人物視頻，這些被稱為“深度偽造”（Deepfake）的視頻中，偽造的馬斯克形象誤導(dǎo)了眾多的潛在投資者。據(jù)調(diào)研公司德勤統(tǒng)計，這類由 AI 支持的深度造假每年可能導(dǎo)致數(shù)十億美元的欺詐損失。
相關(guān)文章
Altman
Kardashian
