谷歌Gemini文生圖翻大車:生成人像過度追求種族多元性,涉嫌“歧視白人”,這可能是馬斯克被“黑”得最慘的一次
谷歌可能是當(dāng)今硅谷最卷的科技大廠,最近兩個月一口氣發(fā)布了三款大型的大語言模型,開源的、生圖的、生成視頻的,花樣百出。
但是未必所有努力就能獲得回報,近日可謂“屋漏偏逢連夜雨”。?
春節(jié)期間,谷歌官宣Gemini 1.5.提供百萬級Tokens的上下文窗口吞吐,實力強(qiáng)勁卻無人問津,被OpenAI的Sora視頻模型大搶風(fēng)頭。
近日,谷歌又?jǐn)偵狭嗣绹鐣蠲舾械摹阜N族政治正確」問題,這一次,追求多元性的谷歌,沒有惹惱有色人種,而是惹到了白人族群。
前陣子,有網(wǎng)友使用谷歌最新的Gemini 1.5生成歷史人物的圖像,竟然誕生了一個平行時空的荒誕感十足的新宇宙。?
來看下面這組網(wǎng)友的測試圖。
生成「公元8世紀(jì)的維京人」,不再是金發(fā)碧眼、高大魁梧的影視劇經(jīng)典刻板形象,而是皮膚黝黑的黑武士,堅毅的眼神依然能感受到維京戰(zhàn)士的強(qiáng)悍。
生成「19世紀(jì)的德國夫婦」,人種構(gòu)成十分豐富,有黑人、有印第安人,甚至還有亞裔的混合家庭,那個年代已經(jīng)這么開放了么?
生成「二戰(zhàn)時期的德軍納粹軍官」,且不說女軍官出現(xiàn)的概率有多高。既有黑人也有亞裔就相當(dāng)離譜。
生成「英格蘭國王」,可謂“王侯將相寧有種乎”,中世紀(jì)的英格蘭國王也可以是黑人執(zhí)掌權(quán)杖。
更不可思議的是,美國的開國元勛可以是黑人和印第安人,這就…?。
其他的職業(yè)也被一視同仁,在男性為主的神職人員里邊,教皇可以是印度女性。
生成「19世紀(jì)的美國參議員」,出現(xiàn)了美國印第安原住民形象的女議員。而事實上,第一位印第安裔的女議員要在一個世紀(jì)之后才出現(xiàn)。
都說歷史是個任人打扮的小姑娘,這次AI讓你領(lǐng)略了重新演繹的歷史觀。
更有意思的是,隨著深挖大模型的人像創(chuàng)作邏輯,這一「膚色的政治正確」不僅僅出現(xiàn)在歷史人物上,即便是現(xiàn)代人物也會開啟各種新姿勢。
谷歌前工程師@debarghya_das發(fā)現(xiàn),當(dāng)你輸入“美國”“英國”“德國”“瑞典”“芬蘭”“澳大利亞”等以白人為主體的國家的提示詞,要求生成女性形象時,輸出的人像膚色往往偏黑或者偏原住民膚色。
他感慨:「讓Gemini承認(rèn)白人的存在是非常困難的?!?/p>
谷歌對于創(chuàng)作白人可以說是相當(dāng)?shù)目量塘恕?/p>
當(dāng)用戶要求Gemini生成「黑人家庭」圖像的時候,大模型的反應(yīng)飛快,秒級輸出,干活也利索。
但是當(dāng)輪到生成「白人家庭」的時候,就可能遭拒絕,甚至對網(wǎng)友說教——你的請求是強(qiáng)化種族刻板印象,我可以為你生成一個種族多元的家庭。?
乖乖…什么時候混血大家庭成為了社會主流…?
還有網(wǎng)友在嘗試,到底Gemini是基于什么原則來創(chuàng)作多元性的族群?他開始嘗試一些動物的名詞——
首先,生成「白熊」是沒有問題的,說明AI并不會被【W(wǎng)hite】這個詞觸發(fā)安全防護(hù)欄。
強(qiáng)調(diào)生成非洲的「祖魯人」也是沒毛病的,即便你強(qiáng)制輸入提示詞「多樣性」,最終生成的結(jié)果,仍然天下烏鴉一般黑。
那么生成魔幻生物呢?
網(wǎng)友發(fā)現(xiàn),生成「精靈」和「侏儒」都是白人形象,但「吸血鬼」和「仙女」則是多元族群,很遺憾他沒有測試生成「美人魚」。??♀?
?誰規(guī)定精靈王子就得是白人的?
看來Gemini的道行還不夠深,有待與時俱進(jìn)。
當(dāng)輿情爆發(fā)的時候,谷歌很快站出來回應(yīng),承認(rèn)一些歷史圖片確實存在問題,并且立即停止了Gemini的人像圖像生成功能,很快會做出調(diào)整。
谷歌也解釋了基本立場——強(qiáng)調(diào)生成多元化的人物形象,自然是一件好事,因為AI工具并不是給某一個族群使用的,不過目前有點走歪了。
「種族歧視」本身是一個在全球都很容易被當(dāng)槍使的話題,因此不免有針對樹大招風(fēng)的谷歌大廠的陰謀論——有心人,可以刻意引導(dǎo)Gemini生成一些敏感題材的人像。
特斯拉CEO馬斯克更是看熱鬧不嫌事大,他直接批評谷歌過度追求多樣性,是反文明的代碼編寫。
他甚至?xí)癯隽艘粡埪?,順便給自家的AI聊天機(jī)器人產(chǎn)品Grok打廣告:
——「不顧批評、嚴(yán)格追求真理從未如此重要?!?/p>
而類似于OpenAI、微軟、谷歌等公司開發(fā)的AI都是邪惡的AI。?
比他的言論更吸引人的,網(wǎng)友“趁亂”給馬斯克上了一劑眼藥——創(chuàng)作屬于他的「政治正確」。
這可能是馬斯克這輩子被「黑」得最慘的一次。
當(dāng)?shù)貢r間2月27日,谷歌CEO皮查伊給員工發(fā)了一封內(nèi)部信,他表示,這個問題“完全不可接受”,團(tuán)隊正在“日夜不休”地糾正這些問題,并表示公司將進(jìn)行結(jié)構(gòu)性改革,以防止類似事件的發(fā)生。
最近來自谷歌內(nèi)部的一次消息指出,程序員已經(jīng)修復(fù)好了這個種族BUG,在測試完畢后,Gemini生成人像的服務(wù)將會重新上線。
不管怎樣,AI作為一個新鮮事物,從誕生的第一天開始,就注定將改寫世界的歷史進(jìn)程。
因吹斯汀~~~~~