国产91精品一区二区麻豆网站-国产91精品高跟丝袜在线-国产91精品不卡在线-国产91激情对白露脸全程-在线国产区-在线观着免费观看国产黄

首頁 > 汽車性能 > 汽車性能 > 致幻的AI Overviews,谷歌再次翻了車

致幻的AI Overviews,谷歌再次翻了車

發布時間:2024-05-28 22:45:18來源: 15210273549

繼將馬斯克畫成黑人后,谷歌再次翻了車。(虎嗅注:今年2月份,谷歌的Gemini在推出文生圖功能幾周的時間內,被用戶發現該平臺刻意拒絕生成白人形象。對此谷歌方面表示加快改進,暫停人物圖片的生成功能。)

此次谷歌又犯了前科。在5月15日推出這一AI搜索引擎功能后,有不少用戶在使用過程中發現谷歌的AI Overviews會“胡言亂語”,對搜索的問題給出有違常識的、荒謬的解決方案。比如,兔子曾經作為密爾沃基鷹隊的后衛在NBA打過球、金毛犬可以生下奶牛、建議人們每天至少吃一塊小石頭……

此外,谷歌的人工智能搜索系統有時會難以解決基本的數學問題和方程式。例如,詢問2000年美元的相對價值,會返回一個荒謬的答案,即“2000 年至 2023 年期間價格累計上漲 -43.49%”(根據谷歌自己引用的通脹計算器,當時價格實際上漲了77% );又或是認為2024年10月至2025年1月之間有 738,523 天。

AI Overviews是谷歌在5月15日的I/O大會上高調推出的新型AI搜索引擎,由Gemini大模型驅動,展示在谷歌搜索的頁面頂部,可總結提煉用戶查詢內容的概要。在I/O大會上,谷歌稱該功能將“重新定義搜索體驗”。由于這一功能的推出,一些專家甚至將這一天稱為 Google 搜索的“零日”。 2023年5月推出的Search Generative Experience是AI Overviews的測試版。CEO 桑達爾?皮查伊曾表示,在測試版推出后谷歌已經處理了超過 10 億次查詢。

之所以會犯這樣的錯誤,最直接原因是Reddit網站網友評論的錯誤數據。谷歌的大模型以Reddit上的帖子作為學習資料,在數據清洗與訓練環節出現紕漏,因而出現了“大模型致幻”。

事實上,谷歌這樣“滿紙荒唐言”并非個例。

谷歌之外,OpenAI、Perplexity、You.com等無一幸免,均出現過不同程度的失誤。為了增強對話的擬真性和數據的全面性,這些AI搜索功能都將Reddit等社交平臺作為模型訓練的數據庫,甚至奧特曼本身便是Reddit的投資人。

但Reddit等社區上的發言良莠不齊,顯然AI在內容真實性和可靠度方面的判斷力還未成熟。在常規的搜索中,這些來自隨機互聯網用戶的惡作劇帖子可能不會成為人們點擊網絡鏈接列表時看到的首個答案。但有了AI Overviews后,這些惡作劇帖子就被整合到結果頁面頂部顯示的權威數據摘要中。

本質上,AI Overviews此次出現的問題是人工智能幻覺的一種新變體,當生成式人工智能模型提供虛假或誤導性信息并將其呈現為事實時,就會出現幻覺。幻覺是由有缺陷的訓練數據、算法錯誤或對上下文的誤解造成的。

HITCon安全會議上的相關研究成果顯示,僅僅需要“污染”不到0.7%的數據集,就能有效規避防御機制,導致大模型輸出的內容準確性大幅下降。當大模型被投喂的數據集含有誤導性信息時,其給出的結果必然同樣失真。

對此,紐約大學的AI專家和神經科學榮譽教授加里?馬庫斯(Gary Marcus)曾表示,AI模型天生無法對自己的工作進行理性檢查,而這正是這個行業的致命傷。

而谷歌發言人梅根?法恩斯沃斯則表示,“用戶展示的事例都是不常見的查詢,并不代表大多數人的經歷,我們也看到了一些被篡改或我們無法復現的例子”“絕大多數 AI 概覽查詢都產生了高質量信息,并提供了深入挖掘網絡的鏈接”。谷歌將使用有問題答案的“孤立例子”來完善其系統。

汽車性能更多>>

2024年海南省五指山市中醫醫院招聘就業見習崗位公告(3人) 2024年甘孜州招聘急需緊缺專業教師公告 2024年汨羅市紀委監委選調工作人員公告(6人) 2025年鄂爾多斯市教育體育局直屬學校校園招聘教育緊缺人才公告 上市售價22.99萬元起,極氪7X打造純電SUV新標桿! 此刻至未來,起亞始終相伴,起亞80周年感恩活動正式啟動 強“漢”再進化,2025款漢攜四大進化上市,售價16.58萬起 上市限時價19.68萬起,新豪華智享C級轎車領克Z10正式上市! 新一代梅賽德斯-奔馳V級:70年鑄就豪華典范 選擇一臺BMW,穿梭柴米油鹽中的英雄主義 首搭乾崑ADS 3.0+鴻蒙座艙,全新夢想家能“眾樂樂” 上汽俞經民:榮威新大眾,求同存異 2024年蕪湖市中西醫結合醫院(灣沚區總醫院)招聘康復治療師公告 2024年安徽糧食工程職業學院引進第二批高層次人才(博士)公告 2024年六安市葉集區機關事業單位招募就業見習人員公告 2024年安徽省體育局直屬訓練單位招聘教練員公告 2024年皖江工學院招聘簡章 2024年亳州利辛縣大學生鄉村醫生專項計劃招聘公告 2024年安徽省徽京劇院、安徽樂團招聘公告 2024年馬鞍山雨山區“鄉編村用”招聘事業編制人員公告 東風本田靈悉L,配電子后視鏡,車內五聯屏幕,9月26日上市 中大型SUV,2.0T插混/配華為乾崑智駕,方程豹豹8實拍 軸距2820mm+7座可選,搭載1.5T插混系統,凱翼昆侖iHD適合家用 6/7座可選,2.0T插混+四驅,惠后26.28萬起,紅旗HS7 PHEV適合家用 售26.88萬,座椅2+2+2布局,2.0T+8AT+四驅,第五代勝達帶勁不? 座椅2+2+2布局,配冰箱,惠后18.86萬起,這款中大型SUV適合家用 東風奕派eπ008,6座中大型SUV,提供冰箱、后排獨立屏,適合家用 座椅2+3+2布局,2.5L油電混合+四驅,家用可以看這款合資中型SUV 凱迪拉克新款XT6驚爆!10萬土豪為何紛紛叫好又吐槽? 雷鳥U9系列Mini LED顯示器發布,首發價3699元起
主站蜘蛛池模板: 亚洲国产网站 | 日韩综合久久 | 久一视频在线观看 | 欧美综合激情 | 国产一区二区三区在线 | 亚洲mm8成为人影院 亚洲xx在线 | 日韩精品中文字幕一区二区三区 | 久久国产热这里只有精品8 久久国产三级精品 | 久久精品视频99精品视频150 | 成人伊人网 | 日本一区二区免费不卡 | 国产成人精品一区二区视频 | 全黄网站 | 三级视频在线看 | 99热这里都是精品 | 大陆一级毛片 | 五月激情六月 | 亚洲xx站 | 特黄特黄aaaa级毛片免费看 | 成年在线视频 | 黄瓜视频在线观看 | 亚洲激情图片 | 色综合五月婷婷 | 你懂的免费视频 | 欧美伊人影院 | 亚洲欧美在线观看 | 一级毛片中文字幕 | 亚洲欧美一区二区三区麻豆 | 中文字幕精品一区影音先锋 | 国产精品一区二区久久 | 国产精品久久久久久久 | 精品毛片视频 | 免费观看a黄一级视频 | 青青热久麻豆精品视频在线观看 | 黄涩小说| 久久99国产亚洲精品 | 亚洲欧洲国产综合 | 久久久国产精品四虎 | 亚洲综合色视频 | 日韩中文一区 | 中文国产成人精品久久无广告 |