免费国产黄线在线播放_中文字幕熟女人妻av一区二区三区_中文字幕人妻无码专区APP_亚洲AV无码乱码在线观看富二代

　　JN江南讓用戶吃石頭、給披薩涂膠水谷歌的AI搜索瘋了嗎2023 年 2 月，追趕 ChatGPT 的 Bard，公開犯了事實(shí)錯(cuò)誤；2023 年 12 月，Gemini 侃侃而談如同賈維斯，然而視頻經(jīng)過后期處理；2024 年 2 月，Gemini 生成多種膚色的歷史人物，被批評(píng)歧視白人。

　　這回JN江南·體育，厄運(yùn)降臨到 Google 的看家本領(lǐng)——搜索。海外網(wǎng)友看熱鬧不嫌事大，甚至上演了一波斗圖狂歡。

　　過去不久的 Google I/O 大會(huì)，推出的其中一項(xiàng)功能是 AI Overview（AI 概述）。

　　當(dāng)時(shí)，Google 對(duì) AI Overview 很有信心，宣布當(dāng)即向所有美國(guó)用戶推出，很快也會(huì)推廣到更多國(guó)家，預(yù)計(jì)年底覆蓋超過 10 億人。

　　Google 建議您，親，往醬汁里添加約 1/8 杯的膠水即可。特意強(qiáng)調(diào)是無(wú)毒的，背后原因令人暖心。

　　Google 并非現(xiàn)編，而是從「美版貼吧」Reddit 一位用戶 11 年前的評(píng)論照搬了答案，可惜它讀不懂人類的幽默。

　　Google 沒有反駁問題本身的不合理，一本正經(jīng)地胡說(shuō)八道，根據(jù)加州大學(xué)伯克利分校地質(zhì)學(xué)家的說(shuō)法，應(yīng)該一天至少吃一塊小石頭，以便攝入維生素和礦物質(zhì)。

　　AI Overview 也不精通美國(guó)歷史，掉進(jìn)了陰謀論的陷阱，說(shuō)奧巴馬是第一位穆斯林總統(tǒng)。

　　競(jìng)爭(zhēng)異常激烈，在 AI 的世界里，前總統(tǒng)從威斯康星大學(xué)畢業(yè)了 21 次，一只狗曾在 NBA、NFL 和 NHL 打過球，蝙蝠俠是一名。

　　Google 回應(yīng)，大部分 AI Overview 的信息是高質(zhì)量的，也提供了有用的鏈接供用戶深入了解，很多「翻車」例子，問題是不常見的，結(jié)果無(wú)法重現(xiàn)甚至被篡改過。

　　比如，一張流傳甚廣的截圖顯示，治療抑郁癥的方法是跳下金門大橋一了百了。事關(guān)人命，Google 特意解釋了，這個(gè)結(jié)果是偽造的。

　　與此同時(shí)，Google 沒有辟謠其他例子，而是把它們作為改進(jìn) AI 的養(yǎng)料。怎么不算一次人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）呢？

　　火眼金睛的網(wǎng)友還發(fā)現(xiàn)，之前 Google I/O 精挑細(xì)選的演示里其實(shí)也出現(xiàn)了事實(shí)錯(cuò)誤，只不過更加隱蔽。

　　被問到如何修復(fù)卡住的膠片相機(jī)，Google 建議打開后門并輕輕地取下膠片，但這樣操作會(huì)毀掉照片。

　　2023 年 2 月，Google Bard 在演示時(shí)說(shuō)，詹姆斯·韋伯太空望遠(yuǎn)鏡是第一個(gè)拍攝太陽(yáng)系外行星的望遠(yuǎn)鏡。事實(shí)上，第一張系外行星圖像是在 2004 年拍攝的。一個(gè)錯(cuò)誤，付出市值縮水 1000 億美元的代價(jià)。

　　這次，除了 AI Overview 本身犯錯(cuò)，還有一個(gè)槽點(diǎn)：這個(gè)功能，它不好關(guān)。一些熱心的開發(fā)者，趕制了擴(kuò)展程序，強(qiáng)制只顯示傳統(tǒng)的搜索結(jié)果。

　　沒有方便的退出機(jī)制是 Google 的不對(duì)，AI Overview 基于傳統(tǒng)搜索頁(yè)面，用戶量極大，萬(wàn)一有不熟悉 AI 的用戶，盲目信任它的結(jié)果并被誤導(dǎo)，后果就不好說(shuō)了。

　　如同起到造型作用的「吸煙有害健康」，AI Overview 下方標(biāo)注著：「生成式 AI 是實(shí)驗(yàn)性的?！笴hatGPT 也小字提醒：「可能會(huì)犯錯(cuò)。請(qǐng)核查重要信息。」

　　大語(yǔ)言模型的基礎(chǔ)原理是，通過預(yù)測(cè)下一個(gè)單詞或者短語(yǔ)生成概率最大的文本，有時(shí)可能會(huì)選擇不正確但看似合理的詞語(yǔ)，也就導(dǎo)致了虛假信息或者說(shuō)「幻覺」。

　　AI Overview 的胡言亂語(yǔ)也是幻覺的表現(xiàn)，它結(jié)合了大語(yǔ)言模型生成的語(yǔ)句和互聯(lián)網(wǎng)的鏈接，可以引用信源，但不保證信源的準(zhǔn)確。

　　哪怕用到了 RAG（檢索增強(qiáng)生成）等技術(shù)，將檢索系統(tǒng)與生成模型相結(jié)合，限制回答問題的范圍，也只能抑制幻覺，而非根治幻覺。

　　今年 2 月，Google 與 Reddit 達(dá)成協(xié)議，將其內(nèi)容用于訓(xùn)練 AI 模型。當(dāng)時(shí)就有人懷疑，會(huì)否導(dǎo)致「garbage in, garbage out」（垃圾進(jìn)，垃圾出）的尷尬情況。

　　被「幻覺」困擾的不只 Google。去年 5 月，一位網(wǎng)友提問微軟的 New Bing 時(shí)，答案明顯錯(cuò)誤，他點(diǎn)開參考鏈接時(shí)發(fā)現(xiàn)，作為引用源的知乎回答，居然也是 AI 生成的，遣詞造句盡顯 AI 風(fēng)味，速度人力所不可及。

　　AI 搜索們是如何引用信源的，也是個(gè)讓人費(fèi)解的問題。當(dāng)我用中文搜索「怎么給柴犬洗澡」，Perplexity 的信源是搜狐、YouTube、豆瓣日記、B 站，天工是知乎、百度文庫(kù)，一時(shí)也不知道哪個(gè)更為權(quán)威，不敢輕信。

　　創(chuàng)立于 1998 年的 Google，成為搜索代名詞的 Google，身為 AI 巨擘的 Google，拉高了外界的期待，也必須承擔(dān)犯錯(cuò)的后果。

　　相反，Perplexity 的 CEO Aravind Srinivas 表示，輕裝上陣就是他們的優(yōu)勢(shì)，字里行間還有些驕傲。

　　如果你使用我們的產(chǎn)品，80% 表現(xiàn)不錯(cuò)，你可能覺得印象深刻，但如果你使用 Google 的產(chǎn)品，只有 70% 正確，你可能會(huì)不解，Google 怎么會(huì)錯(cuò) 30%？

　　我們以前說(shuō)「用 Google 搜索」，而介紹搜索的生成式 AI 功能時(shí)，Google 自己給博客起的標(biāo)題是「讓 Google 為您進(jìn)行搜索」，主次微妙地倒轉(zhuǎn)了。

　　過去，Google 展現(xiàn)哪些鏈接可以回答你的問題?，F(xiàn)在，Google 自己用 AI 回答你的問題。

　　傳播錯(cuò)誤信息的矛頭，從信源本身，轉(zhuǎn)移到了引用信源的 Google 身上。這口鍋，Google 不得不背。

　　既然幻覺已然是前提，我們應(yīng)該換個(gè)角度看待 AI 搜索，問自己一個(gè)問題：是不是我們的預(yù)期出了錯(cuò)誤？

　　其實(shí)在 AI Overview 被批評(píng)前，Google CEO 皮查伊就在近日 The Verge 的采訪中提到過，「幻覺」問題仍未解決，甚至可以說(shuō)是大語(yǔ)言模型固有的特征。

　　他認(rèn)為，大語(yǔ)言模型不一定是了解事實(shí)的最佳渠道，但這不代表大語(yǔ)言模型是個(gè)廢柴，非黑即白的思維不可取，比如它可以創(chuàng)造詩(shī)歌、引入搜索。

　　CEO 接受采訪也好，I/O 大會(huì)也罷，都是在向用戶傳遞一個(gè)理念：不要只把 AI 搜索當(dāng)作對(duì)現(xiàn)有網(wǎng)頁(yè)的簡(jiǎn)單總結(jié)，AI 發(fā)光發(fā)熱的地方還有很多。

　　但 AI Overview 沒能讓人滿意，怪不到用戶頭上，相比演示，現(xiàn)在的 AI Overview 并非完全形態(tài)，很多功能還沒有上線。

　　Google 搜索主管 Liz Reid 在 I/O 展示了一個(gè)「多步推理」的例子，輸入「找到波士頓最好的瑜伽館，展現(xiàn)優(yōu)惠信息，以及從燈塔山出發(fā)的步行時(shí)間」，AI 一步到位，以前要搜索三次的，現(xiàn)在一次就夠了。

　　同時(shí)，AI Overview 未來(lái)還將有「規(guī)劃」能力，比如要求 AI 策劃三天的晚餐，用戶可以直接拿到一份食譜，并在中途進(jìn)行細(xì)化，加上「素食」等需求，然后導(dǎo)出到文檔。

　　Google 的思路，和其他 AI 搜索產(chǎn)品殊途同歸——讓搜索更加可視化、交互性和個(gè)性化，用人話而非關(guān)鍵詞溝通，節(jié)省查找信息的時(shí)間，回答更加復(fù)雜和具體的問題。

　　Perplexity 可以控制搜索范圍，既能覆蓋整個(gè)互聯(lián)網(wǎng)，也能按照搜索需求，縮小到學(xué)術(shù)論文、YouTube、Reddit。

　　天工將 AI 搜索作為一個(gè)門戶，搭載更多的生產(chǎn)力工具，提供了 AI 速讀、音樂創(chuàng)作等智能體，等于在 AI 搜索之上，又搭建了一個(gè) AIGC 內(nèi)容創(chuàng)作平臺(tái)。

　　但相對(duì)復(fù)雜的場(chǎng)景，AI 搜索被寄予了厚望，畢竟它比起 ChatGPT 等多了信源，更加方便查證，比起傳統(tǒng)搜索，又能進(jìn)行更多的研究、創(chuàng)作、規(guī)劃、頭腦風(fēng)暴。與其說(shuō)是比傳統(tǒng)搜索更好的百科全書，不如說(shuō)更有 agent 的形狀。

　　當(dāng)然，餅畫得再多，AI 搜索的幻覺還是讓人膈應(yīng)。為此有人建議，安全起見，用生成式 AI，別只看摘要，再用傳統(tǒng)的 Google 搜索檢查一下。所謂風(fēng)水輪流轉(zhuǎn)，但大哥還是大哥。