AI加持的新搜索引擎可信嗎？
【今日視點】
◎本報記者 劉 霞
2個月前，聊天機器人ChatGPT橫空出世，其能像人類一樣撰寫文章并回答問題的能力震驚了世界。這種聊天機器人帶來的對于科技行業(yè)的顛覆力量如此之大，以至于它有可能徹底改變用戶使用互聯(lián)網(wǎng)的方式。包括微軟和谷歌在內(nèi)的科技巨頭們已開始采取行動、奮勇爭先，以免錯過這股新浪潮。
諸多跡象表明，人工智能(AI)已點燃了互聯(lián)網(wǎng)搜索引擎領(lǐng)域的新戰(zhàn)火。但人們能在多大程度上相信這些聊天機器人及其給出的答案呢？《自然》等雜志表示，鑒于谷歌的巴德(Bard)聊天機器人在給出答案時出現(xiàn)了事實性錯誤，而且，聊天機器人給出答案也缺乏透明度，人類對聊天機器人給予信任還有待時日。
人工智能搶灘搜索引擎
據(jù)《自然》網(wǎng)站2月13日報道，世界上最大的3個搜索引擎：谷歌、必應(yīng)和百度上周表示，他們將把ChatGPT或類似技術(shù)集成到自家的搜索產(chǎn)品中，讓人們直接獲得答案或進行對話，而不僅僅是在鍵入單詞或問題后收到鏈接列表。這3家公司都在使用大型語言模型(LLM)。LLM通過呼應(yīng)它們在大型數(shù)據(jù)庫中搜尋到的文本統(tǒng)計模式來創(chuàng)建令人信服的句子。
據(jù)悉，微軟的必應(yīng)使用與其投資的開放人工智能(OpenAI)公司開發(fā)的ChatGPT相同的技術(shù)。微軟于近日演示了如何處理自然語言查詢，利用新聞報道、火車時刻表和產(chǎn)品定價等信息生成答案和建議。無獨有偶，2月6日，谷歌公司宣布將推出由人工智能驅(qū)動的搜索引擎巴德，巴德目前正由一小群測試人員使用。百度公司由AI驅(qū)動的聊天機器人“文心一言”(ERNIE)則將于3月上市。
法國國家科學(xué)研究中心主任蒂耶里·布瓦博解釋說，有AI加持的搜索引擎，會給所提問題一個答案，不用像現(xiàn)在一樣還要查看資料才能獲得答案。
此前一些較小的公司已發(fā)布了AI驅(qū)動的搜索引擎。例如，去無線門鈴年8月，美國計算機科學(xué)家阿拉文德·斯瑞尼瓦斯等人發(fā)布了基于LLM的搜索引擎Perplexity，其類似傳統(tǒng)搜索引擎與ChatGPT的結(jié)合體。他說：“搜索引擎正在演變成一種新狀態(tài)，你可以開始與它們交談，就像與朋友交談一樣。”
人類能給出多大信任
那么，人類可以相信這些聊天機器人嗎？
瑞士蘇黎世大學(xué)計算社會科學(xué)家亞歷山大·烏爾曼表示，與獨立的搜索引擎相比，人們可能更容易信任整合了聊天機器人的搜索引擎給出的答案。
美國佛羅里達大學(xué)科學(xué)家2022年開展的一項研究發(fā)現(xiàn)，對那些與亞馬遜和百思買等公司使用的聊天機器人進行互動的參與者來說，機器人越像人，它們就越信任該公司。
行業(yè)研究人員表示，通過用互聯(lián)網(wǎng)上的大量文本數(shù)據(jù)集進行訓(xùn)練，ChatGPT等工具能以流暢的對話回答用戶的各種問題，但這種聊天機器人不能保證回答準(zhǔn)確。醫(yī)院對講系統(tǒng)據(jù)英國《新科學(xué)家》網(wǎng)站報道，巴德給出的與詹姆斯·韋布空間望遠(yuǎn)鏡有關(guān)的答案中就包含明顯的事實錯誤。
谷歌發(fā)言人表示，巴德的錯誤“凸顯了嚴(yán)格測試流程的重要性”。但一些人猜測，一旦用戶發(fā)現(xiàn)這些錯誤，他們可能會對基于聊天機器人的搜索失去信心，而非增加信任。由于投資者擔(dān)心未來并拋售股票，這一錯誤使谷歌的市值縮水1000億美元。
《自然》指出，ChatGPT也存在一種傾向：為那些它不知道答案的問題創(chuàng)造虛構(gòu)的答案，這可能導(dǎo)致虛假信息泛濫。專家警告說，還有一個風(fēng)險是網(wǎng)民可能對答案感到滿意，但會被唯一的答案帶偏或控制。
缺乏透明度
相對缺乏透明度也使不準(zhǔn)確問題變得更加復(fù)雜。通常搜索引擎會向用戶展示答案的來源：一個鏈接列表，以讓用戶自行選擇，但很少有人知道LLM訓(xùn)練的數(shù)據(jù)是什么。如果語言模型不正確，或傳播錯誤信息，可能會產(chǎn)生重大影響。
西班牙拉里奧哈國際大學(xué)AI專家胡安·伊格納西奧·羅耶特指出，使用普通搜索引擎時，用戶可看到信息的來源，但在這些聊天機器人平臺上則看不到。
法國巴黎數(shù)據(jù)科學(xué)平臺Hugging Face的首席倫理學(xué)家賈達·皮斯蒂利表示，聊天機器人驅(qū)動的搜索模糊了機器和人類之間的區(qū)別。她擔(dān)心目前科技巨頭采用AI技術(shù)的速度有點太快，“他們總是在沒有任何控制或我們還不知道如何正確使用的情況下將這些新技術(shù)扔給我們”。
此頁面內(nèi)容采編自中新網(wǎng)，僅供客戶了解最新前沿資訊所用，如有版權(quán)問題，請聯(lián)系我們做刪除處理。家家安科技，安全放心的視頻語音呼叫可視對講門禁無線門鈴系統(tǒng)生產(chǎn)廠家。
