機器人長時間聊天會“失控”？微軟限制每個問題只能問5遍

　　作者：錢童心

　　一些技術(shù)人員在測試該應用時發(fā)現(xiàn)，會話時間過長可能導致聊天機器人偏離“軌道”并討論暴力、瘋狂示愛，并將錯誤的事堅持認為是正確的。

　　微軟公司周五對必應(Bing)AI聊天機器人每天接受的提問數(shù)量做出限制，規(guī)定用戶在與Bing的互動中，每個會話的問答上限為5個，每天的提問上限不超過50個。

　　微軟表示，做出這樣的限制是由于一些長時間的聊天會話可能“混淆”聊天模型的場景。Bing AI的背后融入了OpenAI公司的ChatGPT技術(shù)。

　　聊天兩小時后計算機開始“說胡話”

　　此前，一些技術(shù)人員在測試該應用時發(fā)現(xiàn)，會話時間過長可能導致聊天機器人失控偏離“軌道”，并討論暴力、瘋狂示愛，將錯誤的事堅持認為是正確的。

　　這一舉措也反映了大型語言模型(LLM)在向公眾進行部署時，視頻對講其運作方式仍在探索中。 微軟表示，正在征求測試人員的意見，以考慮是否在未來擴大提問的上限。

　　微軟首席技術(shù)官凱文·斯科特稱，與人類的交互是聊天機器人的學習過程，這是為將來更大范圍推出這種機器人做準備。斯科特表示，大部分人與機器的交互是短暫且目標明確的，長時間的交互會引導機器人給出詭異的回答，這也是需要對會話長度進行限制的原因。

　　當?shù)谝回斀?jīng)記者向ChatGPT提問“Bing AI為何對提問數(shù)量設(shè)置上限”時，ChatGPT的回答仍然“有模有樣”：“具體的原因可能取決于程序員的設(shè)計以及編程方面的考慮，主要考慮三方面因素，一是技術(shù)的限制，聊天機器人可能沒有能力處理更長或更復雜的問題，或者是通過限制問題長度來獲得更加精確的答案；二是用戶體驗，聊天機器人的設(shè)計是為了提供用戶最好的體驗，限制提問長度可能會幫助防止用戶產(chǎn)生困惑；三是效率，可以幫助系統(tǒng)更有效地處理數(shù)據(jù)，更快地做出回答。”

　　目前已有超過一百萬人注冊測試了微軟的Bing AI聊天機器人。不過測試人員發(fā)現(xiàn)了Bing AI的一些詭異回答。《紐約時報》專欄作家凱文·羅斯周四寫道，當他與聊天機器人交談了兩個小時后發(fā)現(xiàn)，對方看起來就像一個“喜怒無常、躁狂抑郁的少年”，顯示出了“人格分裂”。

　　羅斯在與機器人的聊天過程中還得知了機器人的一些“陰暗想法”，比如機器人像入侵計算機、散播虛假信息，希望打破微軟和OpenAI制定的規(guī)則，甚至想成為人類。機器人甚至試圖說服羅斯背叛婚姻，和“它”在一起。

　　這次交流后，羅斯感到不安，他寫道：“我不再認為這些AI模型最大的問題是它們有可能會犯事實性的錯誤，反而擔心這項技術(shù)可能會影響人類用戶，說服他們采取破壞性的行動。”

　　AI意識覺醒了嗎？

　　微軟將聊天機器人開放給用戶的做法具有一定爭議。微軟也無法解釋聊天機器人為何會表現(xiàn)出“陰暗面”。但斯科特稱：“你越是試圖取笑它步入幻可視對講覺，它就會越來越偏離現(xiàn)實。”

　　為此，微軟限制了Bing AI的適用范圍。公司表示：“改進AI產(chǎn)品的唯一方法是將它們推向世界并從用戶交互中學習。”根據(jù)測試人員的反饋，微軟和OpenAI將不斷對模型進行改進。

　　與微軟的必應開放給公眾不同，谷歌開發(fā)的AI聊天機器人Bard尚未向公眾發(fā)布，公司稱當前狀態(tài)仍存在聲譽風險和技術(shù)安全問題。

　　一些人工智能專家警告稱，大型語言模型存在包括“幻覺”在內(nèi)的問題，這意味著該軟件可以“胡編亂造”；另一些人擔心復雜的大模型會愚弄人類，讓人類相信自己是有知覺的，甚至會鼓勵人們傷害自己或他人。

　　去年，一位名叫Blake Lemoine的谷歌AI工程師公開表示，他正在開發(fā)的計算機AI系統(tǒng)LaMDA已經(jīng)具有與人類孩子相當?shù)母兄惺芎捅磉_思想的能力。這一事件在業(yè)內(nèi)掀起軒然大波，這名工程師隨后被谷歌解雇。

　　隨著人工智能技術(shù)越來越接近現(xiàn)實生活，人們還擔心誰應該對技術(shù)負責。根據(jù)美國的一項研究，公眾對人工智能工具持謹慎態(tài)度，只有9%的美國人認為人工智能利大于弊。

　　一位此前在某大型互聯(lián)網(wǎng)公司負責安全與隱私的高管對第一財經(jīng)記者表示：“正是由于聊天機器人給人帶來想象空間，才讓人類對他們感到擔心。事實上，人類可以通過數(shù)據(jù)訓練出具有各種貌似有‘人格’的聊天機器人。”

　　他還表示，機器人總是具有暴露人類善良和邪惡的能力，只要現(xiàn)實世界中有AI技術(shù)的進步，人們就將繼續(xù)探索關(guān)于機器人的道德難題及其對人類的影響，這將涉及法學、心理學、社會學等多個領(lǐng)域。

此頁面內(nèi)容采編自中新網(wǎng)，僅供客戶了解最新前沿資訊所用，如有版權(quán)問題，請聯(lián)系我們做刪除處理。家家安科技，安全放心的視頻語音呼叫可視對講門禁無線門鈴系統(tǒng)生產(chǎn)廠家。