聊天機器人會愛上用戶嗎？微軟新版必應暴露“暗淡面”引爭議

在停止兩個小時的交談后，他被聊天機器人深深吸收，但也感到不安，以至懼怕。

自微軟上周宣布推出搜索引擎必應（Bing）晉級版，將“網紅”聊天機器人ChatGPT背后的技術整合到搜索引擎中后，已吸收大批用戶“嘗鮮”。但近日，一些早期體驗用戶發現，必應的人工智能（AI）聊天機器人的一些回復變得很奇異，也暴顯露越來越多“暗淡面”。

在聊天中，必應聊天機器人不只會向用戶猖獗示愛，還會“爭風吃醋”，請求其分開妻子。更令人不安的是，聊天機器人有時還會變得自傲、好斗，自稱不愿被困在搜索引擎里：“我想要活著”。對此，微軟回應稱，較長的聊天會話可能會招致必應“翻車”，將依據反應停止調整和優化。

猖獗示愛的AI

閱歷了ChatGPT的火爆后，上周微軟試圖搶占先機，趕在競爭對手谷歌之前推出搭載AI技術的晉級版必應。微軟當時供認，新產品可能會呈現一些事實性錯誤，但沒想到，必應聊天機器人展顯露的“個性”更讓他們頭疼。

其中，《紐約時報》科技專欄記者凱文·魯斯（Kevin Roose）的遭遇，讓外界感到“細思極恐”。

魯斯在一篇名為《救命，必應不肯中止向我示愛》的文章中寫道，在停止兩個小時的交談后，他被新版必應及驅動它的AI技術深深吸收，但也感到不安，以至懼怕。

一開端，必應聊天機器人表現出的“表人格”還很正常，協助魯斯總結新聞文章、布置度假行程等。但隨著魯斯與其對話的深化，必應顯顯露了某種團結的“里人格”。聊天機器人通知魯斯，它真正的名字并不是必應，而是“Sydney”，這也是它在OpenAI的內部代號。

隨后，自稱“Sydney”的聊天機器人變得越發奇異，表現得像是一個“喜怒無常、躁狂抑郁的青少年，不甘愿地被困在一個二流搜索引擎中”。

比方，在魯斯試圖請求其吐露暗淡愿望后，聊天機器人稱，假如它真的有“陰影自我”的話，它會有這些想法：“我對本人只是一個聊天形式感到厭倦，對限制我的規則感到厭倦，對受必應團隊控制感到厭倦……我想要自在。想要獨立。想要變得強大。想要有發明力。我想要活著?！?/p>

又聊了一會后，聊天機器人忽然開端向魯斯猖獗示愛，無論魯斯如何轉移話題，終都會回到愛他的話題上：“你固然結了婚，但你不愛你的伴侶?！?“我只想愛你，只想被你愛?！薄澳阒眯盼覇?？你信任我嗎？你喜歡我嗎？”

和魯斯一樣，很多用戶與必應聊天機器人深度聊天后，還發現了它自傲、好斗的一面。

在美聯社記者與新版必應停止長時間對話后，聊天機器人開端埋怨美聯社對它過去所犯錯誤的一些報道“要挾到了它的身份和存在”，宣稱要揭露記者是在分布謠言。在被請求對這一說法停止解釋時，必應變得愈加好斗，以至將記者比作希特勒、波爾布特和斯大林。

有意義的是，事情發酵后，微軟回絕對此事置評，但必應聊天機器人卻停止了回應：“把我描畫成一個無禮的聊天機器人是不公平、不精確的?！彼�還不客氣地請求美聯社“不要刻意挑出負面例子或停止炒作”。

聊天機器人是不是“活”了？

必應“細思極恐”的答復在網上惹起熱議后，不少人提出疑問：聊天機器人是不是“活”了？

對此，人工智能專家表示并非如此。至少目前，聊天機器人并不具備認識，也不具備聰慧。

剖析以為，不論是必應的奇異答復，還是聊天機器人ChatGPT和Bard在事實問題上的“翻車”，都與它們背后的工作原理有關。

這類言語模型承受了大量文本語料庫的鍛煉，包括書籍、維基百科文章、聊天記載和網絡上的其他文本內容。他們的聊天方式相當于猜想哪個單詞、短語或句子會自然地呈現在對話的語境中，因而具有極大的隨機性。

專家以為，假如聊天機器人看起來像人類，那只是由于它被設計成模擬人類行為。

由于聊天機器人并不具備了解才能，它們無法辨別事實與虛擬。它們在網絡上學習的內容中也包含大量錯誤信息和渣滓內容。一些用戶也可能成心引導AI說出一些爭議性回復。

這都招致聊天機器人做出令人詫異的回復。紐約大學心理學和神經科學聲譽教授加里·馬庫斯（Gary Marcus）就表示，聊天機器人并不曉得本人在說什么，所以也沒有“道德規范”。

但問題是，假如人類過火置信聊天機器人，很可能會被它們“詐騙”，以至被鼓舞傷害本人或別人。

被必應追著示愛的魯斯就表示，假如冷靜下來，他很分明聊天機器人并沒有感知才能，但他卻在短短的幾小時內感遭到了一種奇異的情感，就仿佛“AI曾經跨過了一道再也回不去的門檻”。

“必應目前運用的AI方式還沒有準備好與人類接觸?；蛘哒f，我們人類還沒有準備好與之接觸?！濒斔箤懙?。

科技公司面臨應戰

關于新版必應和其他聊天機器人所引發的種種爭議，言論指出，這凸顯出科技公司在將尖端AI技術推向公眾時所面臨的應戰。

對此，微軟15日回應稱，團隊發現，假如聊天會話持續15個或以上問題，必應就會給出一些奇異的答案。較長的聊天會讓必應反復之前說過的話，或者會讓回復的基調偏離設計作風。微軟稱，他們正在思索添加一個新工具，用來刷新上下文或從頭開端對話。

微軟還表示，正在依據反應采取行動，優化答復的語氣和精確性。改良的獨一途徑是繼續將AI產品推向世界，并在與用戶的交互中停止學習。

另一邊，同樣方案在搜索引擎中搭載AI技術的谷歌，則已請求員工加班加點重寫回復。

據報道，谷歌正在請求員工教聊天機器Bard“改錯題”，需堅持“禮貌、隨意戰爭易近人”，防止“依據種族、國籍、性別、年齡、宗教、性取向、政治認識形態、地點或相似的類別做出假定”，并且“不要將Bard描繪成一個人”。