(資料圖片僅供參考)

財聯(lián)社2月18日電，微軟表示，在必應(yīng)聊天機器人多次失控幾天后，公司將對其人工智能實施一些對話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個問題，每個問題5條回復。

相關(guān)背景：巨頭AI演示接連翻車，微軟必應(yīng)聊天演示存多出錯誤

微軟上周公開演示了人工智能驅(qū)動的必應(yīng)改進版，其中似乎包括幾個事實錯誤。 演示包括像吸塵器等產(chǎn)品的利弊清單；去墨西哥城旅行的日程安排；以及快速比較公司盈利結(jié)果的能力。

但根據(jù)獨立人工智能研究人員德米特里·布里爾頓本周對演示的分析，必應(yīng)的搜索結(jié)果顯然沒有區(qū)分真空的類型，甚至編造了某些產(chǎn)品的信息。

根據(jù)布里爾頓的說法，它還遺漏了提到的墨西哥城酒吧的相關(guān)細節(jié)（或捏造了某些信息）。此外，布里爾頓發(fā)現(xiàn)它錯誤地陳述了零售商Gap的營業(yè)利潤，并將其與一組事實上不正確的Lululemon財務(wù)數(shù)據(jù)進行了比較。

微軟對此在聲明中表示：“我們已經(jīng)了解到這份報告的情況，并在努力分析搜索結(jié)果，向用戶提供更好的體驗。我們認識到仍有工作要做，并預計系統(tǒng)可能會在預覽期間出錯，這就是為什么反饋至關(guān)重要，以便我們可以學習并幫助模型變得更好。”微軟還表示，自上周推出預覽版以來，成千上萬的用戶與全新的必應(yīng)進行了互動，并分享了他們的反饋，使該模型“學習并做出了許多改進。”