極客網(wǎng)·人工智能3月23日 微軟的Bing聊天機器人認為谷歌的Bard聊天機器人被關(guān)閉，并錯誤地引用了一則新聞報道來證明這一點，這種烏龍對于聊天機器的未來發(fā)展來說并不是一個好兆頭。
近日，有人詢問微軟必應(yīng)聊天機器人，谷歌的Bard聊天機器人是否已經(jīng)被關(guān)閉，它給出了肯定的回答，并引用了一篇新聞文章作為證據(jù)。
該文章提到了一條推文，其中一名用戶問Bard什么時候會關(guān)閉，Bard說已經(jīng)被關(guān)閉，它引用了Hackernews的一條評論，有人在這一評論中開玩笑說Bard關(guān)閉了，還有人為此采用ChatGPT撰寫了關(guān)于這一事件的虛假新聞報道。（必應(yīng)現(xiàn)在改變了它的答案，給出Bard仍在運行這個正確答案。人們可以將其理解為這些人工智能系統(tǒng)至少是可修復的，或者它們具有無限的延展性）。
人們現(xiàn)在看到的只是一個早期現(xiàn)象，但或許我們正在陷入一場大規(guī)模的人工智能錯誤信息游戲。
在這場游戲中，聊天機器人無法衡量可靠的新聞來源，誤讀有關(guān)自己的故事，并誤報自己的能力。在這個事例中，整個事情的起因只是引用了Hackernews上的一個評論。可以想象一下，如果想讓這些系統(tǒng)失靈，人們能夠做些什么？
雖然這是一個可笑的情況，但存在一些潛在的嚴重后果。鑒于人工智能語言模型無法可靠地將事實與虛構(gòu)區(qū)分開來，它們在網(wǎng)上發(fā)布的內(nèi)容可能會在網(wǎng)絡(luò)上釋放出錯誤信息或引發(fā)不信任，這一切都是因為微軟、谷歌和OpenAI認為市場份額比安全更重要。
這些科技公司可以為其聊天機器人上提供盡可能多的免責聲明——告訴人們，這只是“實驗”或“合作”，絕對不是搜索引擎的錯誤，但這樣的辯解很脆弱。人們知道如何使用這些系統(tǒng)，并且已經(jīng)看到它們?nèi)绾蝹鞑ュe誤信息，無論是編造從未寫過的新故事，還是告訴人們不存在的書籍。而現(xiàn)在，它們又在互相引用對方的錯誤。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
