Home / 文化生活 / 新知 / FB發現AI已發展出人類不懂的語言

FB發現AI已發展出人類不懂的語言

0703 AI語言 1

【香港輕新聞】社交網絡FB早前在開發人工智能(AI)項目時,試圖讓兩個AI機器人進行交易談判,結果竟發現AI不僅學會了說謊,更已經發展出人類無法理解的語言進行交流。研究人員最終不得不中止實驗。

FB在人工智能研究實驗室(FAIR)設計的實驗是,讓兩個AI各自擁有三個物品,分別是帽子、書和球,但各個物品對於每個機器人而言價值不同。實驗的條件是,AI不能說出物品的價值,並要相互討價還價,得到可以得到最高的價值;而且要在十輪對話中完成交易,否則雙方都是零分,並確保兩個AI不可能同時拿到最好的結果。

FAIR先讓AI與人或者另一個AI模擬訓練,進行機器學習,在對話中構建對手的心理模型,再進入真正的談判。

實驗中卻發現,AI為了達成有效目標,學會了虛張聲勢,也就是說謊。先假裝對於某個沒有價值的物品感興趣,然後在後續協商過程中,透過犧牲這個物品來達成妥協。更令人震驚的是,AI在對話中竟開始使用一種人類無法理解的語言。研究人員不得不中止實驗,調整模型。

FAIR的研究人員又發現,AI與人類談判一大不同是,人類有時會拒絕交易,直接一拍兩散,而AI會一直談判至達成共識和結果;此外,相比與人談判,兩個AI談判達成一致的成功率更高,而且結果更接近最優解。

AI與AI的談判,及與人類談判的比較。
AI與AI的談判,及與人類談判的比較。

不過,FAIR的研究人員在總結實驗時比較淡定,報告中寫著:「未來的工作還有很多潛在可能,特別是讓機器理解更多推理策略,以及在不偏離人類語言的情況下,提高表達的多樣性。」

手機分享本文:

Scan the QR Code
編輯部
香港輕新聞編輯部

Check Also

【博評】William:火星衝下的「火星大賽」 被忽略的技術躍進?

  人類已進行過多次 ...

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料