南韓大學擬研發「自主武器」全球AI專家抵制

2018-04-06 14:02:01
陳頴詩

香港輕新聞編輯

【香港輕新聞】南韓科學院(KAIST)與大型財團「韓華集團」最近宣布合作開發「自主武器」,引起部分人擔憂日後或出現電影《未來戰士》中的「殺人機械人」。在相關消息傳出後,近日全球逾50名人工智能(AI)專家共同連署,要求相關團隊停止研發。

圖片截自:電影《未來戰士(The Terminator)》

南韓《韓國時報》2月報導,南韓高等科學技術院(KAIST)與韓華集團旗下的韓華系統(Hanwha Systems)合作的「國防和人工智慧融合研究中心」開幕,而南韓高等科學技術院將研發「自主武器」,外界則形容為「殺人機械人」。當時韓媒報導,研究中心的建立目標是為「開發應用在軍事武器的AI技術,以便在無人控制的情況下搜索並消除目標」。

《金融時報》報導,韓華與KAIST的國防AI應用,目前已公佈四個方向:

  1. AI化的指揮與決策性系統( AI-based command and decision systems)
  2. 無人水下載具的導航演算法技術(navigation algorithms for unmanned undersea vehicles)
  3. AI化的智慧型飛行訓練系統(AI-based smart aircraft training systems)
  4. AI化的智慧型目標追蹤及辨識科技(AI-based smart object tracking and recognition technology)

全球學界抵制「或中止未來一切合作」

據《衛報》4月5日報導,這消息令全球不少科學家擔心南韓或研發出「殺人機器人」。澳洲新南威爾斯大學(University of New South Wales)著名人工智慧學者沃爾什(Toby Walsh)更發起全球聯署,要求相關團隊停止研發,否則「或中止與學院未來一切合作」。該聯署至今,已獲近60名專家的支持。

學者普遍認為,AI武器化將大幅擴張軍事武器的殺傷力與破壞效率,無論是被科技集團與政府壟斷,還是被恐怖組織、有心人士持有,都是極為駭人。外界亦質疑,殺人機器人能否準確判斷敵人與盟友。

聯署截圖

已有逾20國宣佈禁止人工智慧武器研發

沃爾什表示,利用人工智能能夠做到很多改變人類生活的好事,包含在戰場或軍事衝突中,「但如果在研發目的上,單純為了當成武器,恐怕會對人類社會帶來極大威脅。」

現時已有逾20國宣佈禁止人工智慧武器研發,一眾專家表示將在下週於日內瓦召開的聯合國會議上提出呼籲,並就「自主武器」的相關限制作出討論。

KAIST院長:雙邊研究以「防衛為主」

《路透社》報導,面對全球學界的抵制,KAIST院長申興哲(Sung-Chul Shin)澄清KAIST與韓華並沒有要研究「戰鬥機器人」的意思。他指出,雙邊研究雖是國防需求,但都是以「防衛為主」的應用計畫,「我必須再次重申,科學技術院絕不會做出違反人性尊嚴與傷害人類的研發計畫」。

《聯合報》引述瑞典「斯德哥爾摩國際和平研究所」(SIPRI)2017年底的數據報告指,在2017全球百大軍火企業中,韓華旗下有3間軍火分公司榜上有名。

發佈於 科學新知
By 2018-04-06

手機分享本文: