生命未來研究所網站擷圖，維基百科圖片

美國有非牟利組織於29日發表公開信，促請所有AI實驗室在至少六個月內暫停訓練比GPT-4更強大的AI系統，並合作制定和AI設計有關的安全協議，確保AI系統發展的安全。公開信發表至今有1300多名人士公開簽署，包括特斯拉行政總裁馬斯克（Elon Musk）和蘋果公司創辦人之一沃茲尼克（Steve Wozniak）。

促請AI科技接受審查監督

位於美國波士頓地區，關注AI技術發展風險的非牟利組織「生命未來研究所」（Future of Life Institute）於29日在網上發表題名《暫停大型AI實驗》（Pause Giant AI Experiments）的公開信，促請所有AI實驗室在至少六個月內暫停訓練比GPT-4更強大的AI系統。

OpenAI發布新模型GPT-4 手繪圖片也可變網站

聊天機器人ChatGPT的開發公司OpenAI於14日發布最新的AI模型GPT-4，並將供開發人員和ChatGPT ...

公開信內容表示，AI研究的競爭於近月失控，發展出無人能了解、預測或控制的AI系統，對人類社會發展構成風險，而社會在開發強大的AI系統前必須確定系統能帶來正面效果以及能夠管理的風險。

公開信續指，促請AI實驗室暫停AI訓練並非意味暫停AI的整體研究，但AI實驗室和獨立專家應合作制定AI設計的安全協議，並由外部專家審查和監督。此外，AI開發者須與政策制定者合作，加快開發治理AI科技的系統，包括監察AI的計算能力、水印系統和要求AI公司為系統造成的傷害承擔法律責任等。

馬斯克和AI高層均有簽署

公開信發表至今有1300多名科技專家和學者等人士公開簽署，其中包括被稱為「AI教父」之一的圖靈獎得獎者本希奧（Yoshua Bengio）、特斯拉行政總裁馬斯克（Elon Musk）和蘋果公司創辦人之一沃茲尼克（Steve Wozniak），亦有其他AI公司的高層和員工簽署，例如Stable Diffusion開發者Stability AI的行政總裁和Alphabet旗下AI公司DeepMind的研究員。ChatGPT和GPT-4開發者OpenAI則未有員工簽署。

外媒報道，馬斯克曾於3月初向特斯拉股東表示AI令他「感到緊張」，他亦曾在推特批評自己參與創立的OpenAI已成為由微軟控制，只關注牟利的閉門式公司。公開信的開放性質亦帶來一些爭議，例如有專家簽署在未經同意下被加入公開信中。

OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.

Not what I intended at all.

— Elon Musk (@elonmusk) February 17, 2023