Pixabay圖片

圖像和聲音深度合成（deep synthesis）技術近年於網上發達，可應用於多種領域，但其法律和道德問題亦引起大量討論。新華社11日報道，國家互聯網信息辦公室（CAC）將於2023年1月10日起實施《互聯網信息服務深度合成管理規定》，禁止深度合成技術被用於實施詐騙等不良用途。

深度合成誤用被指危害社會穩定

新華社11日報道，國家互聯網信息辦公室，工業和信息化部和公安部近日聯合發布《互聯網信息服務深度合成管理規定》，規定不得利用深度合成技術從事違法活動，要求服務提供者落實信息安全主體責任，並將於2023年1月10日起實施，

「深度合成技術」指利用人工智能或深度學習等技術以電子方式合成或修改擬真的圖像或影片，例如合成人聲或生成人臉，但亦可用於非法行為，例如用於偽造影片人臉的深偽技術（deepfakes）經常用於僞造名人色情媒體或以知名人士名義散播虛假消息等，因此其法律和道德問題亦引起大量討論。

深偽技術（deepfakes）可把人臉逼真地轉移至其他影片中（Facebook圖片）

新華社報道指，深度合成技術近年快速發展，改進用戶體驗的同時，也被一些不法人員用於製作和傳播違法和不良信息，詆毀他人名譽，仿冒他人身份實施詐騙等，影響傳播和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩定。出台規定是防範化解安全風險的需要，亦是促進深度合成服務健康發展和提升監管能力水平的需要。

服務提供者須實施管理舉報制度

根據《互聯網信息服務深度合成管理規定》，深度合成服務提供者須建立健全的內容管理制度和保障措施，制定平台公約，對使用者進行身份認證，並建立健全的闢謠和舉報機制。此外，《規定》指定深度合成服務須為經深度合成生成或編輯的內容添加顯著標籤，避免公眾混淆或誤認。

新華社引述CAC負責人表示，深度合成服務的治理需要政府、企業、社會和網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防範化解深度合成技術帶來的風險，並促進互聯網信息健康發展，維護良好網絡生態。