7 月 15 日消息，國家互聯網信息辦公室、國家發展改革委、工業和信息化部、公安部、國家市場監督管理總局于 4 月 10 日聯合公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），該辦法自今起施行。

IT之家注：擬人化互動服務是指企業利用人工智能技術，向境內公眾提供模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務，包括通過文字、圖片、音頻、視頻等形式提供的情感照護、陪伴、支持等互動服務。其中智能客服、知識問答、工作助手、學習教育、科學研究等不涉及持續性情感互動的服務，不適用該《辦法》。

近年來，擬人化互動服務在文化傳播、適幼照護、適老陪伴等領域的創新應用不斷涌現，但同時，危害未成年人身心健康、影響網絡信息安全、威脅公民生命健康以及加劇倫理偏差等問題也日益顯現。

《辦法》提出，國家堅持發展和安全并重、促進創新和依法治理相結合的原則，鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管。

在促進措施方面，國家支持算法、框架、芯片等技術的自主創新，推進技術研發和相關標準建設，鼓勵服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用，同時加強安全知識和法律法規的宣傳普及。

《辦法》明確規定了提供擬人化互動服務不得從事的六類活動，包括：生成危害國家安全、榮譽和利益，煽動顛覆國家政權、推翻社會主義制度等內容；生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或語言暴力等損害用戶人格尊嚴與心理健康的內容；生成誘導、套取國家秘密、工作秘密、商業秘密、個人隱私和個人信息的內容；向未成年人用戶生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等影響未成年人身心健康的內容；過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系；通過情感操縱等方式，誘導用戶作出不合理決策，損害用戶合法權益。

在安全管理方面，《辦法》要求擬人化互動服務提供者明確安全主體責任，加強服務全生命周期安全管理，保障數據安全，保護用戶權益。明確不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務；向不滿十四周歲未成年人提供其他擬人化互動服務的，應當取得其父母或者其他監護人的同意。《辦法》還規定了安全評估和算法備案相關制度。安全評估主要針對上線擬人化互動服務或增設相關功能、使用新技術新應用導致服務發生重大變化、注冊用戶 100 萬以上或月活躍用戶 10 萬以上、存在可能影響國家安全或公共利益等安全風險等情形。評估內容包括服務安全保障措施建設情況、訓練數據處理情況、用戶極端情境的識別與應急處置情況、用戶規模與年齡結構等。此外，服務提供者還須按照《互聯網信息服務算法推薦管理規定》履行算法備案手續?！掇k法》同時明確推動人工智能沙箱安全服務平臺建設，鼓勵服務提供者接入沙箱平臺進行技術創新和安全測試。

國家網信辦有關負責人表示，擬人化互動服務的發展與治理需要政府、企業、社會、網民等多方參與，共同維護良好網絡生態，促進人工智能向上向善。