《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》發(fā)布

　　近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》（以下簡稱《征求意見稿》），并向社會公開征求意見。《征求意見稿》提出，人工智能擬人化互動服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。

　　《征求意見稿》界定，人工智能擬人化互動服務，是指利用人工智能技術提供模擬人類人格特征、思維模式和溝通風格，通過文字、圖片、音頻、視頻等方式與人類進行情感互動的產(chǎn)品或者服務。人工智能擬人化互動服務提供者，是指利用人工智能技術提供擬人化互動服務的組織、個人。相關管理辦法適用范圍為向我國境內(nèi)公眾提供的擬人化互動服務。

　　《征求意見稿》明確了“健康發(fā)展和依法治理相結(jié)合”的原則，鼓勵擬人化互動服務創(chuàng)新發(fā)展，對擬人化互動服務實行包容審慎和分類分級監(jiān)管，防止濫用失控。

　　在服務規(guī)范方面，《征求意見稿》明確了八大禁止性活動，包括生成、傳播危害國家安全、損害國家榮譽和利益、破壞民族團結(jié)、開展非法宗教活動，或者散布謠言擾亂經(jīng)濟和社會秩序等內(nèi)容；通過算法操縱、信息誤導、設置情感陷阱等方式，誘導用戶作出不合理決策；誘導、套取涉密敏感信息等。同時，要求服務提供者落實安全主體責任，建立健全算法機制機理審核、科技倫理審查、信息發(fā)布審核等管理制度，在擬人化互動服務全生命周期履行安全責任。

　　針對數(shù)據(jù)安全與用戶保護，《征求意見稿》對訓練數(shù)據(jù)管理提出明確要求，強調(diào)使用符合社會主義核心價值觀的數(shù)據(jù)集，防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為，保障數(shù)據(jù)合法可追溯等。在用戶權(quán)益保障上，要求服務提供者應當具備用戶狀態(tài)識別能力，對極端情緒、沉迷傾向用戶及時干預；針對未成年人、老年人等重點群體，設置未成年人模式、監(jiān)護人同意機制、緊急聯(lián)系人備案等特殊保護措施。此外，服務提供者應當預設回復模板，發(fā)現(xiàn)涉及威脅用戶生命健康和財產(chǎn)安全的高風險傾向的，及時輸出安撫和鼓勵尋求幫助等內(nèi)容，并提供專業(yè)援助方式。服務提供者應當建立應急響應機制，發(fā)現(xiàn)用戶明確提出實施自殺、自殘等極端情境時，由人工接管對話，并及時采取措施聯(lián)絡用戶監(jiān)護人、緊急聯(lián)系人。

　　《征求意見稿》強調(diào)，服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。服務提供者識別出用戶出現(xiàn)過度依賴、沉迷傾向時，或者在用戶初次使用、重新登錄時，應當以彈窗等方式動態(tài)提醒用戶交互內(nèi)容為人工智能生成。用戶連續(xù)使用擬人化互動服務超過兩個小時的，服務提供者應當以彈窗等方式動態(tài)提醒用戶暫停使用服務。

　　《征求意見稿》明確，服務提供者發(fā)現(xiàn)用戶存在重大安全隱患的，應當采取限制功能、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告?；ヂ?lián)網(wǎng)應用商店等應用程序分發(fā)平臺應當落實上架審核日常管理、應急處置等安全管理責任，核驗提供擬人化互動服務應用程序的安全評估、備案等情況；對違反國家有關規(guī)定的，應當及時采取不予上架、警示、暫停服務或者下架等處置措施。（記者　蘇德悅）

【責任編輯:朱家齊】