《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見稿）》發(fā)布

　　近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見稿）》（以下簡稱《征求意見稿》），并向社會(huì)公開征求意見?！墩髑笠庖姼濉诽岢?，人工智能擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。

　　《征求意見稿》界定，人工智能擬人化互動(dòng)服務(wù)，是指利用人工智能技術(shù)提供模擬人類人格特征、思維模式和溝通風(fēng)格，通過文字、圖片、音頻、視頻等方式與人類進(jìn)行情感互動(dòng)的產(chǎn)品或者服務(wù)。人工智能擬人化互動(dòng)服務(wù)提供者，是指利用人工智能技術(shù)提供擬人化互動(dòng)服務(wù)的組織、個(gè)人。相關(guān)管理辦法適用范圍為向我國境內(nèi)公眾提供的擬人化互動(dòng)服務(wù)。

　　《征求意見稿》明確了“健康發(fā)展和依法治理相結(jié)合”的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級監(jiān)管，防止濫用失控。

　　在服務(wù)規(guī)范方面，《征求意見稿》明確了八大禁止性活動(dòng)，包括生成、傳播危害國家安全、損害國家榮譽(yù)和利益、破壞民族團(tuán)結(jié)、開展非法宗教活動(dòng)，或者散布謠言擾亂經(jīng)濟(jì)和社會(huì)秩序等內(nèi)容；通過算法操縱、信息誤導(dǎo)、設(shè)置情感陷阱等方式，誘導(dǎo)用戶作出不合理決策；誘導(dǎo)、套取涉密敏感信息等。同時(shí)，要求服務(wù)提供者落實(shí)安全主體責(zé)任，建立健全算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核等管理制度，在擬人化互動(dòng)服務(wù)全生命周期履行安全責(zé)任。

　　針對數(shù)據(jù)安全與用戶保護(hù)，《征求意見稿》對訓(xùn)練數(shù)據(jù)管理提出明確要求，強(qiáng)調(diào)使用符合社會(huì)主義核心價(jià)值觀的數(shù)據(jù)集，防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為，保障數(shù)據(jù)合法可追溯等。在用戶權(quán)益保障上，要求服務(wù)提供者應(yīng)當(dāng)具備用戶狀態(tài)識別能力，對極端情緒、沉迷傾向用戶及時(shí)干預(yù)；針對未成年人、老年人等重點(diǎn)群體，設(shè)置未成年人模式、監(jiān)護(hù)人同意機(jī)制、緊急聯(lián)系人備案等特殊保護(hù)措施。此外，服務(wù)提供者應(yīng)當(dāng)預(yù)設(shè)回復(fù)模板，發(fā)現(xiàn)涉及威脅用戶生命健康和財(cái)產(chǎn)安全的高風(fēng)險(xiǎn)傾向的，及時(shí)輸出安撫和鼓勵(lì)尋求幫助等內(nèi)容，并提供專業(yè)援助方式。服務(wù)提供者應(yīng)當(dāng)建立應(yīng)急響應(yīng)機(jī)制，發(fā)現(xiàn)用戶明確提出實(shí)施自殺、自殘等極端情境時(shí)，由人工接管對話，并及時(shí)采取措施聯(lián)絡(luò)用戶監(jiān)護(hù)人、緊急聯(lián)系人。

　　《征求意見稿》強(qiáng)調(diào)，服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。服務(wù)提供者識別出用戶出現(xiàn)過度依賴、沉迷傾向時(shí)，或者在用戶初次使用、重新登錄時(shí)，應(yīng)當(dāng)以彈窗等方式動(dòng)態(tài)提醒用戶交互內(nèi)容為人工智能生成。用戶連續(xù)使用擬人化互動(dòng)服務(wù)超過兩個(gè)小時(shí)的，服務(wù)提供者應(yīng)當(dāng)以彈窗等方式動(dòng)態(tài)提醒用戶暫停使用服務(wù)。

　　《征求意見稿》明確，服務(wù)提供者發(fā)現(xiàn)用戶存在重大安全隱患的，應(yīng)當(dāng)采取限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)落實(shí)上架審核日常管理、應(yīng)急處置等安全管理責(zé)任，核驗(yàn)提供擬人化互動(dòng)服務(wù)應(yīng)用程序的安全評估、備案等情況；對違反國家有關(guān)規(guī)定的，應(yīng)當(dāng)及時(shí)采取不予上架、警示、暫停服務(wù)或者下架等處置措施。（記者　蘇德悅）

【責(zé)任編輯:朱家齊】