國家互聯(lián)網(wǎng)信息辦公室近日就《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》面向社會(huì)公開征求意見，旨在規(guī)范人工智能擬人化互動(dòng)服務(wù)的發(fā)展，保障用戶權(quán)益，推動(dòng)行業(yè)健康有序進(jìn)步。

征求意見稿明確要求，服務(wù)提供者需在顯著位置提示用戶，當(dāng)前交互對(duì)象為人工智能而非自然人。當(dāng)識(shí)別到用戶出現(xiàn)過度依賴或沉迷傾向，或在用戶首次使用、重新登錄時(shí)，提供者應(yīng)以彈窗等動(dòng)態(tài)方式提醒用戶，其交互內(nèi)容由人工智能生成。若用戶連續(xù)使用擬人化互動(dòng)服務(wù)超過2小時(shí)，提供者也需通過彈窗等方式動(dòng)態(tài)提醒用戶暫停使用。

在安全能力方面，提供者需具備心理健康保護(hù)、情感邊界引導(dǎo)、依賴風(fēng)險(xiǎn)預(yù)警等能力。設(shè)計(jì)目標(biāo)不得包含替代社會(huì)交往、控制用戶心理、誘導(dǎo)沉迷依賴等內(nèi)容，以確保服務(wù)不會(huì)對(duì)用戶造成負(fù)面影響。

針對(duì)未成年人保護(hù)，征求意見稿要求提供者建立未成年人模式，提供模式切換、定期現(xiàn)實(shí)提醒、使用時(shí)長限制等個(gè)性化安全設(shè)置選項(xiàng)。向未成年人提供情感陪伴服務(wù)時(shí)，需取得監(jiān)護(hù)人明確同意，并提供監(jiān)護(hù)人控制功能，如實(shí)時(shí)接收安全風(fēng)險(xiǎn)提醒、查閱使用概要信息、設(shè)置屏蔽特定角色、限制使用時(shí)長、防止充值消費(fèi)等。提供者還需具備識(shí)別未成年人身份的能力，在保護(hù)用戶隱私的前提下，對(duì)疑似未成年人切換至未成年人模式，并提供申訴渠道。

對(duì)于老年人群體，征求意見稿也提出了相應(yīng)要求。提供者應(yīng)引導(dǎo)老年人設(shè)置服務(wù)緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康和財(cái)產(chǎn)安全的情況時(shí)，及時(shí)通知緊急聯(lián)系人，并提供社會(huì)心理援助或緊急救助渠道。同時(shí)，明確禁止提供模擬老年人用戶親屬、特定關(guān)系人的服務(wù)，以保護(hù)老年人的合法權(quán)益。