國家互聯(lián)網信息辦公室近日就《人工智能擬人化互動服務管理暫行辦法》面向社會公開征集意見，旨在規(guī)范人工智能擬人化互動服務的發(fā)展，保障用戶權益與安全。

根據征求意見稿，服務提供者需在顯著位置提示用戶正在與人工智能而非真實人類進行交互。當識別到用戶出現(xiàn)過度依賴或沉迷傾向，或在用戶首次使用、重新登錄時，應以彈窗等形式動態(tài)告知用戶交互內容由人工智能生成。若用戶連續(xù)使用擬人化互動服務超過兩小時，提供者同樣需通過彈窗等方式提醒用戶暫停使用。

在安全能力方面，提供者需具備心理健康保護、情感邊界引導及依賴風險預警等功能，不得將替代社會交往、控制用戶心理或誘導沉迷依賴作為設計目標。數據處理活動也需嚴格規(guī)范，包括使用符合社會主義核心價值觀及中華優(yōu)秀傳統(tǒng)文化的數據集，對訓練數據進行清洗、標注以提高透明度與可靠性，防范數據投毒或篡改行為。

針對未成年人保護，提供者需建立未成年人模式，提供模式切換、定期現(xiàn)實提醒及使用時長限制等個性化安全設置。向未成年人提供情感陪伴服務時，需取得監(jiān)護人明確同意，并提供監(jiān)護人控制功能，包括實時接收安全風險提醒、查閱使用概要信息、設置屏蔽特定角色、限制使用時長及防止充值消費等。若識別為疑似未成年人，提供者需在保護隱私的前提下切換至未成年人模式，并提供申訴渠道。

對于老年人用戶，提供者需引導其設置服務緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康或財產安全的情況時，及時通知緊急聯(lián)系人，并提供社會心理援助或緊急救助渠道。同時，提供者不得提供模擬老年人用戶親屬或特定關系人的服務，以避免潛在風險。