國家互聯(lián)網(wǎng)信息辦公室近日就《人工智能擬人化互動服務(wù)管理暫行辦法》面向社會公開征求意見，旨在規(guī)范人工智能擬人化互動服務(wù)的發(fā)展，保障用戶權(quán)益，推動行業(yè)健康有序進(jìn)步。

征求意見稿明確要求，服務(wù)提供者需在顯著位置提示用戶，當(dāng)前交互對象為人工智能而非自然人。當(dāng)識別到用戶出現(xiàn)過度依賴或沉迷傾向，或在用戶首次使用、重新登錄時，提供者應(yīng)以彈窗等動態(tài)方式提醒用戶，其交互內(nèi)容由人工智能生成。若用戶連續(xù)使用擬人化互動服務(wù)超過2小時，提供者也需通過彈窗等方式動態(tài)提醒用戶暫停使用。

在安全能力方面，提供者需具備心理健康保護(hù)、情感邊界引導(dǎo)、依賴風(fēng)險預(yù)警等能力。設(shè)計目標(biāo)不得包含替代社會交往、控制用戶心理、誘導(dǎo)沉迷依賴等內(nèi)容，以確保服務(wù)不會對用戶造成負(fù)面影響。

針對未成年人保護(hù)，征求意見稿要求提供者建立未成年人模式，提供模式切換、定期現(xiàn)實(shí)提醒、使用時長限制等個性化安全設(shè)置選項(xiàng)。向未成年人提供情感陪伴服務(wù)時，需取得監(jiān)護(hù)人明確同意，并提供監(jiān)護(hù)人控制功能，如實(shí)時接收安全風(fēng)險提醒、查閱使用概要信息、設(shè)置屏蔽特定角色、限制使用時長、防止充值消費(fèi)等。提供者還需具備識別未成年人身份的能力，在保護(hù)用戶隱私的前提下，對疑似未成年人切換至未成年人模式，并提供申訴渠道。

對于老年人群體，征求意見稿也提出了相應(yīng)要求。提供者應(yīng)引導(dǎo)老年人設(shè)置服務(wù)緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康和財產(chǎn)安全的情況時，及時通知緊急聯(lián)系人，并提供社會心理援助或緊急救助渠道。同時，明確禁止提供模擬老年人用戶親屬、特定關(guān)系人的服務(wù)，以保護(hù)老年人的合法權(quán)益。