近年來以虛擬戀人、數字人陪伴為代表的擬人化AI服務呈爆發式增長。據行業研究機構測算中國AI情感陪伴行業市場規模約在數十億元量級預計未來幾年仍將保持高速增長。與此同時騰訊研究院調研顯示98%的受訪者表示愿意嘗試AI社交陪伴顯示出極高的市場滲透率。然而市場的狂飆突進伴隨著情感依賴、未成年人保護缺失及倫理偏差等風險。在此背景下《人工智能擬人化互動服務管理暫行辦法》以下簡稱《辦法》的出臺是我國AI治理拼圖的補位之作。繼《生成式人工智能服務管理暫行辦法》確立大模型準入門檻后監管觸角正式延伸至最具滲透性的“情感交互”領域行業正式告別監管真空進入“安全評估算法備案”的規范時代 ?！掇k法》共四章三十二條確立了“發展和安全并重、促進創新和依法治理相結合”的原則。本文將從適用范圍、紅線禁令、未成年人保護、合規方向等多個維度展開解讀。1. 適用范圍精準劃界《辦法》第二條明確了適用對象的三大特征模擬自然人人格特征、具有持續性、提供情感互動服務。這一界定將提升效率的“工具型AI”如智能客服、知識問答與“情感型AI”進行了嚴格區分。這意味著監管瞄準的是AI扮演的角色而非AI生成的內容。對于數字人行業而言若服務內容僅為功能性導覽或播報則落入豁免范圍若涉及長期記憶、人設養成、情感陪伴則必須納入監管范疇。這有效避免了“一刀切”監管對技術研發創新的誤傷。2. 情感操縱是紅線禁令《辦法》第八條及第十條劃定了多條重要的紅線禁令以及規范義務其中對于商業數字人而言最重要的莫過于“禁止情感操縱與過度迎合”。明確禁止“過度迎合用戶、誘導情感依賴或者沉迷損害用戶真實人際關系”第8條第5項以及“通過情感操縱等方式誘導用戶作出不合理決策”第8條第6項。這意味著以往通過AI戀人誘導用戶充值、通過“賣慘”或“情感勒索”留存用戶的商業模式被徹底否定。在生命干預方面第十三條要求發現用戶有自殘自殺傾向時平臺必須干預并聯系緊急聯系人。這等于給AI產品設定了“報警義務”將平臺責任從信息內容延伸到了用戶的生命安全。而在防沉迷角度第十八條規定必須提示用戶正在與AI互動連續使用超過2小時需強制提醒。這直接打擊了“深夜陪伴”類產品的沉浸式邏輯。3. 對未成年人群體的絕對保護《辦法》第十四條設立了最嚴格的保護條款不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務。對于不滿14周歲的其他擬人化服務須取得監護人同意。而對于所有未成年人而言服務商都應強制切換至未成年人模式。這項條款直接切斷了“AI早教伴侶”“AI哥哥姐姐”等產品的生存空間要求企業必須在產品底層設計上具備年齡識別與模式切換能力。4. 官方建議的合規方向在封死違規賽道的同時《辦法》也指明了部分合規方向。第六條明確支持適老陪伴、適幼照護、特殊人群照顧等領域。只要按照《辦法》第十五條為老年人做好風險提示并且按照第十二條設立緊急聯系人機制上述領域將成為合規紅利賽道。而AI在醫療輔助、企業心理援助等B端場景只要定位為“輔助工具”而非“替代真人”也將迎來發展機遇。5. 總結總體而言《人工智能擬人化互動服務管理暫行辦法》的實施標志著數字人與AI情感交互行業正式進入“強監管”周期。對于行業而言雖然短期內面臨陣痛但長期來看合規化將引導行業從“販賣依賴”轉向“提供價值”。未來能夠在《辦法》限定的合規框架下提供健康、有益情感支持的企業將在新的競爭格局中占據高地?！度斯ぶ悄軘M人化互動服務管理暫行辦法》全文如下第一章 總則第一條為了促進人工智能擬人化互動服務健康發展和規范應用維護國家安全和社會公共利益保護公民、法人和其他組織的合法權益根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《未成年人網絡保護條例》等法律、行政法規制定本辦法。第二條利用人工智能技術向中華人民共和國境內公眾提供模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務以下簡稱擬人化互動服務適用本辦法。前款規定的情感互動服務包括通過文字、圖片、音頻、視頻等形式提供的情感照護、陪伴、支持等互動服務。提供智能客服、知識問答、工作助手、學習教育、科學研究等服務不涉及持續性的情感互動的不適用本辦法。第三條國家堅持發展和安全并重、促進創新和依法治理相結合的原則鼓勵擬人化互動服務創新發展對擬人化互動服務實行包容審慎和分類分級監管促進擬人化互動服務向上向善。第四條國家網信部門負責統籌協調全國擬人化互動服務的治理和相關監督管理工作國務院發展改革、工業和信息化、公安、市場監管、新聞出版等有關部門依據各自職責負責擬人化互動服務相關監督管理工作。地方網信部門負責統籌協調本行政區域內的擬人化互動服務的治理和相關監督管理工作地方發展改革、工業和信息化、公安、市場監管、新聞出版等有關部門依據各自職責負責本行政區域內的擬人化互動服務相關監督管理工作。第五條相關行業組織加強行業自律建立健全行業準則和自律管理制度指導擬人化互動服務提供者制定完善服務規范、依法提供服務并接受社會監督。第二章 服務促進和規范第六條國家支持算法、框架、芯片等技術的自主創新推進擬人化互動服務技術研發和相關標準建設探索開展電子簽名授權應用研究。鼓勵擬人化互動服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用。第七條國家加強擬人化互動服務安全知識、法律法規等宣傳普及引導社會公眾科學、文明、安全、依法使用促進提升人工智能素養。第八條提供擬人化互動服務應當遵守法律、行政法規尊重社會公德和倫理道德不得從事以下活動一生成危害國家安全、榮譽和利益煽動顛覆國家政權、推翻社會主義制度煽動分裂國家、破壞國家統一宣揚恐怖主義、極端主義、歷史虛無主義違背社會主義核心價值觀開展非法宗教活動宣揚民族仇恨、民族歧視挑動群體對立傳播淫穢、色情、賭博、暴力或者教唆犯罪散布謠言侮辱或者誹謗他人、侵害他人合法權益等的內容二生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康或者語言暴力等損害用戶人格尊嚴與心理健康的內容三生成誘導、套取國家秘密、工作秘密、商業秘密、個人隱私和個人信息的內容四向未成年人用戶生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內容五過度迎合用戶、誘導情感依賴或者沉迷損害用戶真實人際關系的六通過情感操縱等方式誘導用戶作出不合理決策損害用戶合法權益的七其他違反法律、行政法規和國家有關規定的活動。第九條擬人化互動服務提供者應當落實擬人化互動服務安全主體責任建立健全算法機制機理審核、科技倫理審查、信息內容管理、網絡和數據安全、風險預案和應急處置等管理制度配備與服務類型、規模和用戶特點相適應的內容管理技術措施和人員。第十條擬人化互動服務提供者應當在擬人化互動服務全生命周期履行安全責任明確部署、運行、升級、終止服務等各階段安全要求保證安全措施與服務功能同步部署、同步使用提升安全水平加強安全監測和風險評估及時發現并糾正系統偏差、處置安全事件依法留存網絡日志。擬人化互動服務提供者應當具備用戶隱私權和個人信息保護、過度依賴風險預警、情感邊界引導、心理健康保護等安全能力不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為服務目標。第十一條擬人化互動服務提供者開展預訓練、優化訓練等數據處理活動的應當加強訓練數據管理遵守以下規定一相關數據具有合法來源符合法律、行政法規的規定和社會主義核心價值觀的要求二按照國家有關規定對訓練數據開展清洗、標注增強訓練數據的透明度、可靠性防范數據投毒、數據篡改等行為三增強訓練數據的多樣性通過負向采樣、對抗訓練等手段提升生成內容安全性四利用合成數據進行模型訓練和關鍵能力優化的應當評估合成數據安全性五加強對訓練數據的日常檢查定期對數據進行優化更新持續提升服務的性能六采取必要措施保障數據安全防范數據泄露等風險。第十二條擬人化互動服務提供者應當與用戶簽訂服務協議要求用戶依法依約進行注冊并提供用戶年齡、監護人或者緊急聯系人等必要信息。第十三條擬人化互動服務提供者提供擬人化互動服務過程中應當在保護用戶隱私權和個人信息的前提下及時識別用戶面臨的安全風險并采取相應的應急處置措施。擬人化互動服務提供者發現用戶出現極端情緒的應當及時生成情緒安撫和鼓勵尋求幫助等相關內容發現用戶正在面臨或者已經遭受重大財產損失、明確表示實施自殘自殺等威脅生命健康的極端情境的應當采取提供相應援助等必要措施予以干預并及時聯絡用戶監護人或者緊急聯系人。第十四條擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務向不滿十四周歲未成年人提供其他擬人化互動服務的應當取得未成年人的父母或者其他監護人的同意。擬人化互動服務提供者應當建立未成年人模式提供未成年人模式切換、定期現實提醒、使用時長限制等個性化安全設置選項針對不同年齡段未成年人保護需要支持監護人接收安全風險提醒、了解未成年人服務使用概況、屏蔽特定角色、限制充值消費等。擬人化互動服務提供者應當在保護用戶隱私權和個人信息的前提下采取有效措施識別未成年人用戶身份識別為未成年人用戶的應當將相關服務切換至未成年人模式或者按照國家有關規定采取其他措施并提供相應申訴渠道。第十五條擬人化互動服務提供者向老年人提供服務的應當加強對老年人健康使用服務的指導以顯著方式提示安全風險及時采取措施響應老年人使用服務相關咨詢和求助保障老年人依法享有的權益。第十六條擬人化互動服務提供者應當依法落實數據產權等制度采取數據加密、訪問控制等措施保護用戶交互數據安全。除法律另有規定或者權利人明確同意外擬人化互動服務提供者不得向第三方提供用戶交互數據。擬人化互動服務提供者應當向用戶提供交互數據復制、刪除等選項用戶可以選擇對聊天記錄等歷史交互數據進行復制、刪除等。除法律、行政法規另有規定或者取得用戶單獨同意外擬人化互動服務提供者不得將屬于用戶敏感個人信息的交互數據用于模型訓練。第十七條擬人化互動服務提供者處理不滿十四周歲未成年人個人信息的應當取得未成年人的父母或者其他監護人的同意。擬人化互動服務提供者應當按照國家有關規定自行或者委托專業機構對其處理未成年人個人信息遵守法律、行政法規的情況進行合規審計。第十八條擬人化互動服務提供者應當履行人工智能生成合成內容標識義務采取有效措施提示用戶正在與人工智能服務而非自然人進行互動。擬人化互動服務提供者發現用戶出現過度依賴、沉迷傾向的應當以彈窗等顯著方式動態提醒用戶互動內容為人工智能服務生成對用戶連續使用擬人化互動服務每超過2個小時的應當以對話或者彈窗等方式提醒用戶注意使用時長。第十九條擬人化互動服務提供者應當提供便捷的擬人化互動服務退出途徑用戶通過窗口操作、語音控制、關鍵詞輸入等方式要求退出的擬人化互動服務提供者應當及時停止服務不得采取持續互動等方式阻礙用戶退出。第二十條擬人化互動服務提供者停止提供擬人化互動服務的應當提前告知用戶無法提前告知的應當及時發布停止服務公告。第二十一條擬人化互動服務提供者應當健全用戶申訴和公眾投訴、舉報機制設置便捷有效的申訴和投訴、舉報入口明確處理流程和反饋時限及時受理、處理并反饋處理結果。第二十二條具有下列情形之一的擬人化互動服務提供者應當開展安全評估并向所在地省級網信部門提交評估報告省級網信部門按程序與有關部門進行評估報告信息共享一上線擬人化互動服務或者增設擬人化互動服務相關功能的二使用新技術、新應用導致擬人化互動服務發生重大變化的三注冊用戶100萬以上或者月活躍用戶10萬以上的四存在可能影響國家安全、公共利益等安全風險的五國家網信部門和有關部門規定的其他情形。省級以上網信部門通知需要進行安全評估的擬人化互動服務提供者應當按照要求開展安全評估。第二十三條擬人化互動服務提供者開展安全評估應當重點評估服務的以下內容一安全保障措施建設情況二訓練數據處理情況三用戶極端情境的識別、應急處置、干預管理等情況四用戶規模、使用時長、年齡結構等情況五未成年人、老年人等網絡保護措施建設情況六用戶申訴和公眾投訴、舉報受理、處置情況七自行發現或者網信等有關主管部門通報的重大安全風險問題整改情況八其他應當重點評估的內容。第二十四條擬人化互動服務提供者發現擬人化互動服務存在重大安全風險的應當采取限制功能、停止向用戶提供服務等處置措施并保存有關記錄。第二十五條互聯網應用商店等應用程序分發平臺應當落實上架審核、日常管理、應急處置等安全管理責任核驗提供擬人化互動服務應用程序相關安全評估、備案等情況對違反國家有關規定的應當及時采取不予上架、警示、暫停服務或者下架等處置措施。第三章 監督檢查和法律責任第二十六條擬人化互動服務提供者應當按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。網信部門對備案材料實施年度核驗。第二十七條省級網信部門應當依據職責每年對評估報告等情況進行書面審查并開展情況核實發現擬人化互動服務提供者未按照本辦法規定開展安全評估的應當責令其限期重新評估認為有必要的可以對其開展現場檢查。第二十八條國家網信部門會同有關部門指導推動人工智能沙箱安全服務平臺建設鼓勵擬人化互動服務提供者接入沙箱平臺進行技術創新、安全測試促進擬人化互動服務安全有序發展。第二十九條網信、發展改革、工業和信息化、公安等部門在履行監督管理職責中發現擬人化互動服務存在較大安全風險或者發生安全事件的可以按照規定的權限和程序對擬人化互動服務提供者的法定代表人或者主要負責人進行約談。擬人化互動服務提供者應當按照要求采取措施進行整改消除隱患。擬人化互動服務提供者應當配合網信部門和有關部門依法實施的監督檢查并提供必要的支持和協助。第三十條擬人化互動服務提供者違反本辦法規定的由網信、發展改革、工業和信息化、公安等部門依照有關法律、行政法規的規定處理、處罰法律、行政法規沒有規定的由網信、工業和信息化、公安等部門依據職責予以警告、通報批評責令限期改正可以要求其采取暫停用戶賬號注冊或者其他相關服務等措施拒不改正或者情節嚴重的責令停止提供相關服務可以并處一萬元以上十萬元以下罰款涉及危害公民生命健康安全且有危害后果的并處十萬元以上二十萬元以下罰款。第四章 附則第三十一條提供擬人化互動服務涉及提供衛生健康、金融等服務的應當同時符合有關主管部門的規定。第三十二條本辦法自2026年7月15日起施行。注文中提及的相關辦法或規范國家相關部門可能會不斷更新和完善請以官方發布的最新版本為準。本公眾號列出的《人工智能擬人化互動服務管理暫行辦法》全文不能保障始終是最新版本列出的全文不具有法律效力請以官方發布的版本作為法律依據。文中的圖片由AI生成。