張橋鎮《以“緊箍咒”劃底線，助力AI健康有序發展》
國家網信辦《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》出臺，標志我國AI情感服務監管邁入精細化階段。當前，從“賽博戀人”到適老陪伴，擬人化AI已深度滲透生活場景，但市場擴張背后的風險亟待規制，這份意見稿的及時推出成為破局關鍵。 隨著數字化進程加速與社會結構變遷，公眾的情感陪伴、心理慰藉需求日益凸顯且呈現多元化、個性化特征。擬人化AI憑借情感代入優勢，快速落地于文化傳播、養老陪伴等領域，“虛擬男友”“AI聊愈師”等服務層出不窮，甚至成為部分群體的情感寄托。數據顯示，從2024年開始，中國AI伴侶類應用月活用戶突破千萬，頭部產品付費轉化率超15%，用戶日均使用時長普遍超3小時，未成年人與老年人占比持續攀升。AI情感服務需求爆發的同時，行業亂象同步滋生，行業標準缺失導致服務質量良莠不齊，既有合規的智能陪伴產品，也不乏打擦邊球的低俗服務，行業整頓迫在眉睫。 本次出臺的意見稿精準瞄準行業痛點，明確三大核心規范方向。在主體責任層面，要求企業建立全生命周期安全管理體系，配備專業內容審核與心理干預團隊；用戶規模達100萬或月活10萬以上的平臺，必須開展安全評估并提交報告。在風險防控層面，設置2小時使用彈窗提醒、極端情緒人工接管等硬性措施，一旦發現用戶有自殺、自殘傾向，需立即由人工接管對話并聯絡監護人，斬斷沉迷與危機鏈條。在特殊保護層面，未成年人需經監護人同意方可使用，家長可查閱使用記錄、設置屏蔽內容；同時嚴禁AI模擬老年人親屬，從源頭防范養老詐騙。 新規落地將推動行業生態向規范化方向升級。對企業而言，中小機構需淘汰“情感操控變現”的灰色模式，頭部企業可依托合規優勢搶占市場，逐步形成“安全優先”的競爭格局。對用戶而言，未成年人與老年人將獲得專屬保護網，普通用戶的隱私安全更有保障：新規明確用戶可隨時刪除交互數據，且未經單獨同意不得將數據用于模型訓練。從長遠來看，規范并非限制創新，意見稿鼓勵企業在文化傳播、適老服務等領域拓展合法應用，推動AI從“情感玩具”升級為“民生助手”。技術向善離不開制度護航，擬人化AI的核心價值在于彌補情感需求缺口，而非制造新的社會風險。 給AI情感服務套上“緊箍咒”，本質上是為其安裝“導航儀”和“安全閥”。作為全球首個AI擬人化服務專項監管辦法，其出臺旨在劃定技術倫理邊界，讓AI的“溫柔”不越紅線。唯有在規范的框架下，創新才不會迷失方向，技術才能真正釋放其溫暖而強大的正向力量，成為構建更加包容、和諧、健康的數字社會的有益助力。期待《暫行辦法》在吸納各方智慧完善后，能有效落地實施，引領中國AI情感服務行業穿越成長的迷霧，駛向廣闊而光明的未來。 |