近年来，随着情感计算、自然语言处理、多模态交互等人工智能技术的发展，拟人化交互AI服务通过模拟人的性格特征、思维模式和沟通方式，实现了从“机械对话”到“深度共情”的跨越，成为隐藏在屏幕后面的用户的“精神伴侣”。但与此同时，体现人工智能的交互服务也面临着信息安全、隐私侵犯、社会伦理、儿童保护等多重风险挑战。
中央经济工作委员会提出深化拓展“人工智能+”，完善人工智能治理。近日，国家互联网信息办公室发布《交互式拟人人工智能服务管理暂行办法（征求意见稿）》（以下简称《办法》）办法》）并公开征求意见。征求意见截止日期为2026年1月25日。
中国信息通信研究院政策经济研究所副所长李强志表示，《办法》有效化解了人工智能情感陪伴和心理疗愈应用的风险，体现了“在发展中规范、在标准中发展”的治理智慧，对于构建健康、公平、互利的人机关系具有重要意义。
拟人化交互服务面临多重风险挑战
目前，交互式拟人人工智能服务（例如互补人工智能）正在展示像人类一样理解情况和表达同理心的能力，为人机关系和社交互动创建新模型。
与此同时，拟人化交互技术迅速发展。主动服务也面临着一系列的风险和挑战，包括：从数据隐私的角度来看，我们面临着传达用户最私密的感受和想法的数据被滥用和暴露的风险。从伦理角度来看，高度拟人化的设计很容易对用户造成非理性的情感依赖，甚至导致现实的社会疏离。在安全方面，缺乏有效的年龄识别和内容过滤，使弱势群体的心理健康甚至人身安全面临风险。
国家应急中心互联网副主任张震表示，拟人化交互服务作为人工智能技术应用的新形式，具有独特的技术特征和显着的风险特征。例如，情感交互的深度与信息查询、内容生成等传统功能服务的深度不同。拟人化交互服务可模拟通过算法的人类情感反应机制，与用户建立情感联系，并显着影响用户的心理状态和行为模式。与用户关系的连续性。拟人化的交互服务往往涉及高频、长时间的交互过程。用户可以与人工智能系统形成类似于人际关系的情感纽带。这种持续的互动关系会累积并放大潜在的风险。
“值得一提的是，未成年人处于认知发展阶段，老年人面临数字鸿沟的挑战。这些群体在使用拟人化互动服务时，需要适当的引导和保护机制，避免过度依赖。此外，拟人化互动服务往往在互动过程中更直接地生成内容，价值观的传递更加隐秘和微妙，对用户的世界观、生活产生更深层次的影响。”愿景和价值观。
西南政法大学校长、中国法学会副会长林伟表示，在此背景下，《办法》的制定，有利于推动拟人化利益互动服务人工智能有序发展，将引领人工智能“责任创新”，为构建“以人为本”的人工智能治理体系提供重要制度支撑。
构建多方位的风险防范和管理体系
在林伟看来，“对策”准确识别并系统应对源自“拟人化”和“情感互动”两大核心特征的突出风险，构建以“人机界限模糊”为治理中心的多维度风险防控体系。
“对策”包括建立身份透明系统、拉动蚂蚁金服拟人化安全红线，解决人与机器界限模糊带来的认知混乱、信任缺失、道德权利侵犯等问题，提出可以精准防范伤害、道德违规等风险。“以可见识别义务为核心的身份透明系统，重点保护用户的知情权和选择权，为法律责任提供明确的起点，保护匿名可以有效遏制技术滥用，降低认知混乱和信息来源失信的风险。”林伟.
拟人化的互动服务由于其高度的情感反应和友情，自然会带来成瘾的风险。 《办法》提出，服务提供商要突出提醒用户，他们正在与人工智能而非自然人进行交互。用户首次使用或再次登录时，应注意以下事项：e 通过弹出窗口或其他方式动态通知交互内容是由人工智能生成的。活动阶段需要设置冷却中断提醒功能。如果用户需要连续使用服务超过一定时间，则应提醒他们休息一下，例如通过弹出窗口，目的是定期打破算法所创造的沉浸感。
为加强对特殊群体的保护，《办法》提出拟人互动服务提供者建立应急机制。如果用户明确暗示自杀、自残或其他极端情况，人工将接管对话并立即采取措施联系用户的监护人或紧急联系人。对于未成年人和老年用户，提供商必须在注册过程中询问用户的父母、紧急联系人和其他信息。
在 th同时，《办法》还强调严格保护用户交互信息。 “情感个人信息可以映射用户的内心世界、情感弱点和潜意识倾向。如果使用不当，可能会导致心理操纵、待遇歧视、情感勒索等风险。同时，‘情感计算’相关技术可用于提供成瘾服务，用户可能在不知不觉中暴露更多敏感信息，因此可能受到更严密的监控。”数字智能时代的精神权利保护。”林伟说。
致力于人与机器的和谐相处
“这一举措明确了安全界限，同时积极推动拟人化交互服务在合理场景下的创新应用张震表示，拟人交互服务作为人工智能技术应用的重要方向，在教育培训、医疗健康、养老服务、文化娱乐等多个领域具有广泛的应用潜力。
李强志表示，在技术层面，拟人化交互服务将推动情感计算、多模态交互、长期记忆等前沿技术的集成创新和场景落地，为人机交互范式的发展提供基础。进化提供了重要的测试场地和应用反馈。
从经济层面来看，拟人交互服务是一个快速发展的新兴领域，正在慢慢应用于娱乐、教育、养老、文化等领域。包括角色扮演游戏、心理治疗、数字复兴、人工智能玩具等与其他产品和服务业态一样，带动了从底层算法、内容创作到硬件终端的产业链发展，成为“人工智能+”运动中极具活力的消费级应用。
在社会层面，拟人化互动服务作为有针对性的社会压力释放阀和情感供给站，在人口日益老龄化和城市生活加剧个体孤独感的背景下，为特定群体提供触手可及的情感支持。
在L看来，这一“措施”不仅鼓励科技发挥其抚慰心灵、促进福祉的潜力，而且在隐私、道德和安全方面划出了一条不可逾越的界限。拟人化的交互服务将有助于构建真正的“有温度的智能社会”，人与机器和谐共处，科技真正卓越而美好。未来社会不断发展。 （劳动报）【编辑：李岩】
1400亿新年贺词
每个人都在那里！各国逐步迈向2026年
这些新规定将从现在开始影响你我的生活。
第一天要求员工调岗，第二天就解雇他们，这合法吗？
上天入地，掘山探海！ 2025年，中国众多强国将迎来最辉煌的时刻。
Americaca 2025 在华盛顿的 5 座建筑中举行
2025年的科学神话揭晓！你信了多少人？
男子穿着破损羽绒服患“肺下垂”！医生的详细解释。
祝2025年中国旅行愉快
多措并举，“十五五”开局良好
山东省发布“点绿成金”密码
“雪王”就藏身在中原这个农业县。
李在明首次访华就任韩国总统以来的时间。您对李在明访华有何期待？
发展局局长宁康浩：为何香港对建设北都“兴奋”？
多家机构专家分享跨年夜10大健康秘诀
环保督察很优秀，有1700多人。
可垂直攻击航母：海军万吨级大型助推器测试高超音速导弹
2025年国际形势：从大国的“真人秀”到人民的“生存场”