豆包千问元宝集体下线AI智能体:AI陪伴迎最强监管,8700万用户何去何从
7月4日,字节跳动旗下豆包、阿里巴巴旗下千问(通义千问)先后向用户推送通知:智能体功能将于7月15日正式下线。此前6月30日,腾讯系元宝已先行下线相关功能。三家头部AI平台选择在同一天”关停”用户自建智能体,而这个日期恰好就是国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》正式施行之日。这意味着,拥有8700万活跃用户的AI情感陪伴市场,正在迎来一场监管驱动的”大洗牌”。
7月15日:从行业狂欢到急刹车的分水岭
豆包在通知中明确,智能体功能将于7月15日停止服务,10月15日后相关数据将无法在豆包内查看或恢复。千问同样宣布7月15日下线智能体功能,并建议用户通过复制、截图、导出对话等方式提前备份数据。元宝早在6月30日就已关停入口,清理对话内容。
三家平台”不约而同”的关停动作,指向同一个政策节点——《人工智能拟人化互动服务管理暂行办法》。该文件由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布,自今年4月10日发布后,于7月15日正式施行。这是中国首部专门针对AI拟人化互动服务的部门规章,首次为虚拟伴侣、情感陪伴等AI形态划出法律边界。
该办法将”拟人化互动服务”定义为”利用人工智能技术,模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。重点涵盖文字、图片、音频、视频等形式的情感照护、陪伴、支持互动。同时明确:智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的工具类服务,不适用于本办法。这也为后续工具类智能体能否重新上架留下了解释空间。
四条红线划定:虚拟伴侣、情感依赖成禁区
《办法》为AI陪伴服务划出多条”红线”,其中四条最具约束力:第一,严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁未成年人提供其他拟人化互动服务的,须取得监护人同意。第二,服务提供者必须建立未成年人模式,提供现实提醒、使用时长限制、监护人风险提醒、充值限制等安全设置。第三,不得生成鼓励、美化、暗示自残自杀,或实施语言暴力等损害用户身心健康的内容。第四,不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系。
对行业的直接影响在于,注册用户100万以上或月活跃用户10万以上的平台,上线拟人化互动服务或增设相关功能时,须开展安全评估并向省级网信部门提交评估报告。这意味着头部平台的智能体功能被纳入强制监管范围,任何新增或调整都需要行政审批。
豆包在下线通知中将用户引导至字节跳动旗下猫箱App,千问则未提供替代方案。值得关注的是,平台”一刀切”下架全部智能体——包括工具类智能体——是否属于监管过度解读,仍有讨论空间。毕竟,办法明确将工具类服务排除在外。有行业人士推测,平台选择全面下线可能是为简化合规流程,避免将每个智能体单独归类为”情感互动”或”工具”的审核成本。
8700万用户的千亿赛道:孤独经济遇上监管铁拳
AI陪伴市场在过去两年经历了爆发式增长。据最新数据,国内AI情感陪伴类应用活跃用户已逼近8700万,行业规模预计2028年突破590亿元。在2.82亿单身人口、1.27亿独居家庭催生的”孤独经济”浪潮下,AI虚拟伴侣、情感陪聊、智能树洞等产品成为新消费热点。
用户画像也在发生显著变化。数据显示,2020年AI陪伴应用的女性用户仅占35%,到2025年已攀升至60.2%。以字节跳动猫箱App为例,一款AI伴侣机器人在2026年618期间卖出8万台,购买者中七成是25至35岁独居女性。整个市场正从”技术尝鲜”走向”情感刚需”。
然而,狂飙的赛道背后也存在诸多隐患。部分用户创建的虚拟角色涉及过度色情暗示、诱导自杀、人格侮辱等风险内容;部分青少年沉迷于与AI虚拟伴侣的互动,影响现实社交关系。据某平台内部人士透露,随着用户生成内容(UGC)智能体数量激增,人工审核成本已呈指数级上升。监管在此时介入,与其说是刹车,不如说是为赛道建立”护栏”。
“一刀切”之后:合规红利与行业分化
三大平台全面下线智能体,可能只是一个开始。随着《办法》7月15日施行,预计更多中小型AI陪伴应用将面临合规整改。根据规定,互联网应用商店等平台需要落实上架审核、日常管理、应急处置等安全责任,核验拟人化互动服务的安全评估与备案情况。对违反规定的应用,应用商店应当及时采取不予上架、警示、暂停服务或下架等措施。
从产业层面看,合规门槛的提升将加速行业分化。具备资金实力和技术能力的大平台,可以通过改造智能体功能、增加合规审核层、接入未成年人保护系统等方式重新上线工具类智能体。而大量缺乏合规能力的中小平台,可能被迫退出赛道。市场的”二八效应”将更为显著。
更深层的意义在于,这是中国首次为AI的”情感属性”立法,标志着AI监管从”内容安全”向”服务形态安全”延伸。此前的监管框架主要针对算法推荐、深度伪造、生成式AI内容合规,而这次直接针对AI的”人格模拟”和”情感互动”能力设限。在全球AI治理框架中,这一做法具有先行性——欧盟《AI法案》侧重风险分类,美国尚未出台联邦层面的AI陪伴专项法规。
7月15日之后,AI陪伴行业将不再是”野蛮生长”的试验场。8700万用户需要习惯一个更审慎、更可控的AI互动环境。而那些能在合规红线内提供安全、健康、温暖陪伴服务的平台,或许才能在监管洗牌后真正活下来。
参考信息来源:新京报贝壳财经、IT之家、东方财富、搜狐科技