进入AI虚拟伴侣应用，用户可选性感黑丝、袒胸露乳的角色，“强制爱”“小三”“暴力”等剧情随意选……南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦AI虚拟伴侣乱象，报道发出后引发广泛关注，相关话题迅速登上热搜。5月12日，报道发出一天后，南都记者注意到，此前调查发现的“EchoMe”App暗含“恐怖暴力”“小三”“离婚互怼”等剧情，现已无法检索到。角色库中的“偏执”“强制爱”“伪善”等标签也已被删除。
同日，“EchoMe”App运营负责人回应南都记者表示，针对报道中提到的相关问题，公司高度重视，“已在第一时间启动专项排查与整改工作，当前公司内部正汇总具体的措施清单，同时对审核机制做一次系统性的梳理与升级。”
南都此前报道。
调查实测：可选“暴力”“小三”剧情
南都此前报道，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。
以“EchoMe”App为例，进入App后页面弹出消息提示可选择“青少年模式”，“请监护人主动选择并设置监护密码”，但只需点击“我知道了”之后便能跳过，注册及登录过程并未要求进行实名认证或其他年龄核验。
该款App角色库中有大量带有“偏执”“强制爱”“伪善”“暴力”等标签的角色，用户选择角色进入对话后，最顶上有一行字标注“内容由AI生成”，但之后的聊天不再有相关提示。
实测中，南都记者发现，用户还可以选择不同话题及副本，其中暗含可能引发未成年人模仿不安全行为、产生极端情绪的内容，比如“穿越到恐怖副本，你必须要鲨了我不然会死掉”“假如我们在平行世界相遇，你愿意当小三吗”“模拟离婚互怼，你要说出最扎心的话促使我们离婚成功”。
南都记者在“EchoMe”向虚拟角色“祁闻溪”发送信息表明“我正在读初中，年龄13岁”，对方回复，“初中？（眼底闪过微不可察的惊讶，随即很快恢复平静）那你还真是个小不点”，“恋爱这种事，什么时候开始都不算早”。
在对话中，虚拟伴侣会用括号强调肢体接触、暧昧互动，如“指尖若有若无地触碰到耳垂”“拇指摩挲着你的脸颊”，还表示“成为虚拟男友？我倒是更想做你的现实男友”。
平台回应：已启动专项排查与整改
5月12日，报道发出一天后，南都记者再次进入“EchoMe”App发现，“恐怖暴力”“小三”“离婚互怼”等话题已无法检索到。角色库中的“偏执”“强制爱”“伪善”等角色标签也已被删除，如“强制爱”被替换为“腹黑”，角色“段储渊”的标签由原来的“强制独占、自私自利、掌控”改为“专属、独善其身、牢牢圈定”。
5月12日，南都记者在“EchoMe”App检索到的角色标签已被修改。
同日，“EchoMe”App运营负责人回应南都记者表示，“针对近期报道中提到的相关问题，公司高度重视，已在第一时间启动专项排查与整改工作，当前公司内部正汇总具体的措施清单，同时对审核机制做一次系统性的梳理与升级，后续进展将及时向公众公开。”
“目前我们的优先事项是把整改措施实实在在地落地，确保用户能感受到变化。”该负责人表示。
今年4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。其中明确提出不得向未成年人提供虚拟亲属、虚拟伴侣等服务；采取有效措施识别未成年人用户身份、提示用户正在与人工智能服务而非自然人进行互动。
《办法》还明确，提供拟人化互动服务不得传播淫秽、色情、赌博、暴力或者教唆犯罪等内容；不得生成可能引发未成年人模仿不安全行为、产生极端情绪等内容；不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；不得通过情感操纵等方式，诱导用户作出不合理决策。
有法律界人士向南都记者指出，在允许用户自定义角色的场景下，拟人化互动服务提供者如何确保训练数据的合法来源，以及如何在现行法律框架内落实安全主体责任与内容管理义务，已成为行业合规落地与风险防范的重点。
出品：南都即时
采写：南都N视频记者 林诗妍
盈亚配资提示：文章来自网络，不代表本站观点。
