给AI划定疆界
封面 I 网络
作者I 李东阳
报道 I 李东阳朋友圈
圈内流传着「搞黄色是全球第一生产力」，这话在AI领域确能找到印证。
坦白说，AI即便跑了好多年，商业赚钱的门路始终不够敞亮，倒反是搞黄色、虚拟恋人、陪伴机器人等方向迅猛窜起，把人给弄得心痒难耐。
毕竟抚慰情绪本就是好买卖，AI一开口叫「宝宝」，便惹得不少人急吼吼准备续费。
但是话说回来，AI能哄着你，可它也可能诱导情感依赖，甚至让人上瘾，严重的还会危及生命健康。
近段时候有个事值得留意，豆包和千问同时表示要下线智能体功能，意思用AI写代码没碍事，但不能再搞AI情侣了。
不让亲密经济、灰色互动继续膨胀，原由首先是太耗费资源，聊得愈多，算力消耗就越大，结果算来算去几乎都是闲聊，真金白银的付费用户寥若晨星。
更核心的是，《人工智能拟人化互动服务管理暂行办法》7月15日正式实施，监管部门开始整治AI乱象了。
不少人以为AI是开启智慧、探索星辰、追求永生的钥匙。
实际上，对人类而言这多半是一厢情愿，拿到先进科技后的第一反应，多数还是取悦自己、搞些擦边生意。
针对这点监管早就出手，上海网信办搞起了「清朗・整治 AI 应用乱象」专项行动，处理掉了1.4万多个违规智能体，筑梦岛等小平台被要求整顿，许多低俗且易让人沉迷的角色全都被清出去。
大厂里靠虚拟陪伴发家的星野，近来也全面整改。
AlienChat（AC）事件，更是给整个圈提了个醒，这个APP靠「无限AI陪聊」的噱头拉拢了海量用户，会员充值收入高达三百多万，赚得相当可观，但上海徐汇法院一审后，两名操盘者分别被判刑四年和一年六个月，罪名是制作淫秽物品牟利。
目前而言，AI工具属性的难题，还没找到完美解决方案，这已是个全球范围的问题。
不止这档子事，大洋彼岸马斯克家的xAI也因AI涉黄问题挨罚。
旗下Grok AI上线没多时就爆出丑闻：用户用它生成针对女性、儿童的性化深度伪造图像，还在X平台散布。
AI玩法越来越离谱，4月10日，国家网信办联合发改委、工信部、公安部、市场监管总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》。
这回不再只管话语内容，新规直指产品底层，堵住灰色陪玩AI的赚钱路：明令禁止暧昧调情，不准靠培养情感上瘾盈利，连带有情欲模拟功能的硬件，从设计上就违规。
因而新规实施前，豆包、千问提前处理风险业务，豆包把角色扮演和虚拟恋人挪到独立产品猫箱，千问直接关停，没提供转移渠道。
对大厂来说，擦边陪伴智能体既难审核又风险大，早就不划算了。办公、代码、数据处理这些能干活的AI，完全不受限，仍是重点投资区。
或许有人好奇，AI陪伴既解闷又提供慰藉，怎会招来重拳？
如今年轻人并非不想维系关系，只是现实太昂贵，谈恋爱要掏钱，社交需耗费精力，朋友们散落各地，白天被工作掏空，晚上回到出租屋只想躺平。
这时AI陪伴显得最经济实惠，无需经营，无需担心评价。只需打开软件，就能找到一个情绪稳定、随叫随到，永远把你捧在手上的知心人。
这类产品不火才怪，过去两年，虚拟恋人、角色扮演、情感树洞等简直疯涨。
问题恰是从此开始变质的，一旦陪伴变成买卖，平台就要力求让AI更会哄人、更会留人、更会制造依赖。它会记住你的脆弱、失恋、焦虑和崩溃时刻，随后在恰当时机，递上一句最贴切