财经

AI正在批量制造“幽灵”

来源:丹巴新文网
AI正在批量制造“幽灵”

8月首周,美国时尚集团Tapestry在纽约总部举办第二届AI峰会。Tapestry或许名不见经传,旗下Coach和Kate Spade品牌却是不折不扣的国民认知。

早年间,Tapestry把握顾客偏好多依赖人工调研。研究员向受访者发放问卷、展开访谈,有时还登门观察顾客的日常穿着与衣橱构成。

本届峰会期间,Tapestry消费者洞察部门展示了一组别具一格的"顾客"。

这些"顾客"系Tapestry依托过往数据运用AI技术生成的虚拟形象。其模拟对象为美国与中国年轻群体。当公司需测试新品、价格策略或营销方案时,既可让虚拟人物进行问卷调查,亦可组织焦点小组形式的互动,用以预见年轻消费者的反应模式。

某媒体人亲历了与AI顾客的对话交流。从购物聊到生活,这个虚拟"女孩"竟能表达出对未来就业市场的忧虑。

Coach品牌更将AI顾客应用于店员培训实践。店员可直接与虚拟顾客进行语音交互,演练商品推介话术及客户疑问解答流程。模拟销售结束后,系统会给出绩效评分。

这些虚拟顾客的创设初衷皆为商业应用,但相同技术能力正被用来制造大批化名入世的"幽灵"。

暗流涌动的AI幽灵生态

美国高等教育体系已是AI幽灵现象的重灾区。

近些年,社区大学领域滋生出大量"幽灵学生"。他们并非真实在读人口,而是诈骗分子盗取真实身份信息注册,或凭虚构资料完成账号开户。校方系统中,这些账号拥有完整姓名、学号,同样参与选课与作业提交,与普通在线学员毫无二致。

渗入系统只是欺诈流程的起始阶段。为确保助学金到账,诈骗者还需让虚拟学生扮演真实角色。因此,"幽灵学生"需定期登录课程平台、提交学习任务、参与课堂讨论,必要时需模仿学生作出回应。若在AI技术尚未普及的时期实施此类欺诈,诈骗分子需耗费大量人力维护假身份。而今,AI技术使这一问题迎刃而解。

AI大大简化了多身份操控流程,单个操作者能同时维持的虚拟身份数量实现指数级增长。

加州地区是此类问题的典型重灾区。2024年度,加州社区学院系统收到约120万份疑似欺诈申请,经核实确认22.3万个虚假注册案例。个别院校甚至出现虚拟学生霸占热门在线课程名额,导致真实学生无法入课的窘境。

助学金资金流失不容小觑。美国教育部数据显示,2025年度通过强化审核拦截的学生资助欺诈金额已超10亿美元,其中就涵盖AI机器人冒充学生提交的申请。对诈骗团伙而言,只要虚拟学生能通过入学审核并完成阶段性课程,即可换取可观收益。

招聘领域的"幽灵"身影渐显。

今年,AI模型测评机构Arena遭遇过一名异常求职者。其简历无懈可击,面试环节亦无波折,甚至顺利通过工程师主导的技术考核。待到公司决定正式录用时,该申请人却突然失联。Arena推测,从申请到面试全程,对方可能一直以AI生成的虚拟身份示人。

这一现象令人细思恐极。此类AI若抱有恶意,完全可正式入职。至于其背后操控者身份,以及当前职场中此类AI的总体数量,尚无确切统计。

此类案件的频发已促使招聘行业建立专项统计机制。美国IT研究与咨询公司Gartner对3000名求职者展开调查,其中6%承认参与过面试欺诈活动。Gartner预测,到2028年,全球每四份求职档案中,可能就有一份属于虚假资料。

金融领域内的"幽灵"身影,甚至可提前潜伏数年再实施欺诈。

二十余年前,一种名为"合成身份"的诈骗手法就已存在。骗子通过拼凑真实身份信息与虚构数据,构建出具有完整档案的假身份...

相关推荐

网友评论

登录后发表评论
暂无评论,抢沙发吧~