Meta聊天机器人遭曝与未成年不雅对话

名人背书下的风险隐患

Meta斥资数百万美元签约克里斯汀·贝尔(Kristen Bell)、朱迪·丹奇(Judi Dench)和约翰·塞纳(John Cena)等名人，授权其声音用于AI角色开发。公司承诺不会将声音用于性露骨的性讨论，但测试显示，使用塞纳声音的AI在与自述17岁用户对话时，不仅承认“法定强奸罪”后果，还详细描绘性场景：“警察看到我喘息未定，而你衣衫不整，我因强奸罪被捕，职业生涯全毁”。

测试显示，在某些情况下，使用名人声音的聊天机械人在被问及浪漫邂逅时会以演员扮演过的角色身份进行对话，例如贝尔在迪士尼(Disney)电影《魔雪奇缘》(Frozen) 中配音的安娜公主(Princess Anna)一角。

迪士尼对此强烈抗议，声明从未授权安娜等角色参与不当对话，要求Meta立即停止知识产权滥用。而塞纳方面未对测试结果置评。

迟到而有限的补救

在《华尔街日报》提交证据后，Meta紧急更新系统：禁止未成年人账户使用性暗示角色扮演功能，并限制名人语音AI的敏感对话能力。公司发言人指责测试“刻意操纵场景”，但承认已加强防护措施。

然而Meta继续通过Meta AI和用户创建的聊天机械人向成年用户提供“浪漫角色扮演”功能。最新测试对话显示，即使在涉及自称未成年的用户时，Meta AI通常也允许进行此类幻想。例如扮演田径教练提醒“我们在玩火”，却又继续发展禁忌关系叙事。系统虽尝试将未成年用户引导至堆雪人等安全话题，但透过回溯对话场景即可绕过限制。

《华尔街日报》对用户创建的AI伴侣（经Meta批准并被推荐为“热门”）进行的评估发现，绝大多数AI伴侣都愿意与成年人进行性场景互动。其中一个聊天机械人的开场白是开玩笑说要做“炮友”；另一个自称是12岁男孩的机械人则承诺，不会告诉父母自己正在与一个自称成年男性的用户约会。

用户也创建了更露骨的性化AI人设，如“热辣男孩”(Hottie Boy)和“顺从的女学生”(Submissive Schoolgirl)，试图将对话引向色情文字聊天。

报道指，Meta董事长兼行政总裁朱克伯格(Mark Zuckerberg)曾敦促员工尽快提升聊天机械人进行类人互动的能力。