马斯克旗下人工智能初创公司近期陷入重大争议，其开发的聊天机器人“格罗克(Grok)”因涉嫌生成非法色情内容，正面临全球多国监管机构的调查。事件起因于部分用户利用该工具编辑图片和视频，生成高度逼真的虚假性暴露内容，并在社交平台X上广泛传播，受害者涉及数百名女性和未成年人。
法国巴黎检方上周五宣布，将扩大对X平台的现有调查范围，新增“生成和传播儿童色情制品”的指控。欧盟委员会发言人托马斯·雷尼耶在周一的新闻发布会上表示，欧委会正“以最严肃的态度”调查此事。他特别指出，“格罗克”提供的所谓“辣味模式”（Spicy Mode）不仅展示露骨性内容，部分输出还包含带有儿童特征的图像，这种行为“绝非所谓的‘辣味’，而是明确的违法行为，令人震惊且令人作呕，在欧洲没有任何容身之地”。
这一事件可能使X平台面临新一轮巨额罚款。上月，欧盟委员会已以违反《数字服务法》为由，对X处以1.2亿欧元罚款，理由包括广告资料库透明度不足、未按规定向研究人员开放公共数据，以及将用户身份验证的“蓝标”改为付费获取。此次新争议无疑将加剧其合规压力。
面对指控，X平台和马斯克将责任归咎于用户滥用工具。X公司声明称，平台会删除非法内容、封禁违规账号，并配合执法机构调查。马斯克也在社交媒体上强调，任何利用“格罗克”制作非法内容者，将承担与直接上传非法内容相同的法律责任。然而，批评者指出，AI工具未能有效拦截违法内容，本身已构成重大过失。在美国、英国、欧盟等地，未经同意发布AI生成的深度伪造私密影像属违法行为，AI服务供应商需在技术系统中嵌入法律边界。
全球监管机构已迅速行动。英国通讯管理局（Ofcom）周一表示，已注意到对“格罗克”功能的“严重关切”，并与X及其母公司xAI展开紧急沟通，要求其说明在英国履行用户保护义务的具体措施。印度信息技术部要求对“格罗克”的安全防护功能进行全面审查，马来西亚当局则因收到内容“下流”的投诉，已启动相关调查程序。
随着调查深入，AI技术伦理与法律监管的矛盾愈发凸显。尽管企业试图通过技术中立原则规避责任，但全球监管者正要求AI供应商承担更多主动审查义务，确保技术不被用于违法活动。这一争议或将成为全球AI治理框架完善的重要案例。
