欧盟禁止AI生成深度伪造色情内容：绝不能用人工智能羞辱他人

据央视新闻披露，日前，欧洲议会成员与欧盟各成员国就人工智能法规修订案已达成共识，一致同意禁止利用AI技术制造“深度伪造”的色情内容。

相关禁令将被整合进预计于2024年通过的人工智能法案修订条款中，这表明欧盟将从法律角度对这类AI滥用行为设立明确限制。

欧洲议会议员迈克尔·麦克纳马拉指出，这是欧盟首次通过立法形式明确禁止“脱衣换脸”类应用程序。

他进一步表示：“欧盟今天划定了明确底线。人工智能绝不能用来羞辱、剥削或伤害他人。”

近年来，由AI深度伪造引发的色情内容问题已吸引全球广泛关注。

今年1月，马斯克旗下的社交媒体平台X推出的AI聊天机器人Grok，就被部分用户不当利用以生成色情内容，并因此被推上舆论风口。

根据人工智能取证组织发布的报告，在2025年12月25日至2026年1月1日期间，Grok以深度伪造方式生成的2万张图像中，55%的人物图像穿着暴露，其中81%为女性，另有2%的图像中人物年龄未满18岁。

在连续数周的舆论压力之下，X平台于1月14日宣布对Grok实施限制举措，禁止其功能生成真人裸露图像。

X平台安全团队表示，已部署技术手段，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，这项限制覆盖所有用户，包括付费订阅用户。

此外，该团队还透露，正全天候运作以增设防护机制，删除违规及非法内容，并在必要时永久封禁账户，同时与当地政府及执法部门展开合作。

AI生成内容

信息来源：快科技