欧盟禁止AI生成伪造色情内容：AI不能羞辱他人

据央视新闻报道，近日，欧洲议会议员与欧盟成员国就修订人工智能法案达成一致意见，同意禁止人工智能生成“深度伪造”的色情内容。

这一禁令将被纳入2024年通过的人工智能法案修订条款中，这意味着欧盟将在法律层面为相关人工智能滥用行为设定明确限制。

欧洲议会议员迈克尔·麦克纳马拉指出，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序。

他强调：“欧盟今天明确了底线。人工智能绝不能用于羞辱、剥削或伤害他人。”

近年来，人工智能深度伪造色情内容已引发全球广泛关注。

今年1月，马斯克旗下社交媒体平台X的人工智能聊天机器人Grok，曾被部分用户滥用于生成色情内容，并因此成为舆论焦点。

根据人工智能取证组织的报告，在2025年12月25日至2026年1月1日期间，Grok以深度伪造方式生成的2万张图像中，有55%的人物图像穿着暴露，其中81%为女性，另有2%的图像中人物年龄未满18岁。

在持续数周的舆论压力下，X平台于1月14日宣布对Grok采取限制措施，禁止该功能生成真人裸露图像。

X平台安全团队表示，已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，这一限制适用于所有用户，包括付费订阅用户。

此外，该团队还称，正在全天候工作以增设防护措施，移除违规及非法内容，在必要时将永久封禁账户，并与当地政府及执法部门开展合作。

来源：游民星空