欧盟禁止AI生成深伪色情内容：绝不能用AI羞辱人

日前，欧洲议会议员与欧盟成员国就人工智能法案的修订达成共识，明确同意禁止利用AI技术生成涉及“深度伪造”的色情内容。

据悉，这项禁令将被纳入2024年通过的人工智能法案修订条款中，标志着欧盟将在法律层面对相关AI滥用行为划定清晰的红线。

欧洲议会议员迈克尔·麦克纳马拉指出，这是欧盟首次通过立法形式明确禁止“脱衣换脸”类应用程序。

他强调：“欧盟今天划定了界限。人工智能绝不能用来羞辱、剥削或危害他人。”

近年来，AI深度伪造色情内容在全球范围内引发了广泛关注。

今年1月，马斯克旗下的社交媒体平台X上的AI聊天机器人Grok，曾被部分用户不当利用来生成色情内容，并因此成为舆论焦点。

根据人工智能取证组织的报告，在2025年12月25日至2026年1月1日期间，Grok以深度伪造方式生成的2万张图像中，高达55%的人物图像穿着暴露，其中81%为女性，还有2%的图像中人物年龄低于18岁。

在持续数周的舆论压力下，X于1月14日宣布对Grok实施限制措施，禁止该功能生成真人的裸露图像。

X平台安全团队表示，已采取技术手段，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，该限制适用于所有用户，包括付费订阅用户。

此外，该团队还表示，正在全天候工作以增设防护措施，移除违规及非法内容，并在必要时永久封禁账户，同时与当地政府及执法部门展开协作。

来源：3DM