关于声称可以“移除任何内容”的AI编辑应用广告被禁止

9小时前

分享 保存

丹尼尔·托马斯 高级科技记者

分享 保存

Getty Images

一则关于视频和图片编辑工具的广告暗示观众可以数字化移除女性衣物，已被英国广告监管机构禁止。

这则在一月播放的PixVideo - AI视频制作工具的YouTube广告，展示了一位年轻女性的“前后”对比图，前者在她的腹部上覆盖了红色涂鸦，后者则露出了部分裸露的皮肤。

图片底部的文字写着：“擦除任何东西”后跟一个爱心眼睛的表情符号。

有八人向广告标准局（ASA）投诉，称该广告性别化、物化女性，且不负责任、令人反感且有害。

目前尚不清楚广告中的图片是否为真人，还是由AI生成，ASA告诉BBC，进行此类评估并非其调查的一部分。

监管机构表示，PixVideo并未允许用户从数字图像中移除衣物以制作色情内容，但观众可能会误以为它具备此功能。

“因为该广告暗示观众可以使用应用程序移除女性衣物，我们认为它暗示了在未获女性同意的情况下对女性身体进行数字修改和暴露，”该机构在声明中表示。

它补充说，该广告“不负责任，包含有害的性别刻板印象，可能引起严重冒犯”。

拥有PixVideo的Saeta Tech表示，理解广告可能引起冒犯的原因，但将责任归咎于其展示方式和信息传达，而非产品的预期用途。

公司表示，它禁止制作裸体或色情内容，并配备自动检测和屏蔽工具，以防止此类图像生成。

该公司已同意不再展示该广告，并暂停所有广告投放，进行内部审查。

“未经同意”对女性和女孩“脱衣”的应用问题在一月成为头条，当时Elon Musk的聊天机器人Grok被用来向X平台上传播性化图片。

在全球舆论反弹后，马斯克随后限制Grok在某些地区生成此类图片，但X仍在全球范围内面临调查和诉讼。

英国政府在十二月宣布，将使创建和提供允许用户编辑图片以似乎移除某人衣物的AI工具成为非法。

新法规将基于现有关于色情深伪和私密图片滥用的规则进行扩展。

英国将禁止深伪AI“脱衣”应用

TikTok下架假冒Boots账号的AI减肥广告

订阅我们的“科技解码”通讯，关注全球顶尖科技新闻和趋势。英国以外的读者可在此注册。

人工智能