今年 1 月，一场风波席卷了网络世界—— 大量疑似泰勒丝（Taylor Swift）的色情 AI 合成图在社群平台 X （前身为 Twitter）上流传。这些利用 AI 技术制作的以假乱真的深伪（deepfake）图片迅速在网络上扩散，不仅引发泰勒丝粉丝的愤怒，更掀起了社会对 AI 深伪内容的广泛讨论与忧虑。在这样的背景下，搜索巨头 Google 宣布了一系列新措施，为的就是要打击并减少此类内容在其搜索结果中出现。

Google 正推出全新的网络安全功能，让用户更容易大规模地从搜索结果中移除不实的深伪内容，同时防止这类内容在搜索结果中占据高位。

当用户成功要求移除搜索结果中未经同意、捏造的不当内容时，Google 系统现在还会过滤掉所有相关搜索中的不当结果，并删除重复的图片。

Google 产品经理 Emma Higham 在声明中表示：「这些保护措施在处理其他类型的非自愿图像时已经证实相当有效，我们现在也为捏造的不当图像开发了相同的功能。这些作为的目的是给予用户更多安心感，尤其是当他们担心未来可能会出现类似内容时。」

Google 也正在调整搜索排名机制，以更好地处理可能显示不当假造内容的高风险查找行为。举例来说，针对刻意寻找真人 deepfake 图像的搜索（如今年初流传的 Taylor Swift AI 生成色情图像），系统将优先显示「高品质、适当的内容」，例如相关新闻报导。因假造不当图像而频繁被要求下架内容的网站，其 Google 搜索排名将会被降低。

Google 表示，今年以来，先前的更新已经减少了超过七成专门搜索此类 deepfake 内容的查找中不当图像的曝光率。

该公司还在研发一种方法，以区分真实的不当内容（如演员自愿的裸露镜头）和捏造的不当内容，让合法图像仍能被显示，同时降低 deepfake 的排名。

这些更新延续了 Google 为解决危险和/或不当内容在网络上传播所做的一系列改进。今年 5 月，Google 开始禁止广告商推广深伪色情服务。Google 还在 2022 年Google 在 2022 年扩大了可申请从搜索结果中移除的个人敏感信息类型，以打击肉搜行为，并在2023 年 8 月开始默认模糊化处理性暗示图片。

：Jocelyn

快加入 INSIDE Google News 按下追踪，给你最新、最 IN 的科技新闻！

• 为了防止泰勒丝 Deepfake AI 裸照续烧，微软正在加强 AI「护栏」
• 深伪影像难辨识！英研究团队藉「天文观测」系统，判断眼睛倒影真实性
• 区块链可能是 AI 深伪争议、AI 假新闻的最佳解答？