Deepfake 最新受害者出现了 —— 全球顶流,霉霉女士(Taylor Swift)。

近乎是在一夜之间,X、Facebook 等社交平台上便充斥了大量虚假“不雅照片”,而且浏览量已经高达上千万!

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]
▲ △ 图片由 Deepfake 合成

尽管最早传播这些图片的账号已被封禁,但照片的流传仍未彻底阻断。

霉霉本人也已经得知此事,对此表示相当愤怒,粉丝们也自发组织了保护行动。

在 X 上,有网友直接 @马斯克,喊话说这事老马你得出来管管了。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]
虚假照片病毒式传播

事情要从霉霉和美国 NFL 橄榄球运动员 Travis Kelce 的恋情说起。

Kelce 效力于堪萨斯城酋长队,两人的恋爱关系被曝光后,霉霉也成为了该球队比赛的常客。

于是便有人借题发挥,用 AI 生成了以球场为背景,涉及霉霉和多名虚构“队员”的露骨照片。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]
▲ 图片由 Deepfake 合成

而关于这些图片的传播过程,则存在多种传闻,The Verge 的说法是最早出现在某加密聊天群组当中。

英国《每日邮报》则称,这些 Deepfake 照片一开始被传至一家不良网站,这个网站上充斥着大量以知名人士为主角的不雅照片。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

除了霉霉,这家网站还收录了成百上千的名人,包括饰演芭比的 Magrot Robbie 也未能幸免。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

照片传上网后不久,在 X、Facebook 等各大社交媒体中就出现了疯狂的传播,据悉浏览量高达上千万。“Taylor Swift AI”一度成为了 X 上的热门话题,不过目前疑似已被屏蔽。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

得知此事后,霉霉的粉丝们在 X 上发起了保护行动,“PROTECT TAYLOR SWIFT”变成了新的热搜。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

但也有人混入其中,假借“PROTECT”的标签继续传播那些虚假照片……

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

愤怒的粉丝们挖出了一名疑似造成照片大量传播的始作俑者,并表示其有多年的性骚扰的前科。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

该账号目前已经设置了访问权限,但据有权限的用户透露,该用户在自己的账号上嚣张地挑衅说“你们找不到我”。

[霉霉再成 Deepfake 受害者,AI“不雅照”被疯狂传播,粉丝网友全都怒了]

截至目前,一些参与传播照片账号已被各大平台陆续封禁,但仍有不少漏网之鱼。

甚至有人在自建网站上公开叫卖霉霉的宣称是“自制”的 deepfake 照片合集,1 套要价 10 英镑。

一名据称是接近霉霉的消息人士告诉《每日邮报》,其本人对此表示非常愤怒,团队正在考虑是否采取法律手段。

另据了解,此次事件已经不是霉霉第一次遭遇 Deepfake,但上一次只是冒充她的形象和声音给产品带货,并未出现露骨内容。

美联社的一份报告显示,去年互联网上出现的 Deepfake 视频多达 14 万段,超过了以往的总和。

而面对 Deepfake,像霉霉这样的名人尚且有粉丝和团队帮忙澄清、喊话,但普通人如果有这样的遭遇,可能就百口莫辩了……
该设法防御 Deepfake 了

此次事件中,各大平台的删帖行动可能还算及时,在 X 上,大部分相关内容都已不见踪影。

Facebook 方面,母公司 Meta 也有一名发言人告诉《每日邮报》:

这些内容违反了我们的政策,我们正在将其从我们的平台上删除,并对发布该内容的账户采取行动。

但也有网友说,这不是删除的问题,这些照片一开始就不应该出现在这些平台上。对此 Meta 也做出了回应,表示“会继续监测并及时删除违规内容”。

而在技术层面,Nature 杂志也在其“2024 最值得关注的七项技术”一文中提及了 Deepfake 检测。

Nature 的文章中指出,让开发者在 AI 工具中加入隐形水印机制或许是一种方案。

但这种做法可能更多是在事后进行追踪,同时起到一定的震慑作用,但想从根源上阻止 Deepfake,可能还需要全人类的共同努力……

参考链接:

https://www.ithome.com/0/747/520.htm

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。