AI换脸“造黄谣”:被侮辱的女性和隐秘的施害者
那些照片出现后,林致(化名)的生活彻底被搅乱了。一周前,几名“求交友”的陌生人发来照片,内容让她吃惊——一些**不堪的女性图片里,长着与自己极其相似的脸。
首先涌来的是羞耻、愤怒,在揭开**的过程中,她又逐渐感受到了焦虑和恐惧。借助AI技术,那些隐藏在身边的施害者,让她陷入巨大的“不安全感”。
近些年,AI从最初的“工业级”技术逐渐“飞入寻常百姓家”,更低的使用门槛和创作成本,给施害者,甚至不法分子提供了便利。AI换脸**、换明星脸直播卖货、换脸和明星“接吻”、乘地铁的照片被“**”等案例层出不穷。AI盗脸“造黄谣”“一键**”也突破了法律和伦理界线,侵入到普通人的生活。
不少AI合成**图像发布者的目的是侮辱女性。网页截图
新京报记者调查发现,唾手可得的制图工具和难以追溯的传播渠道,让AI“黄谣”制造者更加猖獗。当他们肆无忌惮地散布谣言时,受害者却困于自证——不再信任社交网络,反复检视自己,对周遭世界的信任也逐渐瓦解。
在倚靠AI换脸衍生的其他领域,也不乏擦边投机者的身影。他们有些在社交平台兜售换上明星脸的****;有些提供有偿定制换脸、**图像的服务;还有的拿**当噱头,销售“*作教学”。
“你没有错,错的是造谣者”
一周前,林致突然收到近10名陌生人发来的微信好友请求,留言都是“**姐,交个朋友”。
林致觉得奇怪,平日她极少把微信号给别人。她社交圈很小,除了同事、朋友和家人外,几乎不加别人微信。她一一拒绝,但有两三个陌生人反复发送请求,最终她添加了其中一名。
陌生人称,他见过林致的一些“大尺度”照片。对方先是发来几**致的生活照,林致认出,那是自己曾发在朋友圈里的照片。随后,是她从未见过的**照片和**,那些赤身**的女性脸上,长着与自己相像的五官。
“我被AI盗脸了。”林致很快反应过来,她没想到,这种事会发生在自己身上。
为了弄**相,林致又同意了另两名陌生人的好友请求。在聊天中,林致了解到,他们是在国外社交软件Telegram(下称“电报”)的**聊天群中,看到有人发布了她的照片和**,上面的文字总是带着“**”“可撩”等字眼,有些暗示她是性工作者,他们再私聊发布者,获取了她的隐私信息。
尽管林致一开始就告诉他们自己已婚,但他们还是不断用轻浮的言语**,“姐姐”“宠你,想追你”。
了解越多,林致越感到恐惧。制图者对她了如指掌,知道她的名字、年龄和家庭住址。而根据流出照片的时间跨度来看,制图者早就认识林致,“最早的照片是去年5月发的,最晚的是今年5月初发的,我推测是熟人作案、长期蹲守。”
林致说,“黄谣”里既有真照片,又有AI换脸的假照片,两者很像,普通人难以分辨,就更增加了“真实感”。如果要自证清白,她就掉入造谣者的圈套。她想找到那个造谣者,给自己一个交代。
某电报群内,普通女性日常生活的照片也成为AI盗脸的对象。 网页截图
“我一直很纠结。”林致担心影响扩大,希望造谣者不要再发,可如果不发,就找不到他。林致和丈夫下载了电报,试图用陌生人提供的关键词找到线索。但只检索出许多盗用她脸伪造的**图像,发布者不断销号、建新号,难以追踪。
为了抓到“活着的”制图者,她只能不停地搜索、查看,“每看一次都是精神污染。”
疫情期间,林致患上了抑郁症,两个月前病情才稳定,刚刚停药。但事发后,焦虑、怀疑和不安再次笼罩心头,脑鸣、失眠的症状也出现征兆。她担心,不久后又要服药了。
“你没有错,错的是造谣者。”丈夫和挚友不断鼓励林致。但有时,她还是会陷入自我怀疑。紧张焦虑时,她看谁都像是那个制图者。奶茶店的陌生男子、公司的同事,甚至家人,都成了她的怀疑对象。
事发后,林致弃用了十几年的微信号,在新账号的朋友圈里,她把隐私设置为“仅自己可见”。“一切分享欲都消失了,以后再不敢随便发照片。”
5月23日,林致去**局报案,做了笔录。还有些受害者因为种种原因,选择了沉默。
一位受害者被AI盗脸造黄谣后,有陌生人加了她好友,一直给她打电话,发用AI伪造的****。因为害怕,她不敢报警。“我又没做错什么。”她安慰自己,随后把陌生人拉黑,再不理睬。
另一位受害者告诉新京报记者,她发在社交媒体上的两张**照,曾被人用AI**后传播。这件事让她意识到,“在任何地方都要保护好自己的隐私”才是解决之道。在她看来,电报等海外软件上的造谣者很难被抓到,**艰难。
“那些人*扰我时很恶心,但想到那些身体不是我的,就问心无愧吧。”
传播渠道特性导致难以溯源
电报以“隐私”“安全”著称,由于服务器架设在境外,相关部门更难追溯到造谣者。此外,记者注意到,“阅后即焚”的功能让警方难以获取证据——用户在注销账号时,可将先前发布的信息也一并销毁。
正是这些特性,让不法分子以为找到了安身之所。记者在电报搜索栏中输入含性暗示的关键词,显示近10个超过5000名订阅者的**聊天群,其中一个群内有1.3万余名订阅者。
“反差”“曝光”“自毁”“社死”是这些群名里的高频词汇,其中的聊天内容也多为制作、公开女性的**图像和隐私信息。除了图像外,不少女性的身高、体重、年龄等信息被公开,甚至还有家庭住址、社交媒体账号和***号。
记者注意到,大量“**羞辱”相关内容出现在聊天中,字里行间充斥着“狗”“贱”“欠”等**性字眼。
某电报群内发布的AI换脸、**软件的购买链接。 群聊截图
提到制发**照片的目的,一些发布者常常提到“欠骂”“报复”“羞辱”等词汇。在评论区,一些网友会索要被曝光女性的联系方式,有的发布者会直接公开,有的则需要私聊。
记者发现,只需点击搜索到的群名,便可免费浏览所有历史信息,甚至不用进群。
一些**程度高的换脸**能以假乱真,让人误以为生活照和**图像中的是同一人,就连受害者自己见到时也会恍惚。林致告诉记者,她觉得假照片中人脸的五官,与自己非常相像,但细看会发现,脸型不一样。
而一些低质量的换脸图像,可以直接从脸部线条看出破绽。一些照片的面部线条模糊、扭曲,甚至断裂。评论区的网友也会指出,“一看就是换脸的”“太假了”。
然而,不管质量高低,评论区都会充斥大量性情节描述和**词汇。因为受害者的隐私被公开,一些同城的网友声称要过去,意图*扰。
有偿定制
在流量加持下,一批不法分子趁机涌入,靠私人定制、搬运和卖课等方式获利。其中不乏擦边****内容的投机者们,他们在一些主流社交平台定期更新AI作品,并暗示网友,可有偿制作**图像。
一名“供应商”告诉记者,他可以按需求定制AI美女图像。根据图像画质高低,每张**从100到180元不等。在记者提出要先看样图后,他随即发来一张AI生成的女性图片,图中女性的****露出。“看到了吧?一切按照你的要求。”他表示,随即撤回**图片。
记者询问,能否对真照片进行AI**,他表示,需要支付定金,便可*作。
此外,女明星的换脸**成为投机者的主要噱头。记者发现,百度贴吧内,部分网友专门**换了女明星脸的**影像。
同时,在一****的“换脸AI”专区,充斥着换上女明星脸的****。网站称,充值200元即可成为VIP会员,免费观看“换脸AI”专区内容。
在电报群里,类似的行为更加猖獗。记者在搜索“AI换脸”“**”等关键词,显示多个相关群,群内均在传播**图像。在一个有4000余名订阅者的群中,充斥着大量AI换脸、**的**影像。
影像中的被**的面容,不乏当下知名女星、网红。同时,普通女性在学校、商场、办公室、地铁等日常场景中的照片也成为AI盗脸的对象。她们被AI换脸,或脱去外衣,赤身**。“反差”“内在美”等词被用来形容换脸后的照片。每一条类似的群消息,都有数千甚至近万次的浏览量。
有发布者称,“适当娱乐,满足自己即可,千万不要发给对方或者*扰对方,一旦报警麻烦不断! AI**,你给我照片,我帮你做图。”
记者添加一名“供应商”后,供应商发来**的AI合成图像,并称,“一切按照你的要求”。手机截图
还有发布者拿****当噱头,在群内发布AI换脸、**软件的购买链接。“私人定制,无硬件门槛,全流程汉化,傻瓜式*作,即时能出作品。”
记者点进一购买链接询问。客服表示,直接提供软件,需收费200-350美元(手机和电脑端收费不同),一年有效期,包教学。
直接制作图片30美元一张,**50美元一条。用户付款后,仅需提供一张照片或**作为素材,一小时后便可获得处理好的影像。客服还称,购买软件后,可进入VIP专属群,享受更多AI影像资源。
AI换脸的门槛变低,也易引发违法问题
记者调查发现,AI制作**图片的成本和门槛都相对较低,在一些网站、软件充值后,便可一键生成AI**图像。
以国外一家一键**网站为例,在不登录的情况下,只需等待40秒,上传符合网站要求的照片,再点击加工,不到半分钟后,便可生成**后的图像。此时,显示的图像是模糊的,如果想下载高清版,则需充值。充值29.95美元,便可一键生成100张AI**图像。
“想**一个人的人脸信息,往往收集一张照片就可以实现。”一位从事多年网络安全工作的专家告诉新京报记者,以目前的AI技术,即便只有一张正面照,AI也可以通过深度学习补齐其他角度的图像,获得立体的人脸图像,再将图像映射到**中。
专家向记者展示了一个案例:通过AI补齐,平面画作中的人物被立体化,原本只露出正脸的人物一转头,侧脸便露了出来。记者注意到,立体化后的人物动作流畅,被补齐的脸部细节自然。
专家表示,目前在主流社交平台发布的照片清晰度,大部分足够生成自然贴合度较高、难辨真假的换脸照片和**。即便清晰度较低,也可以通过AI补齐,提高换脸图像的贴合程度。
这得益于AI深度学习技术已经成熟,网上有不少开源的人脸模型训练项目,具有较高的深度学习能力,很多都是*作简单的免费工具,这些都可以导出非常自然逼真的换脸**。
AI运行时,对设备硬件的要求也已大大降低。许多AI换脸软件接入云服务器,*作在云端进行,完成后再回传本地。
在这位专家看来,尽管换脸后的图像可以达到极高的逼真程度,但只要仔细观察,还是有办法区分的。
比如,注意眼部、眉毛与肤色的过渡是否自然;光影效果是否自然;画面中人物与环境的比例是否真实。另外,还可以检查图像质量,换脸涉及图像处理、合成,因而图像质量可能会受到影响,出现模糊、失真或噪点高等现象。
在国内某****内,“AI换脸”被列入VIP专区。 网页截图
一方面,低成本、低门槛的AI换脸技术让每个人都有机会使用这种娱乐工具;另一方面,唾手可得的技术,也更容易引发违法犯罪问题。
江苏法德东恒律师事务所高级合伙人律师蓝天彬表示,在未经当事人同意的情况下,不法分子利用AI技术制作、传播**图片或**,从民事层面来看,已涉嫌侵犯当事人肖像权、名誉权和隐私权。此外,行为主体还涉嫌违反《治安管理处罚法》,**机关可对行为人治安处罚。
蓝律师提到,若行为人以牟利为目的,且达到一定涉案数量或金额,那么行为人则涉嫌制作、传播**物品牟利罪。
“即使没有牟利,行为人也可能涉嫌传播**物品罪。”蓝天彬说。
河北厚诺律师事务所律师雷家茂认可上述观点。雷家茂分析,以往单纯的“造黄谣”行为,一般情况下仅为民事侵权,即侵犯名誉权,情节严重的可能涉嫌诽谤罪;而利用AI换脸技术传播他人的**图片、**及真实照片,则涉嫌传播**物品罪、诽谤罪,行为人将会被数罪并罚。
雷律师表示,该类案件**难点主要在于取证及锁定违法犯罪。因不法分子可能采取关闭网站、删除链接等措施,导致无法固定证据。此外,网络信息易传播、发布者匿名化等原因,将难以锁定发布源头。
雷家茂建议,若遇到该情况,受害者应立即截屏存证,及时报警并向警方提供自己留存的证据及线索。
新京报记者 丛之翔 熊丽欣
编辑 杨海 校对 **
当前,以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中,你首先想到的会是哪几企业?答案有很多,但“中科系”的提及率绝对很高。作为国家战略科技力量,“中科系”旗下
21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞,英特尔CEO帕特·基辛格(Pat Gelsinger)正在带领英特尔加速奔跑。当地时间9月19日,2023英特尔on技术创新大会于美国加利
财联社9月19日讯(记者 唐植潇)近日有消息称,OPPO将会重启芯片业务,并且“有部分员工已经回流,加入到了车载业务之中”。记者就此事向OPPO方面进行核实,对方表示“不予置评”。特百惠(我国)数字与
600亿颗芯片!我国巨头正式宣布,美媒:**也没料到制裁这么快
我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场,拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长,包括智能手机、电视、电脑和各种智能设备等,这些设备都需要高性能的芯
最新手机芯片天梯图:A17、华为麒麟9000S,排在什么位置?
近日,最火的两颗芯片分别是苹果的3nm芯片A17 Pro,虽然很多人吐槽它较上一代提升不明显,但论性能,可以碾压任何安卓芯片,甚至是领先2代的。另外一款芯片,则是华为麒麟9000S,当然,这颗芯片工艺
韩国芯片连续13个月暴跌,尹锡悦指责我国不采购,外媒:自食其果
据韩国媒体称,韩国的半导体出口额已经连续暴跌13个月了,比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国,话里话外都是指责,他认为韩国半导体卖不出竟是我国的原因,我国应该帮助
我国突破芯片瓶颈将影响全球秩序?美国很担心,指出我国关键弱点
我国在芯片半导体领域一直深受美国的**,通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档,不过随着我国科技企业近几年的突破,目前我国已经在芯片制造方面取得了重大的成果
前几天,华为一声不响的上线了mate60系列,带着麒麟芯片9000s强势回归,吸引了全世界的目光。而华为麒麟芯片**背后,我们不该忘记这位老人—张汝京。我国半导体之父,为回**造芯片,被开除**户籍,
【有车以后 资讯】“未来汽车对传统汽车的颠覆性,使传统零部件体系的50%以上都面临重构。”12月16日,在全球智能汽车产业峰会(GIV2022)上,我国电动汽车百人会理事长陈清泰指出,智能汽车的价值链
投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计,一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车,如F1赛车等,其**零部件的数量可达到2万个
全球最大的10家汽车零部件供应商 都是世界500强 无我国企业
【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜,是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中,汽车制造商和零部件厂商共占据33席(除去大型工程车辆企业),
汽车零部件企业哪家强?除了博世**还有这些名字你一定耳熟能详
文:懂车帝原创 李德喆[懂车帝原创 行业]9月18日,由《我国汽车报》主办,罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中,博世、**、电装位列2019全球汽车零部件
行业现状(Reference:产业运行 | 2021年汽车工业经济运行情况)中汽协预测:2022年我国汽车销量达到2700万辆,新能源销量超过550万辆(Reference:乘用车市场信息联席会)以乘
全球十大汽车零部件供应商,核心技术都被他们垄断,自主遗憾缺席
提到电影,我们会想到张艺谋、冯小刚,而很少会想到幕后的制作人;提起流行乐,我们会想到周杰伦、萧敬腾,而很少会想到背后的作词人。台前台后,一幕之别,知名度往往相差甚远。车界又何尝不是如此,知名车企我们都
来源:环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后,全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日,由全球移动通信**协会(GSMA)主办的20
近日华为、苹果争相推出手机卫星通信功能,成为一大亮点,不少手机厂商也将目光投到卫星通信。放眼未来,手机直连卫星的卫星通信服务将是大势所趋,也是6G时代的重要标志。华为以“北斗三号”为依托,率先把“卫星
国内企业在光通信产品的参数测试过程中,通常使用国外的先进测试设备。然而,这些测试仪器之间往往是孤立存在的,需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错,而且测试效率低下。
龙头20cm涨停,7天股价翻倍!一文看懂卫星通信前世今生及产业链
卫星通信概念股华力创通今日再度强势拉升,截至发稿,该股股价20cm涨停,7个交易日累计涨幅近113%,现报23.52元续刷阶段新高,总市值155.9亿元。消息上,有媒体从供应链获悉,Mate 60 P
工信部:目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件
针对网友提出的“电话号码归属地更改”建议,工信部近日给出了官方回复。此前,有网友在人民网留言板向工信部留言称,“现在电话都是实名制,电话号绑定的***及一些主流的软件较多,更换号码后造成一系列问题