一键**、换脸亲吻,AI开始作恶了?

2023-06-13 我国新闻周刊

和迪丽热巴“接吻”、长得和***“一模一样”、马斯克身陷“贫民窟”、乘地铁的照片被“一键**”……随着AI技术的成熟和发展,一键“换脸”“换装”因带来意想不到的效果,受到很多关注,屡屡冲上热搜。

近日,不少网友在社交媒体和短**平台上开始秀出AI换脸内容,比较常见的是在热播剧中换上自己的脸或者喜欢的明星的脸。但此举也引发网友担忧,AI换脸在影视剧中“大行其道”,这是否尊重演员和版权,这种换脸未来是否也会出现在非法**里?

事实上,ChatGPT走红后,生成式AI技术的发展和应用,引发了新一轮AI技术热潮。多家巨头涌入,并开发面向消费者的AI应用,让人工智能开始在用户生活中“生根发芽”。但除了自娱自乐之外,不少人试图利用AI牟利,甚至做出违背伦理、触犯法律的事情。

如何让AI在不伤害人类的前提下,有利于人类和社会发展,正在成为新的课题。

图/视觉我国

当AI换脸走红

“终于实现和喜欢的爱豆合照了”,有不少网友近日在社交媒体平台上晒出自己和爱豆的正脸照片,被网友戏称为“拿去骗我妈,我妈以为我谈恋爱了”。这些照片皆来自一键生成的AI换脸APP,这些APP有海量的**和照片模板,能够让不少粉丝实现和爱豆合照的愿望。

不过很多网友表示,这些APP此前基本都免费,现在则需要充钱办会员。在手机中的应用商店搜索,不少关于AI换脸的APP近期的下载量排名都有大幅提升,在评论区,很多网友觉得新鲜有趣,但也有网友产生了质疑。

一位博主公开发布声明,称“被AI换脸软件盗图做模板了”,该博主表示,自己作为模特,和摄影师辛辛苦苦拍摄,但就这样被盗用了,是有点“伤心”。另一位博主也称自己在1月份发布的一组照片,目前在国内社交媒体平台上被不少人用AI换脸软件私自使用,涌现出大批类似素材的**和照片,甚至有人因相关内容还上了热门榜单,流传到海外平台。

在短**平台上,有不少主打AI换脸内容的博主因使用这项技术圈粉不少。最近还有博主惹出了不小的争议。

特效师洪某在短**平台上有超过百万粉丝,此前他经常通过电脑后期制作替换影视**中的镜头,日前他通过AI换脸的方式,将女明星迪丽热巴出演的电视剧中激吻镜头的男主角替换为自己,该**引发了不少争议,多位粉丝表示了不满,甚至找到他要***。洪某后续在抖音上晒出自己被迪丽热巴粉丝抓伤脸的情况,最终的结果是洪亮把关于迪丽热巴的内容都隐藏删除。他的账号因违反社区规定,也被封了15天。

该事件引发了法律界人士关注,同时也让AI换脸的行为更受到关注。在不少人下载APP使用时,这种技术背后带来的伦理挑战和法律风险越来越凸显。浙江晓德律师事务所主任陈文明则表示,该博主进行AI换脸时,如果得到演员的同意,尊重了演员个人的相关权利,那么这种行为就变得可行,能够适当应用。但如果没有得到演员的同意,有可能违反道德和法律的双重规范。

万商天勤律师事务所合伙人张烽告诉我国新闻周刊,上述博主这种行为可能侵害了相关录像制品或视听作品的版权改编权,侵害女明星的人格权、肖像权、名誉权,传播这种内容如果被认定为**内容可能违反互联网信息内容治理相关规定和公序良俗。

赛迪智库网络安全研究所所长刘权则指出,这种行为涉及多方面的问题,包括道德伦理和法律法制等。对个人而言,这种行为将会对被害人的心理健康造成损害;对于公众而言,通过AI技术进行合成创作,可能会模糊真实与虚假之间的界限,损害社会公信力和价值观念。从法律法制角度看,如果未经授权使用他人肖像或作品进行合成或创作,可能会构成侵犯他人肖像权和知识版权,涉及侵权问题,需要承担相应的法律责任。

技术成本越来越低

今年以来,随着ChatGPT的爆火,生成式AI逐步被人们关注。当一款AI产品可以像“人”一样回答问题,与用户产生互动时,不少业内人士认为“通用型AI”已经到来。

刘权告诉我国新闻周刊,过去市场上的AI产品主要是所谓的“分析式AI”,这类产品的主要功能是对数据进行学习和分析,以此来进行预测、辅助用户进行判断。与这类AI不同,生成式AI的主要功能是通过学习来生成与训练数据不同的新数据。得益于这种创造能力,生成式AI可以比分析式AI应用于更多不同的场景、完成更为多样化的任务,因而正在成为一种“通用型AI”。

他进一步指出,生成式AI技术通过换脸、变装等技术,可以创造出非常逼真的**和图片,能够为互联网生态提供大量的内容产品,并且相比于传统的UGC(用户生产内容),AIGC(AI生产内容)在内容制作成本、内容数量、质量的稳定性等方面都更有保证,这些特点决定了生成式AI在电影制作、游戏、虚拟现实等领域中有着广泛的应用潜力。

张烽表示,从内容生成创作角度而言,生成式AI为内容生产创作提供了低成本、高效的方式,一方面从创作主体上看,让更多普通用户也能很方便地借助AI工具创作出基本符合自己需求的数字内容;另一方面,从创作内容上看,让数字内容的创作更加贴近用户需求和使用场景;此外从结合方式上看,让内容生成创作能够智能化地结合到各种场景中。

一位资深电商从业者近期发现不少利用生成式AI的创作工具相继问世,以前对很多中小厂家来说,拍摄非常精美的产品图令人头疼,一方面没有相关人才,另一方面成本也不低。近期有很多利用AI做电商设计的产品,一般会按年收费,能够多快好省进行营销内容的制作。

中央财经大学数字经济融合创新发展中心主任陈端表示,目前来看,生成式AI最容易带来改变或产生冲击的,就是在内容生产领域。原因在于内容生产链条相对较短,通过打造IP的价值链延展空间比较大,目前来看有商业变现的可行性。

刘权指出,生成式AI在消费端和产业端的多个领域都可能进行颠覆性的变革。在消费端日常办公领域,相对重复、创造性较低的任务都可以由生成式AI来辅助完成;在搜索领域,生成式AI+搜索的模式可以大幅提升人们从海量信息中检索出自己所需要信息的效率,因而可能会成为新一代的搜索方式。

此外,他还指出,在产业端,如在工业设计领域,生成式AI不仅可以根据设计人员的思路迅速提出多套方案,还可以直接对各套方案进行比较评估,供设计人员选择,这样就可以有效节省设计成本、缩短设计时间,例如目前谷歌、英伟达等企业已经在芯片设计中运用AI进行辅助设计;在药物研发领域,引入生成式AI可以辅助研究人员识别化合物的分子结构,并根据需要对分子结构进行重构和修改,可以帮助缩短研发时间,减少研发投入。

根据美国Western Securities (西部证券)分析,预计到2025年,AIGC市场空间将达到40.352亿美元,到2030年市场将达到217.558亿美元。这意味着整个市场在未来几年可能迎来**式增长。

“不加**将会面临严重挑战”

在不少社交媒体和电商平台上,搜索“AI换头”“AI特效”,不少人都在用这些技术接单,但并不是明目张胆,一般会让用户加微信,然后从朋友圈看**案例,收费在几十元到上百元不等,商家表示“提供一张照片即可”。

陈文明指出,不论是收费来做这类**还是进行教学,这些营利活动的前提必须是征得相关人士的同意,否则有可能造成侵权。

而上述商家则表示,“自己娱乐有啥风险,只要不商用,谁会来找你?”陈文明强调,随着技术的发展,所谓的“一键变脸”,如果完全放开不加**的话,肯定是弊大于利。从法律层面来看,隐私权、知识版权等领域都可能面临严重的挑战。

刘权的担心之处则在于,生成式AI的滥用也可能造成很大的公共危害,例如不法之徒可以以更低的成本、更高的效率来伪造文本、图片,甚至**的资料,并以此来从事**、恐吓、诽谤等犯罪行为。

张烽进一步指出,随着技术发展,纯从技术角度而言生成制作成本确实可能会越来越低,但是从相关技术监测检测手段和法律规制、管理制度角度来说,会加大违法成本。

近两年,随着AI风起,融资超千万美元的AI产品不在少数,不少产品因此深陷**信息和虚假信息**风波。在不少媒体的报道中,ChatGPT也可以按照用户的指令生成虚假信息。上月底,马斯克和1000多名人工智能专家签署联名信,呼吁暂停训练比GPT—4更强大的人工智能**至少六个月,理由是这种**对社会和人类构成潜在风险。

张烽指出,在未来发展方面,目前比较一致的意见是,人工智能自然语言大模型本身因为涉及海量参数模型开发、海量数据训练、巨大算力支持,并非一般小公司可承担,竞争主要存在于中美两国互联网巨头。互联网巨头们谨慎小心对待监管,其自身也有比较强烈的社会责任感,有实力也有意愿以合规方式推进研发和应用。至于未来受益公司,凡是拥有大数据、大算力和大量应用用户或应用场景的公司,会享有很多机会。比如目前以图片类版权授权和使用为业务模式的公司会受到一定影响,但是基于其拥有的巨量正版图片数据资源,相应调整业务模式的话,还是会有很多机会。

4月11日,为促进生成式人工智能技术健康发展和规范应用,国家互联网信息办公室起草了《生成式人工智能****办法(征求意见稿)》,并向社会公开征求意见。陈端解读此举为在一轮新的立法和政策制定过程中,国家秉承包容**的态度,通过鲜明的政策导向和指引帮助创新创业人士,明确底线意识,从而更充分释放创新创业的潜力和动能”。

刘权指出第三条给出监管的原则是国家明确支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。一键换脸等行为变得更加普及和容易后,有必要建立相关的规范和监管机制,确保该技术的合法、合规和安全使用,并维护良好的社会秩序和价值观念。同时,企业和个人也应该自觉遵守相关法律规定和社会道德标准,不进行侵权行为和虚假宣传,促进AI技术的健康发展。

作者:孟倩


崛起的中科系,被改变的我国芯片产业格局

当前,以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中,你首先想到的会是哪几企业?答案有很多,但“中科系”的提及率绝对很高。作为国家战略科技力量,“中科系”旗下

芯片战场丨芯片领域三箭齐发 英特尔跑步突围

21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞,英特尔CEO帕特·基辛格(Pat Gelsinger)正在带领英特尔加速奔跑。当地时间9月19日,2023英特尔on技术创新大会于美国加利

OPPO重启芯片业务?国产芯片或需告别“单打独斗”

财联社9月19日讯(记者 唐植潇)近日有消息称,OPPO将会重启芯片业务,并且“有部分员工已经回流,加入到了车载业务之中”。记者就此事向OPPO方面进行核实,对方表示“不予置评”。特百惠(我国)数字与

600亿颗芯片!我国巨头正式宣布,美媒:**也没料到制裁这么快

我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场,拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长,包括智能手机、电视、电脑和各种智能设备等,这些设备都需要高性能的芯

最新手机芯片天梯图:A17、华为麒麟9000S,排在什么位置?

近日,最火的两颗芯片分别是苹果的3nm芯片A17 Pro,虽然很多人吐槽它较上一代提升不明显,但论性能,可以碾压任何安卓芯片,甚至是领先2代的。另外一款芯片,则是华为麒麟9000S,当然,这颗芯片工艺

韩国芯片连续13个月暴跌,尹锡悦指责我国不采购,外媒:自食其果

据韩国媒体称,韩国的半导体出口额已经连续暴跌13个月了,比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国,话里话外都是指责,他认为韩国半导体卖不出竟是我国的原因,我国应该帮助

我国突破芯片瓶颈将影响全球秩序?美国很担心,指出我国关键弱点

我国在芯片半导体领域一直深受美国的**,通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档,不过随着我国科技企业近几年的突破,目前我国已经在芯片制造方面取得了重大的成果

没有他,我国芯片发展至少要**十年?

前几天,华为一声不响的上线了mate60系列,带着麒麟芯片9000s强势回归,吸引了全世界的目光。而华为麒麟芯片**背后,我们不该忘记这位老人—张汝京。我国半导体之父,为回**造芯片,被开除**户籍,

陈清泰:未来汽车颠覆传统,50%以上的零部件体系面临重构

【有车以后 资讯】“未来汽车对传统汽车的颠覆性,使传统零部件体系的50%以上都面临重构。”12月16日,在全球智能汽车产业峰会(GIV2022)上,我国电动汽车百人会理事长陈清泰指出,智能汽车的价值链

「姿势」一辆汽车由多少个零件组成?保证你说不清...

投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计,一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车,如F1赛车等,其**零部件的数量可达到2万个

全球最大的10家汽车零部件供应商 都是世界500强 无我国企业

【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜,是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中,汽车制造商和零部件厂商共占据33席(除去大型工程车辆企业),

汽车零部件企业哪家强?除了博世**还有这些名字你一定耳熟能详

文:懂车帝原创 李德喆[懂车帝原创 行业]9月18日,由《我国汽车报》主办,罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中,博世、**、电装位列2019全球汽车零部件

汽车零部件行业现状及产业链

行业现状(Reference:产业运行 | 2021年汽车工业经济运行情况)中汽协预测:2022年我国汽车销量达到2700万辆,新能源销量超过550万辆(Reference:乘用车市场信息联席会)以乘

全球十大汽车零部件供应商,核心技术都被他们垄断,自主遗憾缺席

提到电影,我们会想到张艺谋、冯小刚,而很少会想到幕后的制作人;提起流行乐,我们会想到周杰伦、萧敬腾,而很少会想到背后的作词人。台前台后,一幕之别,知名度往往相差甚远。车界又何尝不是如此,知名车企我们都

高清汽车各零部件构造图,看完你就是汽车专家!

2023世界移动通信大会即将举行,大批中企强势回归!

来源:环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后,全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日,由全球移动通信**协会(GSMA)主办的20

太空新赛道:6G时代的卫星通信,究竟是什么?

近日华为、苹果争相推出手机卫星通信功能,成为一大亮点,不少手机厂商也将目光投到卫星通信。放眼未来,手机直连卫星的卫星通信服务将是大势所趋,也是6G时代的重要标志。华为以“北斗三号”为依托,率先把“卫星

光纤#光纤通信

国内企业在光通信产品的参数测试过程中,通常使用国外的先进测试设备。然而,这些测试仪器之间往往是孤立存在的,需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错,而且测试效率低下。

龙头20cm涨停,7天股价翻倍!一文看懂卫星通信前世今生及产业链

卫星通信概念股华力创通今日再度强势拉升,截至发稿,该股股价20cm涨停,7个交易日累计涨幅近113%,现报23.52元续刷阶段新高,总市值155.9亿元。消息上,有媒体从供应链获悉,Mate 60 P

工信部:目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件

针对网友提出的“电话号码归属地更改”建议,工信部近日给出了官方回复。此前,有网友在人民网留言板向工信部留言称,“现在电话都是实名制,电话号绑定的***及一些主流的软件较多,更换号码后造成一系列问题

AD
更多相关文章