“ChatGPT热”之冷思考:小心!它可能在一本正经地****

2023-06-13 光明网

编者按:

短短几个月,ChatGPT在全球圈粉无数,其背后的原理和工作机制是什么?它会替代记者的工作吗?我们应该怎么看待ChatGPT的未来发展?光明网《创新改变我国》栏目专访我国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,从人工智能视角探究ChatGPT。

专家简介

曹立宏,我国传媒大学脑科学与智能媒体研究院院长、博士生导师,中传学术委员会副主任,我国人工智能学会第八届理事会理事,第八届***科技委员会人工智能与区块链技术专委会委员,专注于类脑智能和计算的研究。

“ChatGPT使用感不错,但也有不足”

光明网:您使用ChatGPT的感受如何?有哪些明显不足?

曹立宏:相比过去的GPT3,感觉确实是有明显的提升,尤其是它对话的流畅性很好,说明现在语言生成模式方面做得不错了。对于普通的知识,比较大众化的或者比较浅显的专业知识,它能够提供,组织得也很不错。但对于比较专业性的问题,它就开始出问题了。

ChatGPT使用了带人类反馈的强化学习,GPT3生成语言的能力就已经很强大了,再加上Chat(聊天)的方式,就比较火,某种意义上这也是商业推广很好的模式。目前ChatGPT似乎有个**,内容更新不是很快。例如,你要问它我国最火的电视剧,它大概答不出叫《狂飙》。因为这涉及AI中的灾难性遗忘问题:怎么让它很快学会新东西,又不去干涉原来的东西,这是AI领域尚未完全解决的问题。

另外,ChatGPT没有对概念的具身体验,这就是我们真正的common sense(常识),我们从小在生活环境里所积累的知识,例如重力等等。对一个东西我们不单看到,会听到,可能会摸到、闻到、吃到,是全方位的。如果你看到一个黑色的苹果,你敢吃吗?你肯定会犹豫,没准一摸你就知道那是个烂苹果。实际上我们人类的理解很多东西是具身理解的,在自然语言处理里的“理解”,仅仅依靠文本,是一种肤浅的理解。

图片由百度文心大模型 AI 生成

关键词:《狂飙》,灾难性遗忘,常识,具身体验,文本

光明网:作为一名记者,被ChatGPT替代的可能性有多高?

曹立宏:我觉得你现在不用太担心,首先记者是个基于深度理解来提出问题的提问者。在深度理解这方面,ChatGPT目前还做不到。还有,它现在不碰情感**。但作为记者,这两点都很重要。而且,记者需要快速学习,因为你希望知道受访者的性格等等方面,在采访过程当中,甚至你可以快速学习和了解到,这些都不是机器目前能够做得了的。

图片由百度文心大模型 AI 生成

关键词:记者,深度理解,提问,情感,快速学习,性格

“ChatGPT更多还只是一个辅助工具”

光明网:我看您在朋友圈里评论,“ChatGPT是穿了个AI的深度学习马甲”,“不要把ChatGPT看成AI就好”,“对科学来说大概率是很流畅地****”,如何理解这些观点?

曹立宏:这几年自然语言处理领域确实有比较大的发展。很多学生就往这个方向偏,觉得这个方向好找工作。很多企业也确实需要这样的人,但作为我们做科研的人确实还是蛮担心的,不太乐观,因为它对专业的东西会****。所以如果是想要搞研究的人把ChatGPT当成导向式的东西的话,可能会引发很大的问题。所以我说它是“穿了个 AI的深度学习的马甲”,它本身并不像科学家或者专业的人具有很专业的思考和专业的知识。

另一句“不要把它看成是AI就好”,因为AI的本源是想要模仿我们人类的智能。很明显ChatGPT它不是类似于人的智能,在某种意义上它超越了人,它知识面特别广,但是在深度上,它没办法像人一样深入思考。对于具有科学深度的知识和思考,它大概率是很流畅的,但常常是“很一本正经的****”。

图片由百度文心大模型 AI 生成

关键词:自然语言处理,找工作,****,马甲,专业思考,AI,人类

光明网:如果不把它看成AI,要把它看成什么呢?

曹立宏:一个辅助工具,就好像最早的时候连计算器都没有,我们买菜买肉就心算,麻烦一点就拿个笔算,慢一点。后来有计算器了,就快了。现在ChatGPT也是特别快,它的**度变高了,也就是说我可以随便问。以前你也可以用搜索引擎搜索很多东西,但基本以关键词搜索。现在可以用关键句来搜索。你可以让它帮你写一段,所以效率是高了。但是它的产出的内容是否有深度?这个我不看好。

图片由百度文心大模型 AI 生成

关键词:辅助工具,计算器,**,搜索引擎,关键句,效率,深度

“未来需警惕ChatGPT被滥用”

光明网:怎么看ChatGPT的未来发展?

曹立宏:我认为ChatGPT有两条发展路径。一还是所谓深度学习,它本质上采用的是人工神经元模型构建的深度学习神经网络及相关的称为反向传播学习算法。但这个模型本身偏离了生物大脑中的神经元模型和学习算法。所以连深度学习最为核心的科学家Geoffrey Hinton还在积极寻找更类似大脑的模型和算法。我们需要更好的模型和算法,可惜到现在也没有完全提出来。对ChatGPT来说,这相当于要动一个比较核心的手术。

还有一条路径,是更多从大脑的角度去思考,例如在ChatGPT里它用到了一个最基本的技术,就是把例如苹果、梨等等概念量化,变成所谓的词向量,这种量化在大脑里看可能不完全是这样的。所以我们能不能有一个更类似于大脑记忆、量化、学习的方式,也有可能演变出更类似于人的ChatGPT。

未来,它会是一个人们喜欢去用的工具,我也会用。目前的声音太过于正面了,如果缺乏对它极限能力判断的话,(ChatGPT)会被滥用,滥用带出来的问题就太大了。

图片由百度文心大模型 AI 生成

关键词:深度学习,人工神经元模型,神经网络,反向传播学习算法,大脑,工具

(光明网记者 林佳欣)

来源: 光明网


相关股票:

崛起的中科系,被改变的我国芯片产业格局

当前,以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中,你首先想到的会是哪几企业?答案有很多,但“中科系”的提及率绝对很高。作为国家战略科技力量,“中科系”旗下

芯片战场丨芯片领域三箭齐发 英特尔跑步突围

21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞,英特尔CEO帕特·基辛格(Pat Gelsinger)正在带领英特尔加速奔跑。当地时间9月19日,2023英特尔on技术创新大会于美国加利

OPPO重启芯片业务?国产芯片或需告别“单打独斗”

财联社9月19日讯(记者 唐植潇)近日有消息称,OPPO将会重启芯片业务,并且“有部分员工已经回流,加入到了车载业务之中”。记者就此事向OPPO方面进行核实,对方表示“不予置评”。特百惠(我国)数字与

600亿颗芯片!我国巨头正式宣布,美媒:**也没料到制裁这么快

我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场,拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长,包括智能手机、电视、电脑和各种智能设备等,这些设备都需要高性能的芯

最新手机芯片天梯图:A17、华为麒麟9000S,排在什么位置?

近日,最火的两颗芯片分别是苹果的3nm芯片A17 Pro,虽然很多人吐槽它较上一代提升不明显,但论性能,可以碾压任何安卓芯片,甚至是领先2代的。另外一款芯片,则是华为麒麟9000S,当然,这颗芯片工艺

韩国芯片连续13个月暴跌,尹锡悦指责我国不采购,外媒:自食其果

据韩国媒体称,韩国的半导体出口额已经连续暴跌13个月了,比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国,话里话外都是指责,他认为韩国半导体卖不出竟是我国的原因,我国应该帮助

我国突破芯片瓶颈将影响全球秩序?美国很担心,指出我国关键弱点

我国在芯片半导体领域一直深受美国的**,通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档,不过随着我国科技企业近几年的突破,目前我国已经在芯片制造方面取得了重大的成果

没有他,我国芯片发展至少要**十年?

前几天,华为一声不响的上线了mate60系列,带着麒麟芯片9000s强势回归,吸引了全世界的目光。而华为麒麟芯片**背后,我们不该忘记这位老人—张汝京。我国半导体之父,为回**造芯片,被开除**户籍,

陈清泰:未来汽车颠覆传统,50%以上的零部件体系面临重构

【有车以后 资讯】“未来汽车对传统汽车的颠覆性,使传统零部件体系的50%以上都面临重构。”12月16日,在全球智能汽车产业峰会(GIV2022)上,我国电动汽车百人会理事长陈清泰指出,智能汽车的价值链

「姿势」一辆汽车由多少个零件组成?保证你说不清...

投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计,一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车,如F1赛车等,其**零部件的数量可达到2万个

全球最大的10家汽车零部件供应商 都是世界500强 无我国企业

【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜,是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中,汽车制造商和零部件厂商共占据33席(除去大型工程车辆企业),

汽车零部件企业哪家强?除了博世**还有这些名字你一定耳熟能详

文:懂车帝原创 李德喆[懂车帝原创 行业]9月18日,由《我国汽车报》主办,罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中,博世、**、电装位列2019全球汽车零部件

汽车零部件行业现状及产业链

行业现状(Reference:产业运行 | 2021年汽车工业经济运行情况)中汽协预测:2022年我国汽车销量达到2700万辆,新能源销量超过550万辆(Reference:乘用车市场信息联席会)以乘

全球十大汽车零部件供应商,核心技术都被他们垄断,自主遗憾缺席

提到电影,我们会想到张艺谋、冯小刚,而很少会想到幕后的制作人;提起流行乐,我们会想到周杰伦、萧敬腾,而很少会想到背后的作词人。台前台后,一幕之别,知名度往往相差甚远。车界又何尝不是如此,知名车企我们都

高清汽车各零部件构造图,看完你就是汽车专家!

2023世界移动通信大会即将举行,大批中企强势回归!

来源:环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后,全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日,由全球移动通信**协会(GSMA)主办的20

太空新赛道:6G时代的卫星通信,究竟是什么?

近日华为、苹果争相推出手机卫星通信功能,成为一大亮点,不少手机厂商也将目光投到卫星通信。放眼未来,手机直连卫星的卫星通信服务将是大势所趋,也是6G时代的重要标志。华为以“北斗三号”为依托,率先把“卫星

光纤#光纤通信

国内企业在光通信产品的参数测试过程中,通常使用国外的先进测试设备。然而,这些测试仪器之间往往是孤立存在的,需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错,而且测试效率低下。

龙头20cm涨停,7天股价翻倍!一文看懂卫星通信前世今生及产业链

卫星通信概念股华力创通今日再度强势拉升,截至发稿,该股股价20cm涨停,7个交易日累计涨幅近113%,现报23.52元续刷阶段新高,总市值155.9亿元。消息上,有媒体从供应链获悉,Mate 60 P

工信部:目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件

针对网友提出的“电话号码归属地更改”建议,工信部近日给出了官方回复。此前,有网友在人民网留言板向工信部留言称,“现在电话都是实名制,电话号绑定的***及一些主流的软件较多,更换号码后造成一系列问题

AD
更多相关文章