耶夫根尼·莫洛佐夫：人工智能的真正威胁是什么？
【文/耶夫根尼·莫洛佐夫 译/马力】
今年5月，350多名技术高管、研发人员和学术专家共同签署了一份声明，警告称人工智能技术将给人类带来生存威胁。签署者们警告说：“降低人工智能带来的灭绝风险应与瘟疫、核战，以及其他大型社会风险一起成为全球优先事项。”
此前，埃隆·马斯克（Elon Musk）和苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）等人签署了一封备受瞩目的***。他们在信中呼吁，人类应暂停开发高级人工智能**六个月。
3月，埃隆·马斯克联合行业专家发表***，要求暂停人工智能训练至少六个月。
与此同时，**政府敦促开展负责任的人工智能创新（responsible A.I. innovation），提出“为了抓住人工智能技术所带来的机遇，必须首先进行风险管理。”在国会上，参议员查克·舒默（Chuck Schumer）呼吁就人工智能技术的潜力和风险召开“首次”听证会，为行业高管、专家学者、民权人士和其他利益相关者提供速成课程。
人们对人工智能技术的焦虑日益严重，这不是出于对那些乏味但可靠的技术的担忧——输入法的自动联想或者吸尘机器人躲避障碍物并不会让人们如此忧虑。在专家们看来，通用人工智能（Artificial General Intelligence, AGI）的崛起才是最大的问题。
目前，通用人工智能还没有出现，但一些人认为，美国人工智能公司OpenAI旗下ChatGPT迅速发展的能力表明，距离这种技术的出现已经近在咫尺。OpenAI的联合创始人萨姆·奥特曼（Sam Altman）将其描述为“整体而言比人类更聪明的**”。研发这种**是一项艰巨的任务（也有人说是不可能完成的任务），不过其中的利益也极其**。
想象一下，Roombas（美国著名机器人公司iRobot的旗舰产品）不再只是自动吸尘器，而是进化为全能机器人，甚至可以在未被编程的情况下就在早上为你煮好咖啡或熨好衣服。
这听起来的确很有吸引力。但是，如果这些全能机器人变得过于强大，它们背负着“创造一个一尘不染的乌托邦”的任务，就会给到处散播灰尘的主人（也就是人类）造成很大困扰。至少我们曾经相处得还不错。
美剧《生活大**》剧照
关于通用人工智能的讨论往往充斥着这样世界末日般的场景描绘。然而一个由学者、投资人和***组成的新兴通用人工智能游说团体反驳说，一旦通用人工智能的安全性得到保证，它将为人类文明带来福音。萨姆·奥特曼作为这次活动的代言人，已经开始了全球巡回演讲，以说服立法者们。他在今年早些时候写道，通用人工智能甚至可以加速经济发展，推动科学技术进步，并“通过增加财富来提高人类素质”。
这就是为什么，即使忧心忡忡，还是有许多科技行业的聪明人在努力开发这种备受争议的技术：不用它来拯救世界似乎已经变得不道德了。
他们普遍受到一种观点的影响，即这项新技术的出现是不可避免的，而且当该技术变得安全时，将惠及全人类。支持者们认为通用人工智能是弥补人性缺点、提升人类智慧的**方案。
但这种观点（姑且称之为“通用人工智能主义”）搞错了。通用人工智能的真正风险在于**方面，而这个问题是无法通过平定机器人**来解决的。即便是最安全的人工智能，也无法向游说组织承诺的那样，提供进步的灵丹妙药。而且，把该技术的出现说成是不可避免的，分散了人们寻找更完善的人工智能技术的注意力。
通用人工智能的拥护者们并不知道，“通用人工智能主义”只是一种更宏大的意识形态的“私生子”。关于这种意识形态，英国前首相玛格丽特•***（Margaret Thatcher）夫人曾有一个著名的说法：人类除了拥抱市场，别无选择（There is no alternative）。
与其说通用人工智能——或者至少是急于建立通用人工智能的行为——会像奥特曼先生暗示的那样，伤害资本主义，不如说它更有可能为新**主义——资本主义最具**性的信条——创造出一个强大的（而且更时髦的）盟友。
新**主义的理念家们为私有化、市场竞争和**贸易着迷，希望通过市场经济和放松管制来推动并改造停滞不前的、劳动力友好型经济。
他们这样做，的确带来了一些转变，但代价也是巨大的。多年来，新**主义受到了许多批评。人们认为经济大衰退、金融危机、***主义、英国脱欧和其他许多问题都是新**主义引发的结果。
这样看来，**政府与这种意识形态保持距离，并承认市场有时会出错，也就不足为奇了。一些基金会、智库和学术界人士甚至已经为后新**主义（post-neoliberal）的前景作出了设想。
然而，新**主义还远未消亡。更糟糕的是，它在“通用人工智能主义”的崛起中找到了盟友，后者也持有甚至更加强调新**主义的某些主要偏激观点，即私人行为者的表现要优于公共行为者的表现（市场偏见），与其改变现实不如适应现实（适应偏见），提高效率比回应社会关切更加重要（效率偏见）。
这些偏见完全颠覆了通用人工智能背后**的前景：人们为研发技术所付出的努力非但没有拯救世界，反而只会让这个世界变得更糟。接下来我将解释为什么。
通用人工智能永远无法克服市场对利润的渴望。
还记得优步（Uber）曾以低廉的**吸引众多城市将自己纳入公共交通**吗？最初一切都很美好，优步承诺，未来将实现自动驾驶和最低劳动力成本，提供难以置信的廉价乘车服务。财大气粗的投资者看好这一愿景，甚至愿意承担优步数十亿美元的亏损。但现实情况是，自动驾驶技术迟迟无法落地。投资者们需要回报，于是优步**提高**。而指望通过优步来代替公交车和火车的用户被丢弃在一边。
优步商业模式背后的新**主义理念在于，**部门可以比公共部门做得更好，这就是市场偏见。
不仅仅是城市公共交通，医院、**局，甚至五角大楼，都对硅谷的高科技公司形成了越来越严重的依赖。随着通用人工智能的发展，人们对这种技术的依赖只会越来越深。尤其是因为通用人工智能具有无限的范围和野心，如果它要搞**，任何行政机构或政府服务部门都将束手无策。
而且，通用人工智能甚至在研发成功之前，就能把人骗进来。这是Theranos公司带给我们的教训。这家初创公司曾是美国精英们的宠儿，承诺通过革新血液检测技术来“解决”医疗问题。虽然从未研发出货真价实的技术，但公司的受害者却都是真实存在的。
Theranos 是一家独角兽公司，承诺通过仅用一滴血进行多次快速血液检测来颠覆医疗行业,并彻底改变实验室检测模式。该公司由 19 岁的伊丽莎白·霍姆斯 (Elizabeth Holmes) 于 2003 年创立。2015 年，《福布斯》将她评为最年轻、最富有的女性***亿万富翁，估值为 90 亿美元，在欺诈行为曝光后，Theranos 烧掉了 9 亿美元的投资资金，800 名员工失业。
在经历了这么多类似优步和Theranos带来的创伤后，我们已经知道通用人工智能的推出会给我们带来什么。其推广将分两个阶段展开。首先通过大量补贴展开魅力攻势，然后便图穷匕见，从补贴政策中撤退，而过度依赖该技术的用户和机构将不得不接受公司为维持盈利所制定的高昂**。
硅谷大佬们一如既往地淡化了市场的作用。在最近一篇名为《为什么人工智能将拯救世界》（Why A.I. Will Save the World）的文章中，科技行业知名投资人马克·安德森（Marc Andreessen）甚至宣称，人工智能技术“和其他技术一样，由人类拥有并受人类控制”。只有风险资本家才擅长使用如此精妙的话术。大多数现代技术都被公司所拥有，他们（而不是传说中的“人类”）把拯救世界变成一门赚钱的生意。
此外，这些科技公司真的在拯救世界吗？截至目前，他们的表现没什么说服力。像Airbnb和TaskRabbit这样的公司被陷入困境的中产阶级视为救世主；特斯拉的电动汽车被当作应对全球变暖的良方；代餐奶昔公司Soylent接受了“解决”全球饥饿问题的使命，而Facebook则发誓要“解决”全球南方国家的互联互通。事实上，这些公司并没有拯救世界。
十年前，我把这种模式称为“解决主义”（solutioni**），但如果称之为“数字新**主义”也同样合适。这种世界观从营利性解决方案的角度，重新审视社会问题。那些在公共领域备受关注的问题因此被重新视为在市场上有利可图的机会。
“通用人工智能主义”重新点燃了人们对这种“解决主义”的热情。去年，萨姆·奥特曼表示，“通用人工智能可能成为人类生存所必需的一项技术”，因为“我们的问题似乎太大了”，我们“没有更好的工具就无法解决这些问题”。他最近断言，通用人工智能技术将推动人类繁荣发展。
然而，公司需要利润才能生存。指望烧掉投资者数十亿美元、不产出利润的公司做出上述善举是不太常见的。OpenAI已经从微软那里接受了数十亿美元，该公司目前正考虑再筹集1000亿美元来研发通用人工智能技术。该技术研发成本极为高昂，OpenAI公司必须为投资者收回成本（据今年2月的一项评估，该公司旗下ChatGPT每天的运营成本为70万美元）。
因此，在“富足”和“繁荣”到来之前，公司可能会先通过大幅提价使人工智能服务盈利。但到那时，但到那时，又有多少公共机构会将善变的市场误认为是可负担得起的技术，从而对OpenAI昂贵的产品产生依赖包呢？如果你不喜欢你的城市将公共交通外包给一家脆弱的初创公司，你会希望它将福利服务、垃圾处理和公共安全外包给可能更加不稳定的通用人工智能公司吗？
通用人工智能可以减轻棘手问题带给我们的痛苦，但不可能从根源上解决问题。
新**主义可以利用技术，使社会问题变得可以忍受。我记得，2017年曾有一家科技创新公司，承诺为通勤者改善芝加哥地铁的乘坐体验，为错峰出行的乘客提供奖励。该解决方案的创造者利用技术来影响服务需求方（乘客）的行为，因为他认为让服务供给方采取行动进行结构性升级（如筹集公共交通资金）是十分困难的。这家公司实际上是在帮助芝加哥人民努力适应城市日益恶化的基础设施，而不是为了满足公众需求，真正地解决问题。
这就是先前提到的适应偏见。人们希望通过科技手段，让我们对自身的困境变得麻木不仁。这是新**主义不遗余力地鼓吹自力更生和抗压能力的结果。
信息很明确：整装待发，增强人力资本，像初创企业一样制定发展路线。而“通用人工智能主义”也与此论调相呼应。比尔·盖茨（Bill Gates）也曾鼓吹，人工智能技术可以“帮助世界各地的人们改善生活”。
“解决方案主义者”的盛宴才刚刚开始：无论是应对下一场大流行、孤独症还是通货膨胀，人工智能技术已经被吹捧为一把万能“锤子”：在它面前，任何真实的或想象中的“钉子”都不在话下。然而，被愚蠢的“解决主义者”浪费的10年，揭示了其技术手段的局限性。
诚然，来自硅谷的许多手机应用程序可以帮助我们监控生活开支、卡路里消耗和锻炼计划，这些科技手段偶尔也会有所帮助。但它们大多忽略了贫穷或肥胖的根本原因。如果不针对那些根本原因去行动，我们仍将不得不适应问题的存在，而不是从根本上解决它。
用科技鼓励我们遵循自己的步行习惯（一种有利于个人适应问题存在的解决方案）和理解为什么我们的城市缺乏公共步行空间（一种有利于集体和制度变革的**友好型解决方案的前提条件），这两者之间还是有区别的。
但是，和新**主义一样，“通用人工智能主义”认为公共机构缺乏想象力，而且效率低下。根据萨姆·奥特曼的说法，公共机构应适应通用人工智能的到来，但他最近表示，自己对“公共机构适应新技术的速度感到忧虑”。“我们之所以应该在该技术发展尚未成熟的初期就将其投入应用的部分原因在于，这样人们就可以有更多的时间去适应该技术的存在”。
但是公共机构只有适应一条路可走吗？公共机构就不能在不应用人工智能技术的情况下，制定自己的计划去提高人们的知识水平吗？还是说，公共机构只有“降低”硅谷技术风险这一项用途吗？
通用人工智能降低公民素质，并放大我们不乐见的社会发展趋势。
对新**主义的一种常见批评是，该意识形态使我们的**生活变得扁平化，一切都在围绕效率进行重新洗牌。
1960年刊登的《社会成本问题》（The Problem of Social Cost）一文堪称新**主义的经典作品。该文鼓吹制造污染的工厂及其受害者不应将**诉诸法庭，因为这样做将导致效率低下并妨碍市场活动的正常进行。毕竟，谁会在乎公平正义呢？该文指出，双方其实应该私下就赔偿问题达成和解，然后皆大欢喜，各回各家。
这种对效率的痴迷导致我们在“解决”气候变化问题时，让**环境最严重的违法者继续逍遥法外。他们逃避环境监管部门监管的办法是，设计一项制度，在此称为“碳税”——制造污染的公司可以根据自己的碳排放量购买排放额度。
在一味追求效率的文化里，一切事物的价值都由市场衡量，公平正义不复存在，这将不可避免地导致社会道德体系的崩塌。
著名黑色科幻剧《黑镜》剧照，人们生活在依靠电脑打分的社会**里，根据人工智能判定的“社交分数”进行选择性社会交往。
由此产生的问题随处可见。学者们担心，在新**主义的影响下，科研和教学已经商品化。医生们抱怨说，医院优先考虑提供更有利可图的服务，比如选择性手术，而不是急救服务。此外，记者们也不希望用流量来衡量自己所撰写稿件的价值。
现在我们可以设想一下，让通用人工智能带着“解决问题”的崇高使命在这些受人尊敬的机构里（大学、医院、新闻机构等）获得广泛使用。这些机构在价值体系里有自己的追求，而这样的追求对通用人工智能**来说是无法理解的，甚至在年度报告中也不太容易被量化。而通用人工智能**正是在那些报告中获得训练。
毕竟，哪个老师会吹嘘来上自己文艺复兴历史课的学生屈指可数呢？某位记者会很高兴看到自己关于某个遥远国度**问题的报道只有十几次的浏览量吗？效率低下，不产出效益，即便在当前的体制中，这些“异类”也奇迹般地生存了下来。一些公共机构一直在暗中向此类人物提供补贴，因为这些机构优先考虑自己看重的价值，而不是利益驱动的“效率”。
在通用人工智能构建的乌托邦中，情况还会是这样吗？人工智能**会像一个无情的顾问那样，整顿我们的公共机构吗？通用人工智能**提供基于数据的“解决方案”，以便最大限度地提高效率。然而这些“解决方案”往往无法把握公共机构的价值观、使命和传统之间复杂的关系，如果你只触及报告中表面的那些数据，你就很难看清这其中复杂的关系。
事实上，从设计角度来讲，类似ChatGPT这样表现卓越的人工智能**是无法在超越表面数据的更深层面上把握现实的。
因此，早期的人工智能**依赖于明确的规则，它们需要像牛顿这样的人来将引力理论化（把苹果如何以及为什么会掉下来写入**），而像通用人工智能这样当下出现的新技术，只能通过数百万次观察苹果掉到地上来学习该如何预测重力对物体的作用。
然而，如果通用人工智能**看到的都是在为生存苦苦挣扎的、缺乏资金的公共机构，那么它很可能永远无法推断出这些机构真正推崇的价值。若人工智能**观察的是那些以获得利润为目标的医院，那么祝你好运，希波克拉底誓言对该人工智能**来说就是没有意义的。
玛格丽特·***夫人另一句著名的新**主义言论是，“这个世界上并不存在‘社会’这种东西”。
通用人工智能游说团体无意中也散播了这种悲观论调。对他们来说，值得发展的智能存在于人类个体头脑中，而不存在于社会中。
不过，人类智慧既是基因和天赋的产物，也是政策和制度的产物。在国会图书馆当研究员，比在一个没有书店、甚至连基本的无线网络都没有的地方打好几份工要更容易学到知识。提供更多的奖学金和图书馆资源无疑将有助于提高社会的知识水平，这一点似乎是没有争议的。但对于硅谷的“解决主义者”来说，提高知识水平主要是一个技术问题，因此他们才对通用人工智能的实现感到兴奋。
然而，如果“通用人工智能主义”真的是新**主义的另一种表现形式，那么我们应该为如下结果做好准备：致力于提高社会知识水平的公共机构将会越来越少。此类机构毕竟是可怕的“社会”残余，对于新**主义信徒们来说，“社会”就不该存在。人们开发通用人工智能技术的目的本来是提高人类的智力水平，结果却适得其反，人类的智慧反而会趋向萎缩。
2017年《纽约客》（New Yorker）十月刊封面：机器人统治世界
由于受到“解决方案主义”的偏见影响，即便是看似新颖的通用人工智能技术政策也无法令人兴奋起来。以最近提出的“人工智能安全之曼哈顿计划”（Manhattan Project for A.I. Safety）为例，该计划基于一个错误的前提，即除了发展通用人工智能，人类别无选择。
但是，如果我们的政府提出“文化教育之曼哈顿计划”，并为相关机构提供资金，我们提高人类知识水平的努力不是会更加有效吗？如果我们不这样做，现有公共机构所掌握的文化资源很可能会沦为通用人工智能初创公司的训练数据库，这样的局面会让更多的人接受新**主义者所宣称的“社会并不存在”的谬论。
若机器人不背叛人类或其背叛行为威胁性较弱，那么通用人工智能技术就不会被视为对人类的生存威胁。然而由于通用人工智能的***倾向和新**主义特征，“通用人工智能主义”的崛起意味着，我们不必等待很久，Roombas扫地机器人就会对自己的工作使命提出质疑。
（原文刊载于6月30日《****》）
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
当前，以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中，你首先想到的会是哪几企业？答案有很多，但“中科系”的提及率绝对很高。作为国家战略科技力量，“中科系”旗下
21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞，英特尔CEO帕特·基辛格（Pat Gelsinger）正在带领英特尔加速奔跑。当地时间9月19日，2023英特尔on技术创新大会于美国加利
财联社9月19日讯（记者 唐植潇）近日有消息称，OPPO将会重启芯片业务，并且“有部分员工已经回流，加入到了车载业务之中”。记者就此事向OPPO方面进行核实，对方表示“不予置评”。特百惠（我国）数字与
600亿颗芯片！我国巨头正式宣布，美媒：**也没料到制裁这么快
我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场，拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长，包括智能手机、电视、电脑和各种智能设备等，这些设备都需要高性能的芯
最新手机芯片天梯图：A17、华为麒麟9000S，排在什么位置？
近日，最火的两颗芯片分别是苹果的3nm芯片A17 Pro，虽然很多人吐槽它较上一代提升不明显，但论性能，可以碾压任何安卓芯片，甚至是领先2代的。另外一款芯片，则是华为麒麟9000S，当然，这颗芯片工艺
韩国芯片连续13个月暴跌，尹锡悦指责我国不采购，外媒：自食其果
据韩国媒体称，韩国的半导体出口额已经连续暴跌13个月了，比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国，话里话外都是指责，他认为韩国半导体卖不出竟是我国的原因，我国应该帮助
我国突破芯片瓶颈将影响全球秩序？美国很担心，指出我国关键弱点
我国在芯片半导体领域一直深受美国的**，通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档，不过随着我国科技企业近几年的突破，目前我国已经在芯片制造方面取得了重大的成果
前几天，华为一声不响的上线了mate60系列，带着麒麟芯片9000s强势回归，吸引了全世界的目光。而华为麒麟芯片**背后，我们不该忘记这位老人—张汝京。我国半导体之父，为回**造芯片，被开除**户籍，
【有车以后 资讯】“未来汽车对传统汽车的颠覆性，使传统零部件体系的50%以上都面临重构。”12月16日，在全球智能汽车产业峰会(GIV2022)上，我国电动汽车百人会理事长陈清泰指出，智能汽车的价值链
投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计，一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车，如F1赛车等，其**零部件的数量可达到2万个
全球最大的10家汽车零部件供应商 都是世界500强 无我国企业
【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜，是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中，汽车制造商和零部件厂商共占据33席（除去大型工程车辆企业），
汽车零部件企业哪家强？除了博世**还有这些名字你一定耳熟能详
文：懂车帝原创 李德喆[懂车帝原创 行业]9月18日，由《我国汽车报》主办，罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中，博世、**、电装位列2019全球汽车零部件
行业现状（Reference：产业运行 | 2021年汽车工业经济运行情况）中汽协预测：2022年我国汽车销量达到2700万辆，新能源销量超过550万辆（Reference：乘用车市场信息联席会）以乘
全球十大汽车零部件供应商，核心技术都被他们垄断，自主遗憾缺席
提到电影，我们会想到张艺谋、冯小刚，而很少会想到幕后的制作人；提起流行乐，我们会想到周杰伦、萧敬腾，而很少会想到背后的作词人。台前台后，一幕之别，知名度往往相差甚远。车界又何尝不是如此，知名车企我们都
来源：环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后，全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日，由全球移动通信**协会（GSMA）主办的20
近日华为、苹果争相推出手机卫星通信功能，成为一大亮点，不少手机厂商也将目光投到卫星通信。放眼未来，手机直连卫星的卫星通信服务将是大势所趋，也是6G时代的重要标志。华为以“北斗三号”为依托，率先把“卫星
国内企业在光通信产品的参数测试过程中，通常使用国外的先进测试设备。然而，这些测试仪器之间往往是孤立存在的，需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错，而且测试效率低下。
龙头20cm涨停，7天股价翻倍！一文看懂卫星通信前世今生及产业链
卫星通信概念股华力创通今日再度强势拉升，截至发稿，该股股价20cm涨停，7个交易日累计涨幅近113%，现报23.52元续刷阶段新高，总市值155.9亿元。消息上，有媒体从供应链获悉，Mate 60 P
工信部：目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件
针对网友提出的“电话号码归属地更改”建议，工信部近日给出了官方回复。此前，有网友在人民网留言板向工信部留言称，“现在电话都是实名制，电话号绑定的***及一些主流的软件较多，更换号码后造成一系列问题
