北大蔡一茂教授:解读AI芯技术趋势,架构创新、新型存储与先进封装
作者 | 心缘
编辑 | 漠影
写在前面：12月21日-22日，GTIC 2021全球AI芯片峰会将在北京举行。届时，来自芯片巨头、独角兽公司及创业新秀的产业大咖和技术专家将同台分享AI芯片的技术创新和落地经验。大会前夕，智东西&芯东西对参会嘉宾进行系列深度对话，提前一睹他们对产业的真知灼见。本期对话嘉宾为北京大学信息科学技术学院副院长兼微纳电子学系系主任蔡一茂教授。
自1956年国家在北京大学由黄昆先生领衔建立半导体专门化，到北京大学于2020年设立集成电路科学与工程一级学科，再到今年7月北京大学集成电路学院揭牌成立，北京大学集成电路学科已走过65度春秋，正整合优势产学资源，迈向新的阶段。
作为推动北大集成电路学科建设的关键成员，北京大学信息科学技术学院副院长、微纳电子学系系主任蔡一茂教授长期从事先进存储器、神经形态器件及类脑芯片关键技术研究，对于人工智能时代新器件、新架构、新工艺有着深刻见地。
AI芯片发展到了怎样的阶段？存算一体因何蓬勃发展、还需攻克哪些难关？哪些技术方向为AI加速计算提供了优化能效和性能的更多可能？类脑计算与AI芯片如何相辅相成？……
围绕这些问题，近日，智东西与蔡一茂教授展开了一场深度对话。
一、AI芯片五大衡量维度，通用性是终极目标
从初绽锋芒到逐渐被大众认知，AI芯片经过数年发展，已经走到了角逐规模化商用的新节点。
蔡一茂教授认为，从学术角度来看，目前AI芯片领域呈百花齐放的态势，包括深度学习神经网络芯片、类脑芯片等很多技术路径大家都在探索。
他指出衡量AI芯片方案性能有5个维度：自适应、性能、能效比、可编程性、可扩展性。
其中，将可扩展性理解成“支撑的参数规模更大”还不太够，将来一个重要趋势是走向通用性，这对于人工智能、AI芯片都非常重要。
很多AI公司面临AI芯片或AI方案落地困难或者成本控制的挑战是无法将一个方案简单的**应用于不同的场景，而这个是软件公司相对容易做到的。比如微软Office是一个标准的通用的产品，只要拿到授权许可就能使用，因此所有团队集中起来做好Office，无需设立专门的团队来为某家企业解决Office问题。
但目前大多数AI公司做不到这一点，因为AI应用场景存在差异化，通常需要根据其数据格式、具体应用场景入驻一个团队来联调。在蔡一茂教授看来，“这是**AI算法和芯片实际大规模应用的一个重要挑战”，无论是AI算法还是AI芯片的通用性，产学界都尚未出现很好的解决方案。
“我相信AI的应用会落地越来越多，虽然现在有些困难，但整体大家还是寄予厚望。”蔡一茂教授说，“所以这个领域的研究在相当长的时间内依然会是热点。”
二、国产替代催化大算力新机遇，避开技术只谈生态是“伪命题”
相比AI芯片发展初期，如今云端、边缘市场更为繁荣，更多创企开始主攻大算力芯片。
据蔡一茂教授观察，这是整体算力需求使然。随着AI算力需求大幅飙涨，全国多地开始建设大规模AI超算中心。对于手头不算宽裕的创企或小型研究团队来说，这为他们进行AI训练、AI推理等运算，降低了获取算力资源的门槛。
目前GPU仍是AI训练市场最主流的加速芯片。尽管一些互联网大公司已经开始根据自家业务自研芯片来实现更高的性价比和对场景更好的适应性，但他们也会继续采用GPU，毕竟GPU更加通用。
有NVIDIA摘冠在前，一些公司已经开始布局GPU国产替代方案，将来有望在一些领域或者受限的企业中，凭借更高性价比，分得一块市场。
倘若要对标英伟达或者相关的GPU技术，至少在某些领域上能与之匹敌，客户能够接受其性价比，在此过程中逐渐培养起自己的生态联盟。
“如果技术不行，老拿生态来讲，这是很难行得通的。”蔡一茂教授谈道，“技术上至少要有特色，然后再来看生态的构建；如果技术还差一大截，就说生态，这是个伪命题。”
当然，技术的追赶不是一蹴而就，更多的是希望有迭代的机会，有超越现有技术的可能。同时，很多人说自己的新技术有多好，可能过一段时间，对手就推出了一个更厉害的，所以看到竞争对手在进步，这也非常重要。
至于其他新兴技术路线，想要取代GPU绝非易事。一方面，许多技术只能做到单点性能更好，而非综合性能更好；另一方面，一些已有方案更好落地，投入更多资源就会迭代得更快。
相比取代GPU，蔡一茂教授相信，发掘一些新的领域，更可能把市场做的越来越大，比如开发新兴技术去解决现有GPU不擅长加速的领域。
▲北京大学信息科学技术学院副院长兼微纳电子学系系主任蔡一茂教授
三、攻关新型存储器、先进封装，解锁AI芯片进化之门
除了AI芯片架构本身的进展外，更高性能的芯片，往往离不开先进的存储器和封装方式。
传统芯片存在的一大瓶颈是“存储墙”。
存储和计算，是芯片的两大基础功能。存储器与计算单元之间的数据搬运，往往消耗大量功耗，但很多加速芯片并未解决这个问题。
为了降低数据频繁交换导致的延迟和功耗，以存储为中心的计算架构逐渐兴起，成为AI芯片的一大新兴技术路线。
存储器可分为易失性存储器、非易失性存储器。
（1）易失性存储器：以SRAM、DRAM为代表，速度快、可靠性较高，但功耗、成本偏高，数据在里面只能短暂存储，必须不停地跟外部的非易失性存储器进行交换。
SRAM和DRAM在AI芯片中非常重要。AI芯片如果追求性能，则要求存储器本身够快、带宽够大，可以快速交换数据，这离不开SRAM、DRAM的进步。
此外，当前全球几家存储器巨头都在推进基于DRAM技术的高带宽内存（HBM），现在最先进的GPU的性能提升很大一部分也是得益于HBM的进步。目前还未见国内有公司大规模量产这种技术。
（2）非易失性存储器：目前主流产品是Flash。Flash的优势尤其体现在边缘端，一些参数存放在非易失性存储器中，后续有些应用可以直接调用或者直接运算。有些公司已利用Flash进行AI算法加速或实现存内计算功能。
Flash的挑战在于可靠性不高，可擦写次数约10^6次；另外其工作电压偏高，兼容纯逻辑运算和工艺的难度较大。目前嵌入式Flash的工艺节点普遍在40nm，也有些采用28nm，但很难再往更先进的节点推进了。台积电、三星等都在探索能够替代Flash的一些新型非易失存储器，比如阻变存储器、磁存储器和铁电存储器等。
Flash或者新型存储器不是拿来就可以用于AI芯片，通常需要针对性地改工艺、改集成技术，这对制造端提出了挑战。
虽然有一些基于SRAM、DRAM、SSD等存储器的存内计算方案和芯片被提出，但是目前还没有特别高性价比的存储器技术来支撑存内计算，存内计算也还未真正做到很好的产业化程度，更多是通过提高存储器的性能和带宽，来进一步优化整个综合**。现阶段探索产业化路线的存内计算以SRAM、DRAM、NOR Flash为主。
除了打造基于先进节点的嵌入式存储器外，另一技术方案是先进封装。
像Flash这样的存储器不宜用先进节点，则可采用更成熟的节点，通过chiplet或者其他先进的封装技术，与拥有先进节点的芯片异构封装在一起，同样能提升性能。同时，先进封装是实现高带宽、高速数据交换的重要技术途径。
如今在后摩尔时代，摩尔定律的内涵完全变了，不再严格按照最初的定义，而更多是基于集成电路综合性能的考量，通过异构分装、异质封装、三维器件、新材料等新兴技术的引入，让集成电路向**度发展，实现等效的摩尔定律的延伸。
从产业角度来讲，做芯片面临的挑战主要是性价比，同一功能的东西，如果性能提高一点，但随之整个**或芯片**明显提高时，市场会很难接受。
四、感存算一体新趋势，让传感器先处理数据
蔡一茂教授还提到一个新趋势——感存算一体，这可以被理解为存算一体与传感、模拟计算甚至神经拟态的结合。
我们周围的物联网服务，很多不是0、1编码直接进来，可能是一些传感器信号包括**信号、声音信号、压力信号以及生物信号等其他参量的信号。
而且随着电子设备对外围环境感知的需求增大和更加精细，通常会需要多个传感器来采集数据。
这些信号如果全部经过传感器往下传，传输编码过程存在带宽**和能耗挑战，通常会导致性能和能效下降。
但如果在传感器端就开始对感知到的信号做初步处理，这些经处理的数据再往后传，对后面**的负担就小了很多。
一个例子是索尼公司的方案，它在C**芯片开始做感知那一段进行运算，这通常被称作“感存算”。拥有庞大数据量的自动驾驶场景对感存算一体也有需求，将来激光雷达或其他传感器端如果能先对数据做处理，则可以减少后端芯片的压力。
▲北京大学集成电路学院
五、类脑芯片是有益补充，不会取代现有AI芯片
除了新型存储器技术外，蔡一茂教授的团队也在进行类脑芯片关键技术的研究。
类脑芯片同指受人脑架构和信息处理方式启发，引入生物神经计算方式，有望获得像人脑般的低功耗和强智能的信息记忆及处理功能，这也是AI芯片的一个前沿方向。
从学术角度讲，蔡一茂教授提到国内外类脑计算差距并不大，各有优势和特色。国内科研团队有多篇文章发表在Nature等**学术期刊上，相关演示芯片的规模也足以与国外相匹敌。
在产业上，类脑芯片在国内外尚未出现大规模商用。就连已被NASA采购的早期类脑芯片代表IBM TrueNorth芯片，迄今也未在民用方面实现大规模推广。目前类脑芯片已有多项应用演示，但要真正落到应用层，还面临基本器件、架构与算法等多层面的挑战。
与AI常用的卷积神经网络（CNN）、深度神经网络（DNN）不同，类脑计算采用增加了时域信息处理的脉冲神经网络（SNN）或相关偏生物类的算法，以模拟人脑神经突触通过电脉冲传递信息的编码方式进行信息处理。
SNN之于CNN是一个有益的补充，类脑芯片与传统深度学习AI芯片是齐头并进的关系，类脑芯片不会完全取代深度学习AI芯片，正如加速AI芯片也不能完全取代CPU和GPU。
将来有些AI任务，比如涉及情感化、超低功耗、非结构数据处理等应用场景，可能需要人脑的启发来进行优化或者另辟蹊径。但是要满足这样的应用需求，不是一个单点任务。首先需要处理该任务时更具优势的算法，然后需要专门的类脑芯片来与算法紧密结合，如果没有一个算法来引导芯片怎么工作，则都是空中楼阁。
六、芯片创业需先理解市场需求
现在是集成电路发展的好时机，蔡一茂希望，学习芯片相关专业的学生讲一些情怀，愿意在这个行业里沉淀下去，能够专注、长期做这件事。
“从事集成电路研究或者生产，要树立服务国家重大战略的使命感。”蔡一茂教授说，“但是服务国家重大战略不是口号，做好自己的本职工作，服务好自己所在的产业，甚至对自己的公司做出重要的贡献或者努力去创新，都是属于服务国家重大战略的具体工作。”
他也很支持学生创业，但同时强调“不要盲目”，不能因为现在芯片投资很热，就看不上踏踏实实在大公司里或者一些现有企业中做技术或核心骨干的职位。
创业是综合性的，涉及个人的品性、社会资源、对技术的把握和市场扩展的能力，要么自身具有很好的综合能力，要么能够组建很好的团队。自认为的技术先进性，也不见得一定会被市场认同，因此勘破市场需求至为关键。
他建议刚毕业的博士生，可以先到产业界中去熏陶、去经受一些风风雨雨，知道产业和市场需要什么，再考虑创业可能成功率会大一点。
结语：理性看待我国芯片技术发展
在交流的尾声，当我们问到芯片领域有关自主技术突破的报道出现的一些误解，蔡一茂教授特别强调了两点。
首先，芯片本身是一个很宽泛的产品，需要实现很多技术方面的突破，不能说一个点的突破，就说我们完全实现技术自主了。
制造端也是如此。例如某一厂商的某个设备进入5nm节点，就被报道称解决了我国5nm制造的“卡脖子”问题，很多民众对技术细节并不了解，所以容易受到媒体报道的影响，希望媒体不要博眼球，对技术和实际情况予以更真实准确的报道。
第二，学术成果与产业问题的解决不要混为一谈。学术上面向未来的研究进展，不见得就能立即用到产业中，来解决现在的问题。
比如某个学术团队可能发表了一篇文章、报道了一个学术成果，但从学术到产业还有很长距离，从0到1再从1到100，有时候相隔甚远，需要更大的投入、更多评估以及甚至做好将面临更大困难乃至最后工程上无法实现的心里准备。
我国发展集成电路的意义重大，也面临很多挑战，蔡一茂教授认为，我们应保持信心，也要保持定力，吸引更多人才投入到集成电路研究和产业中，引进高水平的全球人才的同时也要努力培养出更多优秀的本土领军人才和战略科技力量。
大会报名通道
12月21日-22日，GTIC 2021全球AI芯片峰会将在北京举办，通过全景式解构AI芯片技术革新和落地走向，观察与见证万物智能时代的底层变革。
北京大学信息科学技术学院副院长兼微纳电子学系系主任蔡一茂、NVIDIA我国区工程和解决方案高级总监赖俊杰、瀚博半导体创始人&CEO钱军、地平线联合创始人&CTO黄畅、登临科技创始人兼执行总裁李建文等16位重磅嘉宾已经确认参会。
大家可以点击【GTIC 2021全球AI芯片峰会报名表】进行报名。组委会的工作人员将会在每周五对大家提交的报名信息进行审核，并以**形式通知。
当前，以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中，你首先想到的会是哪几企业？答案有很多，但“中科系”的提及率绝对很高。作为国家战略科技力量，“中科系”旗下
21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞，英特尔CEO帕特·基辛格（Pat Gelsinger）正在带领英特尔加速奔跑。当地时间9月19日，2023英特尔on技术创新大会于美国加利
财联社9月19日讯（记者 唐植潇）近日有消息称，OPPO将会重启芯片业务，并且“有部分员工已经回流，加入到了车载业务之中”。记者就此事向OPPO方面进行核实，对方表示“不予置评”。特百惠（我国）数字与
600亿颗芯片！我国巨头正式宣布，美媒：**也没料到制裁这么快
我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场，拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长，包括智能手机、电视、电脑和各种智能设备等，这些设备都需要高性能的芯
最新手机芯片天梯图：A17、华为麒麟9000S，排在什么位置？
近日，最火的两颗芯片分别是苹果的3nm芯片A17 Pro，虽然很多人吐槽它较上一代提升不明显，但论性能，可以碾压任何安卓芯片，甚至是领先2代的。另外一款芯片，则是华为麒麟9000S，当然，这颗芯片工艺
韩国芯片连续13个月暴跌，尹锡悦指责我国不采购，外媒：自食其果
据韩国媒体称，韩国的半导体出口额已经连续暴跌13个月了，比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国，话里话外都是指责，他认为韩国半导体卖不出竟是我国的原因，我国应该帮助
我国突破芯片瓶颈将影响全球秩序？美国很担心，指出我国关键弱点
我国在芯片半导体领域一直深受美国的**，通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档，不过随着我国科技企业近几年的突破，目前我国已经在芯片制造方面取得了重大的成果
前几天，华为一声不响的上线了mate60系列，带着麒麟芯片9000s强势回归，吸引了全世界的目光。而华为麒麟芯片**背后，我们不该忘记这位老人—张汝京。我国半导体之父，为回**造芯片，被开除**户籍，
【有车以后 资讯】“未来汽车对传统汽车的颠覆性，使传统零部件体系的50%以上都面临重构。”12月16日，在全球智能汽车产业峰会(GIV2022)上，我国电动汽车百人会理事长陈清泰指出，智能汽车的价值链
投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计，一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车，如F1赛车等，其**零部件的数量可达到2万个
全球最大的10家汽车零部件供应商 都是世界500强 无我国企业
【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜，是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中，汽车制造商和零部件厂商共占据33席（除去大型工程车辆企业），
汽车零部件企业哪家强？除了博世**还有这些名字你一定耳熟能详
文：懂车帝原创 李德喆[懂车帝原创 行业]9月18日，由《我国汽车报》主办，罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中，博世、**、电装位列2019全球汽车零部件
行业现状（Reference：产业运行 | 2021年汽车工业经济运行情况）中汽协预测：2022年我国汽车销量达到2700万辆，新能源销量超过550万辆（Reference：乘用车市场信息联席会）以乘
全球十大汽车零部件供应商，核心技术都被他们垄断，自主遗憾缺席
提到电影，我们会想到张艺谋、冯小刚，而很少会想到幕后的制作人；提起流行乐，我们会想到周杰伦、萧敬腾，而很少会想到背后的作词人。台前台后，一幕之别，知名度往往相差甚远。车界又何尝不是如此，知名车企我们都
来源：环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后，全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日，由全球移动通信**协会（GSMA）主办的20
近日华为、苹果争相推出手机卫星通信功能，成为一大亮点，不少手机厂商也将目光投到卫星通信。放眼未来，手机直连卫星的卫星通信服务将是大势所趋，也是6G时代的重要标志。华为以“北斗三号”为依托，率先把“卫星
国内企业在光通信产品的参数测试过程中，通常使用国外的先进测试设备。然而，这些测试仪器之间往往是孤立存在的，需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错，而且测试效率低下。
龙头20cm涨停，7天股价翻倍！一文看懂卫星通信前世今生及产业链
卫星通信概念股华力创通今日再度强势拉升，截至发稿，该股股价20cm涨停，7个交易日累计涨幅近113%，现报23.52元续刷阶段新高，总市值155.9亿元。消息上，有媒体从供应链获悉，Mate 60 P
工信部：目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件
针对网友提出的“电话号码归属地更改”建议，工信部近日给出了官方回复。此前，有网友在人民网留言板向工信部留言称，“现在电话都是实名制，电话号绑定的***及一些主流的软件较多，更换号码后造成一系列问题
