研究透视：清华大学钱鹤/吴华强/高滨 Nature Machine Intelligence-存算一体

基于机器学习算法的先进人工智能任务，例如策略优化、智能医疗，以及自主驾驶，皆需要高带宽的数据传输和概率计算，这给传统计算硬件，带来了巨大挑战。尽管基于冯-诺依曼架构的数字计算平台，擅长精确和确定性计算，但由于内存和计算单元之间的数据传输，以及大量随机数生成的高成本，限制了计算效率。近年来，在忆阻器在存算一体技术和随机数生成领域，有望实现融合随机数生成的存算一体计算技术，从而高效实现概率机器学习算法。

近日，清华大学集成电路学院钱鹤/吴华强/高滨课题组与清华大学计算机系朱军课题组合作，从中心极限定理出发，提出了一种利用忆阻器读取电导的随机性和存算一体特性实现高斯权重的方法，在同一阵列中实现了原位随机数生成和矩阵向量乘功能，进一步构建了可拓展的多阵列随机计算硬件系统可扩展随机存内计算的新型类脑硬件系统expandable stochastic computation-in-memory，ESCIM，以高效加速概率机器学习算法。

Uncertainty quantification via a memristor Bayesian deep neural network for risk-sensitive reinforcement learning.用于风险感知强化学习，忆阻贝叶斯深度神经网络的不确定性量化。

图1:贝叶斯深度学习Bayesian deep neural network，BDNN，用于真实动态场景下的不确定性量化。

图2:忆阻器阵列，以及可扩展随机存内计算的新型类脑硬件系统expandable stochastic computation-in-memory，ESCIM系统的随机行为。

为了高效地实现机器学习算法并保证其基本性能，课题组通过结合忆阻器随机特性和传统变分推断算法，开发了一种利用忆阻器随机特性的变分推断离线训练方法。此外，课题组量化分析了权重失配和弛豫效应对网络性能带来的影响，并提出了一种补偿漂移电流的方法。最后，课题组利用读电流一次性的特点，设计了一种利用忆阻器的读循环随机特性来实现不确定性估计的方法。

图3: 贝叶斯深度学习BDNN的风险感知强化学习reinforcement learning，RL任务和实施。

图4:风险感知强化学习reinforcement learning，RL任务的不确定性量化和结果。

该研究工作由清华大学集成电路学院高滨课题组和清华大学计算机系朱军课题组共同合作完成。清华大学集成电路学院高滨副教授、吴华强教授是本论文的共同通讯作者，林钰登和张清天为共同第一作者。该研究得到了科技创新2030“脑科学与类脑研究”重大项目、国家自然科学基金委杰青项目和重点项目、北京集成电路高精尖中心等项目的支持。

清华大学集成电路学院钱鹤、吴华强教授团队长期致力于基于忆阻器的存算一体技术研究，从器件制备、工艺集成、电路设计及架构与算法优化等多层次实现创新突破，先后在《自然》（Nature）、《自然纳米技术》（Nature Nanotechnology ）、《自然电子》（Nature Electronics）、《自然通讯》（Nature Communications）、《科学进展》（Science Advances）、《先进材料》（Advanced Materials）等顶级期刊以及国际电子器件会议（IEDM）、国际固态半导体电路大会（ISSCC）等领域内顶级国际学术会议上发表多篇论文。