白癜风临床专家 https://wapjbk.39.net/yiyuanfengcai/ys_bjzkbdfyy/自年以来,人工智能模型训练算力需求每-4个月翻一番,每年人工智能训练模型所需算力增长幅度高达10倍。这就带来了一个挑战:我们如何让AI更快、更高效?答案可能就藏在光的世界里。
光学计算,一个充满潜力的领域,主张利用光的速度和特性将机器学习应用的速度和能效提升到新的高度。但是,要实现这一目标,我们必须解决一个难题:如何有效地训练这些光学模型。过去,人们依赖于数字计算机来模拟和训练光学系统,但受限于光学系统所需的精确模型和大量的训练数据,这使得光学系统的能力受到了极大的限制。而且,随着系统复杂性的增加,这些模型的建立和维护变得越来越困难。
近期,清华大学戴琼海院士、方璐教授研究团队抓住了光子传播具有对称性这一特性,将神经网络训练中的前向与反向传播都等效为光的前向传播,开发出了一种全前向模式(FFM,fullyforwardmode)学习的方法。通过FFM学习,研究人员不仅能够训练出具有数百万参数的深层光学神经网络(ONNs),还能实现超敏感的感知和高效率的全光学处理,从而减轻了AI对光学系统建模的限制。
该研究以「Fullyforwardmodetrainingforopticalneuralnetworks」为题,成功登上顶级期刊Nature。
研究亮点:
*实现了在现场高效地并行进行机器学习操作,减轻了数值建模的限制
*推出了对于给定网络规模具有最先进性能的光学系统,FFM学习也表明,训练具有数百万参数的最深光学神经网络可达到与理想模型相当的精度
*FFM学习不仅促进了快几个数量级的学习过程,还可以推动深度学习神经网络、超灵敏感知和拓扑光子学等领域的发展
论文