新一代人工智能技术的发展,离不的两大基础是:芯片、深度学习框架,随着中国科研创新能力的提升,这两方面技术取得了大量的突破。 当然,这也是一种技术封锁的倒逼,去年出现的华为芯片供应链被全面封锁,和工科神器MATLAB被禁事件,这两件事情加起来,迫使我国要从基础架构平台到应用系统等,全方位建设自主知识的优秀产品。 01 发 展 作为人工智能的核心技术,深度学习来说,无论是学术领域、还是工业领域,均发挥着十分重要的作用。 过去十年,深度学习领域涌现了大量算法和应用。在这些深度学习算法和应用涌现的背后,是各种各样的深度学习工具和框架。TensorFlow 和 PyTorch 等深度学习框架是机器学习革命的脚手架,它们的广发使用,使得许多从业者能够使用适合领域特定编程语言,和丰富构建模块,以便于更容易地组装模型。
回顾深度学习框架的演变,深度学习框架和深度学习算法之间的紧密耦合关,让我们知道了这种,互依赖良性循环,推动了深度学习框架和工具的快速发展。 02 趋 势 我们正在处于一场人工智能革命的黎明,人工智能领域的新研究和应用框架,正在以前所未有的速度涌现。 八、九年前的AlexNet 网络,只包含了大概6000 万个参数,而 GPT-3 网络竟然包含了 1750 亿参数,网络规模在短短不到十年的时间,迅猛增加了 3000 倍。但我们要知道,人类的大脑包含了100万亿个突触,也就相当于100万亿参数。所以,神经网络要达到人类的智能水平还有很大的差距。
这种难以接受的网络规模,对现有的模型训练和推理的硬件、软件计算效率都提出了很大的挑战。未来的深度学习框架很可能是算法、高性能计算、硬件加速器和分布式系统的跨学科成果。 03 挑 战 然而,对于深度学习相关的初学者,还是对于已经从事相关工作的算法工程师来说,深度学习理论太难学,开发过程太复杂,又将许多人拒之于深度学习的门外。
而大厂等一线企业在这方面的需求也是迫在眉睫,阿里云也正式开深,是业界首个面向NLP场景的深度迁移学习框架。人才渴求之大,人才缺口异常严峻。
|