百度飞桨开源框架v2.3版带来哪些新功能?
5月27日消息,已凝聚477万开发者的深度学习开源开放平台——百度飞桨迎来新的一波大更新。
近日,WAVE SUMMIT 2022深度学习开发者峰会上,百度 AI 技术生态总经理马艳军公布了飞桨最新的技 术、产品、生态进展,包括“5个产品方面”和“3个共创领域”的全新升级。
马艳军强调,飞桨的使命是“让强大的AI人人可用”。“强大”指的不是做浅的AI,而是深度的技术,同时又把使用门槛降得很低,让人人可用。飞桨的持续升级更新就是通过把技术做得更强、更自动化、更标准化,进而实现进一步降门槛,最终做到“强大AI人人可用”。
这里一起来看看,此次飞桨都有哪些新升级。
一、飞桨开源框架v2.3版发布 带来四大核心升级
马艳军介绍,从2019年“飞桨”中文名首次亮相,飞桨框架按照一年2个大版本的节奏做持续更新。此次正式发布飞桨开源框架v2.3版,进一步提供深度定制开发能力,并通过自动化等方式全面提升框架使用体验。
飞桨框架v2.3版在开发、训练、推理部署和云四个方面实现升级。
其一,灵活的深度定制开发:自2019年推出动静统一编程路径以来,此次新版本奉新针对高阶开发者深度定制开发需求,推出高复用性算子库,极大降低开发成本。典型算子内核(如einsum)代码量降低至业内领先水平;通用异构参数服务器架构升级,适配新硬件代码量从万行减少至千行,仅需添加图采样策略即可实现GPU三级存储图检索引擎。
其二,自动调优的高性能训练:针对开发者性能调优的困难,推出业内首个全流程性能自动调优方案。充分发挥软硬一体融合优势,关键环节感知硬件特性自动调优,开发者无需了解硬件特性,即可获得与专家级手工优化水平相当的性能。
其三,自动化压缩与高性能推理部:针对模型压缩对训练、推理、硬件特性等多方面依赖的复杂性,推出业内首个自动化压缩功能,通过蒸馏微调解除对模型训练代码的依赖,感知硬件延时,自动选择最优压缩方案,压缩精度与手工方法相当,代码量减少50%以上;高性能推理引擎实现端到端深度优化,端、边、云多平台推理性能全面提升。
其四,云上飞桨:针对多算力中心数据、算力共享面临的安全、效率挑战,推出业内首个异构多云自适应分布式训练架构,支持多个算力中心联合训练,实现算力共享与知识共享。通过多云聚合,充分发挥智算网络整体效能,赋能AI产业规模化生产及应用;飞桨专属云上部署编排工具,仅需两行配置,即可定制云上开发部署环境,基于多套件多模型配置模板,可快速完成多模型自由组合,实现AI应用高效落地。
二、“训推一体导航图”发布
真正把框架用好,还是需要结合场景,做跟场景的对接,做真正懂场景的功能。
此次飞桨“推理部署导航图”升级为“训推一体导航图”。 为AI 产业应用落地提供从开发、训练到推理部署的全流程智能导航。
本文系作者授权本站发表,未经许可,不得转载。