【芯视野】异构计算需要“吃软不吃硬”

原标题:【芯视野】异构计算需要“吃软不吃硬”

(集微网报道 艾檬)如今的异构计算正在大行其道,而这其中的两大阵营 “CPU+GPU”以及“CPU+FPGA” ,除比拼硬件算力、生态之外,在统一软件平台开发层面也在暗潮涌动,不论是英伟达的CDUA,还是英特尔的OneAPI,背后的逻辑其实就是以软件来最大程度释放硬件性能,拥抱更多的开发者守住自己的“护城河”。而最近FPGA雄主赛灵思也集结发力,推出全新的Vitis来加入终极的较量。

软件的“革新”

在软件平台的“发力”已是大势所趋。先是英伟达的CUDA在不断增强“内功”,而英特尔的“oneAPI”统一软件架构的问世,也立足于从软件层面来简化和统一标量、矢量、矩阵和空间的不同硬件架构,提供包括易用性、开放性以及统一的开发体验。

而这背后的逻辑其实清晰。

赛灵思(Xilinx)大中华区销售副总裁唐晓蕾开宗明义指出:“随着异构计算、云端一体化、AI激增等成为行业新趋势,尤其是异构计算走向以FPGA为主的可编程或自适应异构,从以往的架构感知软件进阶到软件感知架构,软件平台需要全面的革新。”

“软件的重要性是其他技术领域的十倍,如果没有软件的支持,无法实现计算性能的指数级增长。”英特尔高级副总裁、首席架构师,兼架构、图形与软件部门总经理Raja M. Koduri更是直言,“英特尔最近已提出要‘软件为先’,这也是英特尔未来面临的非常巨大的机会。”

而之所以强调可编程和自适应,以赛灵思软件和人工智能高级经理罗霖的看法就是,CPU/GPU硬件不可编程,软件可编辑,ASSP可部分编辑,但不自适应,而ASIC只能自适应一次,要达到“可编程和自适应”,只有FPGA可“担当”。

为了解锁FPGA的开发难度,赛灵思从2012年推出颠覆之作Vivado设计套件之后,就不断在软件层面“巩固加防”,不论是SDNet软件定义规范环境,还是面向云端应用的可重配置加速堆栈和面向视觉导向机器学习应用领域的reVISION堆栈,“软”实力在一步步得到释放和增强。而新近祭出的Vitis统一软件平台更成为集大成者,包括目标平台、核心开发套件、加速库和特定领域开发环境,开发人员无需深入掌握硬件,即可根据软件或算法代码自动适配和使用赛灵思硬件架构。

诸巨头在软件平台的“纷争”预示着未来的竞争更趋“软件化”。对于较量的高下,罗霖认为,软件定义硬件的趋势已不可阻挡,不过应用场景是高度碎片化的,不存在统一的标准和要求去定义所谓的场景。而客户所需的是一个效率高、灵活扩展性强的平台,可根据实际应用和工作负载来自动优化软件和硬件。

用软件定义硬件

据悉,Vitis历经5年、投入总计1000个人工/年而打造,软件也成为又一“吞金兽”。

从其基本架构来看,基础层是 Vitis 目标平台,该平台由电路板和预编程 I/O构成。第二层称为 Vitis 核心开发套件,包括开源赛灵思运行时库,以及编译器、分析器和调试器等核心开发工具。在第三层,8个Vitis 库提供 400 余种优化的开源应用。借助这些库,软件开发者可以使用标准的应用编程接口API来实现硬件加速。第四层最具有变革意义的是 Vitis AI以及后续将相继推出的Vitis视频等。Vitis AI集成了特定领域架构DSA,提供了针对AI模型的硬件实现,开发者可使用包括TensorFlow和Caffe等框架进行配置与编程。

这一架构带来的利好在于:Vitis统一软件平台支持赛灵思异构平台上开发嵌入式软件和加速应用,为边缘、云和混合计算应用加速提供统一编程模型。同时,Vitis也不限制使用专有开发环境,而是可插入到通用的软件开发工具中,并利用丰富优化的开源库,使开发者能够专注于算法的开发。罗霖还指出,Vitis独立于 Vivado设计套件,后者可继续为使用硬件代码进行编程的用户提供支持。

如何快速通过Vitis达到用户所需的目标性能?罗霖以智慧城市举例表示,对软件开发人员来说,他们可以把整个模型算法完全依靠Python和C++在CPU上完成,这时候用Vitis可以达到每秒6帧的性能。但如果只是把AI算法放在DPU中做加速,性能可以从每秒6帧提升到每秒30帧。如果性能还达不到需求,可利用Vitis库提供预处理优化,或是采用某些高级技巧,把性能从每秒30帧逐步提升至每秒80帧。在这一过程中,通过开放、通用的软件来屏蔽硬件复杂性,使软件人员在他们熟悉的开发环境中专注于创新,而无需关注底层硬件平台的细节——成为消除当前软硬件壁垒的主要手段。

罗霖还进一步介绍了Vitis AI的优势。Vitis AI主要包括AI优化器、AI量化器、AI编译器、AI配置器和AI库。除支持当下的主流框架和最新模型高效执行各类型深度学习任务外,Vitis AI为开发者提供的工具链能够快速完成优化、量化和编译操作。

对于oneAPI,英特尔架构、图形与软件部副总裁兼计算性能与开发者产品部门总经理Bill Savage期望它可提供一种开放、标准的解决方案,简化并且统一跨不同架构、跨不同厂商之间的编程。

唐晓蕾强调,无论是One AP还是Vitis所提出的软硬件协同优化,证明“用软件去定义硬件”理念已是业界的共识。寓意“至关重要的生命力”的Vitis,将重塑未来异构计算的生命力。

国内厂商任重道远

有句话称:“预测未来的最好方法就是创造它。”现在Vitis真的来了,而对于国内万里长征的FPGA厂商来说,挑战愈加艰巨。

京微齐力创始人兼CEO王海力表示,Vitis的问世表明赛灵思越来越强调软件在未来FPGA中扮演的重要角色。Vitas软件平台可以让不同领域的科学家、工程师、学生、爱好者等方便地统一地使用FPGA开发环境,尽可能地屏蔽芯片底层信息,降低使用难度,让开发者可以集中精力完成自己的工作

Vitis可谓一个“软件定义芯片”生态建立过程中的重要步骤。“而国内FPGA厂商由于起步较晚,产品线较少,特别是中高端/超高端FPGA芯片布局缺乏,其生态不够完善,在软件层面主要以开发底层的EDA工具为主,能适配外围生态的各类编译工具还未启动,因此想要开发出类似Vitis这样强大的生态编程工具,还是很有难度的。”王海力忧心地说。

但饶是如此,也应有“不怕远征难”的气魄与勇气。王海力对国内FPGA厂商如何加快补全软件生态建议说:“一是需要在全球范围内找到更多的FPGA EDA软件开发的人才;二是推动国内客户多使用国产FPGA芯片,在芯片使用的过程中,软件工具自然就会不断提升;三是加大高校对EDA和FPGA人才的培养工作;四是组织协调国内FPGA同行与科研院所,对软件中共性关键问题进行联合攻关。”(校对/范蓉)返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
免费获取
今日搜狐热点
今日推荐