[业界新闻]英特尔将其 Python NPU 加速库开源 [复制链接]

　　英特尔已将其NPU加速库（ {Y9q[D'g.  
#Mw8^FST  
　　intel-npu-acceleration-library）开源，作为Windows和Linux系统的用户空间库，用于与其新款Meteor Lake笔记本电脑上的神经处理单元（NPU）接口。 @F*%9LPv  

图片:QQ截图20240302101010.png

]z9=}=If  
　　英特尔长期以来一直在开发iVPU Linux内核驱动程序，该驱动程序位于内核上游，用于从Meteor Lake开始支持英特尔NPU（以前称为VPU）。这个NPU加速库是一个方便的Python库，可以充分利用NPU的潜力。 um0N)&iY  
0lR5<^B  
　　英特尔神经处理单元库支持8位量化、Float16支持、torch.compile支持、静态形状推理和其他功能。 TRq6NB  
')3 bl3:  
　　NPU加速库可从GitHub下载，也可通过PIP方便地安装： JaGtsi9%.  
^J;bso`  
　　https://github.com/intel/intel-npu-acceleration-library ?5 7Sk+  
`W*U4?M  
　　英特尔NPU加速库GitHub页面上的Python代码示例展示了在NPU上进行单矩阵乘法运算、为NPU编译模型，甚至在NPU上运行Tiny-Llama模型。随着人工智能时代的到来以及NPU在更多英特尔处理器上的应用，这个库将变得越来越重要。 ixD)VcD-f