论坛风格切换
正版合作和侵权请联系 sd173@foxmail.com
 
  • 帖子
  • 日志
  • 用户
  • 版块
  • 群组
帖子
购买邀请后未收到邀请联系sdbeta@qq.com
  • 33阅读
  • 0回复

[业界新闻]英特尔将其 Python NPU 加速库开源 [复制链接]

上一主题 下一主题
 

发帖
4717
今日发帖
最后登录
2024-04-23
只看楼主 倒序阅读 使用道具 楼主  发表于: 2024-03-02 10:06:46
  英特尔已将其NPU加速库( *vBhd2HO  
/oe0  
  intel-npu-acceleration-library)开源,作为Windows和Linux系统的用户空间库,用于与其新款Meteor Lake笔记本电脑上的神经处理单元(NPU)接口。 5[zr(FuE  
S|u5RU8*"|  
  英特尔长期以来一直在开发iVPU Linux内核驱动程序,该驱动程序位于内核上游,用于从Meteor Lake开始支持英特尔NPU(以前称为VPU)。这个NPU加速库是一个方便的Python库,可以充分利用NPU的潜力。 zB y%$5~Fw  
:.H@tBi*E  
  英特尔神经处理单元库支持8位量化、Float16支持、torch.compile支持、静态形状推理和其他功能。 P/~dY  
Th,]nVsGs~  
  NPU加速库可从GitHub下载,也可通过PIP方便地安装: P >0S ZP  
}1CO>a<  
  https://github.com/intel/intel-npu-acceleration-library aAoAjVNkK  
.Z QXY%g  
  英特尔NPU加速库GitHub页面上的Python代码示例展示了在NPU上进行单矩阵乘法运算、为NPU编译模型,甚至在NPU上运行Tiny-Llama模型。随着人工智能时代的到来以及NPU在更多英特尔处理器上的应用,这个库将变得越来越重要。 4mBM5Tv