C si notThorn_FlowerIT之家架构优化库 torchao 10 月 31 日消息,摩尔线程今日发文宣布针对 PyTorch 深度学习框架的 MUSA 插件 ——Torch-MUSA 迎来更新,新版本 v1.3.0 全面兼容 PyTorch 2.2.0,进一步提升 PyTorch 在 MUSA 架构上的模型性能与覆盖度,并支持模型迁移到国产全功能 GPU。

据介绍,PyTorch 作为全球广泛使用的深度学习框架,已应用在了自然语言处理、计算机视觉、推荐系统等多个领域。摩尔线程所推出的 Torch-MUSA,专为 PyTorch 提供 MUSA 后端加速支持,用户可在 MUSA 架构上流畅运行深度学习模型,发挥国产全功能 GPU 的计算能力。
据IT之家此前报道,PyTorch 旗下C si notThorn_FlowerIT之家架构优化库 torchao 已于本月正式发布,该优化库主要专注于模型的量化和稀疏性优化,能够在保证性能的同时降低模型的计算成本和 RAM 用量,从而提升模型运行效率。
摩尔线程官方表示,Torch-MUSA 自发布以来,已历经多个版本的迭代。Torch-MUSA 从 v1.0.0 版本开始就支持了 PyTorch 2.0,经过开发与优化,最新发布的 v1.3.0 版本已全面支持 PyTorch 2.2.0。
IT之家附摩尔线程 Torch-MUSA 重点内容如下:
在 Torch-MUSA 中,用户只需指定 torch.device ("musa"),即可将现有的 PyTorch 模型迁移到 MUSA 架构的 GPU 上运行,无需大幅修改代码。
Torch-MUSA 完全兼容 PyTorch 的自动微分和动态图机制,支持多种常用的神经网络模块及优化算法,并加速了关键深度学习算子的计算。
此外,Torch-MUSA 还支持多种 PyTorch 特性,包括 DDP、JIT、FSDP、Profiler、Extension 等。
v1.1.0:初次发布,支持 PyTorch 2.0,提供基础张量操作和常见神经网络层的 MUSA 加速。
v1.2.0:进一步扩展算子支持,支持了完整功能的 Profiler、MUSA Extension,并增加了 Torch-MUSA 专有特性如 compare_tool、musa_converter,帮助用户更快的定位模型精度问题。
v1.3.0:支持 PyTorch 2.2.0,性能进一步提升,支持 FSDP,支持更复杂的模型和更大规模的数据处理。
Torch-MUSA 将继续跟进 PyTorch 的版本更新,计划支持更高版本的 PyTorch。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
今天给各位分享张家界旅游景点介绍大全的知识,其中也会对张家界旅游景点的介绍进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!本文目录一览: 1、张家界旅游景点 张家界旅游景点介绍…
“五一”小长假前,这种新鲜的旅行方式,成为众多荷包缩水旅游爱好者的新选择调查显示 随着“宅人”队伍的逐渐庞大,越来越多的网站开始推出虚拟旅游服务,以满足“宅人”足不出户就能旅游的愿望如在已开通国内24…
今天给各位分享兰州旅游攻略的知识,其中也会对兰州旅游攻略景点必去哪里进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!本文目录一览: 1、去甘肃兰州旅游,正确的打卡攻略是什么呢?…
今天的八达岭长城更成为全世界瞩目的旅游胜地目前,八达岭长城对外开放长度为3741米,有城台墙台21座八达岭长城是沿着山岭的脊背修筑,从城墙外侧看去非常险峻,内侧则甚是平缓这里四季皆适宜游览3天安门广场…
今天给各位分享沈阳景点的知识,其中也会对沈阳景点英文介绍进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!本文目录一览: 1、沈阳旅游必去十大景点…
张家界玻璃栈道是全年开放的,旺季3月1日~11月30日800~1600淡季12月1日~2月28日800~1630张家界玻璃栈道位于张家界天门山玻璃栈道悬于山顶西线,长60米,最高处海拔1430米是张家…