支持 FP8 和 PyTorch 250摩尔线程发布 Torch-MUSA v200?java人脸识别开源库

admin / 19 / 2025-06-15 黑爆料 java人脸识别开源库

  ,并通过多项针对 MUSA 计算平台的性能优化,进一步提升了对 AI 模型和大规模数据处理的支持能力。

  作为本次升级的核心亮点,Torch-MUSA v2.0.0 率先在国产 GPU 上实现了对 FP8 数据类型的完整支持。

  FP8 是当前 AI 计算的一种前沿低精度格式,在支持原生 FP8 的 GPU 上,大语言模型(LLM)训练采用 FP8 混合精度可大幅提高 GPU 算力,显著降低显存占用。

  Torch-MUSA v2.0.0 在 MUSA 计算平台引入多项创新功能,进一步提升深度学习任务的执行效率:

  新增虚拟内存管理支持: MUSA 虚拟内存管理技术能够有效缓解 GPU 内存碎片化问题,降低模型训练过程中的峰值内存占用,特别适用于 FSDP、DeepSpeed 和 Megatron-LM 等主流大模型训练框架。 新增 MUSA Graph 支持: MUSA Graph 技术将多个 MUSA 内核整合到一个图中,通过单次 CPU 调度大幅减少启动开销,提升计算效率,同时与 CUDA Graph 接口高效兼容。ile 增加 Triton 后端支持: 为pile 提供了 Triton-MUSA 后端支持,开发者可以直接使用 PyTorch 原生接口,获得更高效的性能表现。

  Torch-MUSA 已完全开源,开发者可通过访问 GitHub 获取源代码。IT之家附开源地址:

版权声明‌:

本站严格遵守《信息网络传播权保护条例》,仅分享已标注来源的公开事实信息,不复制原创内容。若权利人认为内容侵权,请于30日内联系,我们将立即核实并删除。网站邮箱;yuzhibolangzi@gmail.com 通知邮箱谢谢!

  • 两部门联合公布《人脸识别技术应用安全管理办法—java人脸识别开源库

    admin / 22 / 2025-06-15 黑爆料 java人脸识别开源库

      据“网信中国”微信公众号消息,近日,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》(以下简称《办法》),自2025年6月1日起施行。  国家互联网信息办公室有关负责人表示,人脸识别技...

  • curl 8130:重磅发布错误修复数量创历史新高!java人脸识别开源库

    admin / 20 / 2025-06-15 黑爆料 java人脸识别开源库

      在技术更新的浪潮中,curl8.13.0如一颗闪耀的星星,强势打破了旧有记录,带给开发者们全新的体验。这一版本与上一个版本相比,其包含的错误修复数量首次突破300个,足以让每一位使用curl的开发者为之欢呼。...

  • 国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法java人脸识别开源库

    admin / 16 / 2025-06-15 黑爆料 java人脸识别开源库

      近日,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》(以下简称《办法》),  国家互联网信息办公室有关负责人表示,人脸识别技术应用与人脸信息安全紧密相关,受到社会各方高度关注。为了规...

  • Neon开源数据库引领AI应用深度革新Databricks布局技术领先突破java人脸识别开源库

    admin / 19 / 2025-06-14 黑爆料 java人脸识别开源库

      在当前人工智能快速发展的背景下,数据库技术的创新正成为行业关注的焦点。作为一个深度融合AI与数据库管理的前沿企业,Neon凭借其基于PostgreSQL的开源无服务器架构,展现出在技术革新和AI应用场景中的巨大潜力。近日,外...

  • ChatGPT再进化:deep research接入GitHub代码库2025年6月14日

    admin / 19 / 2025-06-14 黑爆料 java人脸识别开源库

      智东西5月9日消息,OpenAI正在强化其人工智能驱动的“深度研究(deepresearch)”功能,新增对GitHub代码库的分析能力。  7月11日,该公司宣布推出首个ChatGPTdeepre...

  • DeepSeek公布推理引擎开源路径承诺将核心优化注入vLLM生态-java人脸识别开源库

    admin / 16 / 2025-06-13 黑爆料 java人脸识别开源库

      “源神”DeepSeek又有新的开源动作了。4月14日,DeepSeek悄悄在其GitHub的open-infra-index库中公布了其自研推理引擎的开源计划。在公告中,DeepSeek表示,他们并不会...