在新闻服务 AMD公司 宣布公司发布了新版本的ROCm 6.3开源软件。该软件配备了额外的高级工具，可简化开发流程，并为 AI 和高性能计算 (HPC) 工作负载提供更好的性能和可扩展性。
关注我们的频道以获取最新消息 Google News 在线或通过应用程序。
在 AMD ROCm 6.3 的主要功能中，该公司强调了以下几点：
- 一款 SGLang 工具，专门设计用于优化 AMD Instinct GPU 上最先进的生成模型（例如大型语言模型和视觉语言模型）的推理。有了它，您在推断大型语言模型时可以实现高达六倍的吞吐量
- 变压器优化达到新水平。 FlashAttention-2 针对 ROCm 6.3 进行了优化，可将 Transformer 模型的训练和推理速度加快 3 倍。因此，可以显着缩短企业人工智能系统的上市时间
- AMD Fortra 编译器可简化传统 HPC 应用程序的 GPU 加速，并提供直接卸载、向后兼容性和轻松集成，无需进行重大代码更改
- 一种新的多节点 FFT（一种计算离散傅立叶变换的快速算法）。多节点 FFT 支持可在大型数据集上提供高性能 FFT 计算。这使得提高石油天然气工业和科学研究等领域的决策效率和速度成为可能。
新版本软件还扩展了计算机视觉库。先进的视觉库，包括 AV1 和 rocJPEG，使开发人员能够创建先进的 人工智能解决方案 适用于各种工作负载，例如视频分析或数据集增强。该工具将在从大众媒体和娱乐到自治系统的各个行业中发挥作用。
通过开源和持续开发来满足开发人员的需求，AMD 不断帮助企业更快地创新、更智能地扩展并在竞争性行业中保持领先地位。
如果您对有关航空航天技术的文章和新闻感兴趣，我们邀请您参加我们的新项目 AERONAUT。媒体.
另请阅读：