推广 热搜: 京东  联通  iphone11  摄像头  企业存储  iPhone  XSKY  京东智能采购  网络安全  自动驾驶 

AMD GPU迎来性能革命!微软推出Microsoft Olive工具

   日期:2023-08-24     作者:itcg    浏览:1326    我要评论    

IT采购网8月22日消息,微软公司最近发布了引人瞩目的新工具——Microsoft Olive。该工具被设计用来加速搭载AMDGPU的显卡在处理模型时的性能,据称可以将性能提升高达9.9倍。

Microsoft Olive采用Python语言开发,旨在优化AMD GPU在执行大型语言模型时的效率。

据报道,当Radeon RX 7900 XTX GPU启用Microsoft Olive工具后,以StableDiffusion模型为例,其在基于文本生成图像的任务上取得了显著的性能提升。

微软表示,MicrosoftOlive不仅可以对模型进行转换、优化、量化,还能够自动进行调优,以实现最大化的性能输出。根据AMD的官方测试结果,使用默认的PyTorch路径进行运算时,AMDRadeon RX 7900 XTX每秒可以执行1.87次迭代。然而,在应用MicrosoftOlive工具对模型进行优化后,该GPU的每秒迭代次数提升至18.59次。

据IT采购网了解,这一重大发布表明Microsoft Olive工具在提升AMDGPU运行大型语言模型性能方面具有巨大潜力,预计将在机器学习和人工智能领域产生深远影响。不仅如此,该工具的推出也为科研人员和开发者提供了一个有力的工具,以便更高效地利用GPU在复杂任务上取得突破。这一创新有望推动人工智能应用的发展,为未来的技术进步开辟新的道路。

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
0相关评论

头条阅读
推荐图文
相关资讯
网站首页  |  物流配送  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  京ICP备14047533号-2
Processed in 0.051 second(s), 11 queries, Memory 1.48 M