12月13日消息，实时间早在四年前，现处效AMD就曾设定目标，理器到2025年EPYC系列服务器处理器和Instinct系列AI芯片的提升提早能效，较2020年提高30倍。倍比如今，原定MI300X AI芯片基本上实现目标，实时间时间提了早一年。现处效

据THW报道，理器AMD两个64核心EPYC 9575F CPU、提升提早八个Instinct MI300X AI芯片及2304GB DDR5内存的倍比服务器，Llama3.1-70B（vLLM 0.6.1.post2、原定TP8）测试推理性能，实时间用一组复杂计算确定系统能源效率，现处效并与2020年的理器旧机器比较，

结果显示，新机能源效率是旧机的28.3倍。

不过，AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列，Zen 2架构，每个CPU最多64个核心，以及CDNA 1架构Instinct MI100 AI芯片。

AMD表示，除了强力硬件改进，更高性能效率是架构进步，加上软件优化结合，是跳跃式进展。

今年10月份的Advancing AI 2024大会上，AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步，主要是增强了HBM内存部分。

MI325X配备了多达256GB HBM3E内存，相比于MI300X又增加了64GB。

MI325X也支持八块并行组成一个平台，这就有多达2TB HBM3E、48TB/s带宽，总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

对比NVIDIA H200，无论单卡还是八卡平台，不同大模型推理的性能都可以领先20-40％。

训练性能方面，单卡可领先H200 10％，八卡平台则是持平。

MI325X加速卡和平台将在四季度内投产，而合作伙伴的整机系统、基础架构解决方案，将从明年第一季度起连续推出。

• ·兄弟们帮忙看下雅小姐练度
• ·首支提前晋级！利物浦6战全胜提前欧冠出线
• ·西蒙尼：本周欧冠赛前对手已休息了5天，而马竞只有60多个小时
• ·法媒：恩里克拒绝签下约克雷斯的提议他的独断已在内部引发不满
• ·会否出战洛杉矶奥运会？倪夏莲：若有机会，何乐不为
• ·孔帕尼：从我们处理比赛的方式来看，我们明显是更好的球队
• ·总裁新玩具🚘利雅得胜利与宝马合作，C罗等人获赠豪华SUV宝马XM
• ·奥尔莫：这个赛季我们可以期待最好的结果喜欢和父亲谈论足球
• ·[流言板]手感下滑！杜兰特连续跳投不中，太阳半场58
• ·[流言板]严重拖堂！雄鹿对魔术最后40秒足足打了17分钟
• ·狮门影业老板：《无主之地》真人电影“踩了所有的雷”
• ·2024华为全屋智能设计大赛：年度100杰作荣耀揭榜 共鉴智能设计的匠心独运
• ·[流言板]跌宕起伏！马克西连续三回合失误，凯尔特人一波11
• ·关于马拉松那些事：跑马能“冻龄”？心率高能跑吗？
• ·华为Mate 70实现所有芯片100%国产能力 麒麟9020和世界最高水平差距还有多大
• ·首支提前晋级！利物浦6战全胜提前欧冠出线