苏妈战老黄!AMD发大模型专用卡对标英伟达H100可跑更大模型
MI300X地点的MI300系列,是AMD为AI和高功能核算(HPC)打造的一系列最新APU加速卡。
其间,MI300A是“根底款”,MI300X则是硬件功能更高的“大模型优化款”。
苏妈还现场演绎MI300X的核算速度,使用抱抱脸的400亿参数大模型快速写了首小诗:
就在这次AMD发布会期间,商场股价一路跌落,开完后乃至跌了3.61%……比较之下,英伟达股价还上涨了一波。
虽然股价动摇,这可能是第一次有这么大的模型(400亿参数)在单卡GPU上运转。
据苏妈介绍,MI300A应该是首个针对AI和高功能核算(HPC)推出的APU。
苏妈还现场展现了MI300X运转包含GPT-3、PaLM2等大模型的优势:
除此之外,AMD这次发布会还发布了第四代霄龙(EPYC)处理器,包含亚马逊、微柔和Meta都现已在着手预备用上新品了。
除了最新推出的霄龙处理器、MI300A和MI300X以外,AMD还在发布会上宣告了一个AMD Instinct核算渠道。
现在来看,MI300A现已出样,估量不久就能买上;大模型专用卡MI300X、以及集成8个MI300X的AMD Instinct核算渠道,估计本年第三季度出样,第四季度就能推出。
但这几年来,比较英伟达一直在AI上面有大动作,AMD的举动却如同有点缓慢。
就在这次发布会前几天,DeepBrain AI的CEO Eric Jang发推表明,感觉AMD这几年让他很绝望,5年来没什么改变:
苏妈和她的一切高管,至少该开端尝试用AMD卡跑一些大模型,看看能不能到达SOTA。
老黄(Jensen)很硬核,他不只会亲身回应客户并在12小时内解决问题,手臂上还纹着英伟达的LOGO。