您现在的位置是：首页 快讯快讯

蚂蚁集团已建设超过万卡异构算力集群

网络 2023-11-21 10:38:56 快讯已有人查阅

导读【蚂蚁集团已建设超过万卡异构算力集群】蚂蚁集团首席技术官何征宇表示，目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的，蚂蚁建设了超过万卡的异构集群，其中硬件算力效率(HFU)超过60%，集群有效训练时长占比90%以上，RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍，推理性能相较于业界方案提升约2倍。”

【蚂蚁集团已建设超过万卡异构算力集群】蚂蚁集团首席技术官何征宇表示，目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的，蚂蚁建设了超过万卡的异构集群，其中硬件算力效率(HFU)超过60%，集群有效训练时长占比90%以上，RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍，推理性能相较于业界方案提升约2倍。”

如果本文章对你有所帮助，或者暂时未解答完全你的问题，欢迎查看其他内容或收藏本站。