服务热线全国服务热线:

18953388586

产品展示

科大讯飞:联合华为完成国产算力大规模跨节点专家并行集群推理

时间: 2025-04-21 10:08:15

作者: 安博app下载地址

   详细介绍

  科大讯飞发布音讯称,科大讯飞联合华为近来首先完成国产算力大规模跨节点专家并行集群推理。据其介绍,经过分布式架构立异与算法协同优化,单卡静态内存占用缩减至双机布置的1/4,功率提高75%,专家核算密度添加4倍,推理吞吐提高3.2倍,端到端时延下降50%。这一解决方案也将应用于讯飞星火深度推理模型的练习加快,预期练习时推理功率将提高200%。(新浪财经)

  上海科技金融研究所履行副所长孟添:敞开银行与嵌入式金融为数字普惠金融带来更大开展空间

  CDIE2025数字化立异博览会满意闭幕:AI定锚风向标,共启数字增加新纪元

  OpenAI上线Flex处理形式:API费用折半,献身呼应速度及稳定性

  360集团殷宇辉谈晋级360织语:呼应All in AI战略,转智能协同工作渠道