启用信息Libera的超级节点AI服务器用于出色的信号?

8月8日，Insers信息启动了SuperNode AI服务器“ Yuanna SD200”，该服务器具有十亿美元参数。该产品基于Insers信息开发的多个主机的低潜伏期的语义通信体系结构，据报道，它支持GPU 64个本地芯片渠道的上升扩展。 Yuannai SD200可以提供大型型号，这些模型在一台机器中运行10亿个参数，并实时接收多个大型型号和同时协作，并在多台计算机上按要求打电话。它是市售的。如前所述，在实际评估中，Yuannai SD200的64张完整卡的机械推理性能执行了DeepSeek R1和Kimi K2的完整参数的模型实现了超细胞的扩展。具体而言，在体系结构层面上，Yuannao SD200首先基于开放总线交换技术创建一个多机Grid 3D网格系统架构，从而实现64个本地GPU芯片的高速互连。通过GPU的创新虚拟Mapeo技术，它打破了多个主机交换域的统一地址的问题，实现了视频内存的集成方向空间的八倍。一台机器最多可提供4 TB的视频存储器和64TB的内存，为十亿美元参数和超长序列模型提供宽的密钥缓存空间。同时，取决于100纳秒的超低潜伏期链接，建立了64张卡的语义通信，以高速域的统一本机记忆进行语义通信。实际测量结果表明，在推理过程中典型的小包装的通信方案中，所有还原收益率都非常好，可以提高计算和通信的效率。在系统级别，根据大规模计算和Pyel -dollar参数的通信需求的特征，Insers Insper信息开发了一种智能NT总线管理系统，它允许自动创建超级节点64张卡的最佳总体路由，从而支持不同拓扑之间的变化，并支持资源分割。对于一般通信运营商，例如完整的法规，所有汇编的良好通信策略设计进一步减少了使用不同的数据大小（例如多级通信机制）的通信延迟。同时，它基于开放的PD隔热框架，以承认异步KV缓存和差异化的并行策略的有效传输，改善商业服务水平的目标，保持与计算机功能的兼容性，并提供计算机和通信体系结构的详细关节优化。据了解，Yuannai SD200 SuperNode AI服务器通过柔软和硬协作系统的创新来扩展，打破了芯片的性能限制并展示了A H在大型型号方案中的性能更高。结合优化的PD分离框架，完整节点操作的完整DeepSeek R1参数模型的推理性能的增强性改进比为3.7倍，并且完整参数模型Kimi K2推理性能的超线性改善比率为1.7倍。 （dingxi）