开启全网商机
登录/注册
| SG202****046001国产推理卡 | 2.0/ | 80000.0 | 安擎 | JS-013 | 一、架构与显存规格 1. 显存配置:≥72GB 高速高带宽显存,满足大参数模型加载、海量数据集吞吐需求。 2. 显存带宽:显存带宽 ≥1.7TB/s,大幅提升模型读写、特征计算、推理吞吐效率。 二、AI 算力性能指标 1. 超高精度算力:FP32 算力 ≥120TFLOPS,TF32 算力 ≥234 TFLOPS,满足通用科学计算、模型训练收敛计算需求。 2. 智能推理算力:FP16 半精度算力 ≥1000 TFLOPS,INT8 低精度推理算力 ≥2000 TFLOPS,适配大模型量化推理、智能分析、内容生成等主流AI业务场景。 三、互联接口与功耗参数 1. 总线接口:支持 PCIe Gen5 x16 高速总线接口,提升整机数据吞吐与设备拓展能力。 2. 功耗规格:单卡标准功耗 ≤600W,工业级稳定功耗设计,支持服务器7×24小时不间断满载运行。 四、虚拟化与多媒体加速特性 1. 虚拟化:支持硬件虚拟化切割技术,单卡可最多切分4个独立MIG算力实例,实现算力**隔离、多业务租户独立部署,提升算力利用率。 2. 高速缓存:配备 128MB L2 超大二级缓存,有效降低重复计算延迟,提升模型迭代与推理响应速度。 3. 视频编解码:集成 4 路第九代 NVENC、4 路第六代 NVDEC、4 路 JPEG 硬件加速引擎;支持 H.264/HEVC/AV1 编解码,支持 4:2:2 专业色彩格式,面向视频流媒体、视频分析、媒资处理硬件加速。。 五、通用适配要求 1. 支持 CUDA、cuDNN 主流加速库,兼容 PyTorch、TensorFlow、PaddlePaddle、TensorRT-LLM 等主流AI框架。 2. 支持 ECC 显存纠错、DCGM 显卡状态监控,具备温度、功耗、显存、算力实时监测功能。 3. ****中心计算卡设计,无显示输出接口,纯算力加速架构,适配机架式AI服务器部署。 4. 支持整机集群扩容、分布式训练、大模型部署推理,满足中长期AI算力业务扩容需求。 六、售后服务要求 1.提供≥3年原厂服务(交货时提供原厂售后服务证明材料);遇到故障≤30分钟内响应,提供5*8在线技术支持,如远程无法解决的故障,需在2小时内现场处理(供应商提供承诺函,格式自拟,并加盖供应商鲜章)。 2.供应商负责设备的安装,包括硬件和软件系统的安装; | 按行业标准提供服务 |