咨詢電話
025-52668870
01產(chǎn)品概述
02產(chǎn)品優(yōu)勢
03產(chǎn)品參數(shù)
04應(yīng)用場景
01 產(chǎn)品概述
該產(chǎn)品是集成大模型訓(xùn)練、推理功能的專用硬件設(shè)備，通過軟硬件協(xié)同設(shè)計(jì)為人工智能計(jì)算任務(wù)提供高效解決方案。其融合高性能異構(gòu)計(jì)算單元（GPU、NPU）、大容量存儲(chǔ)系統(tǒng)與深度優(yōu)化的軟件棧，完整支持從數(shù)據(jù)預(yù)處理、模型訓(xùn)練到部署推理的全流程管理。使研究人員與工程師可在統(tǒng)一平臺(tái)上完成模型全生命周期管理，顯著提升研發(fā)效率并降低綜合運(yùn)維成本。
02 產(chǎn)品優(yōu)勢
01高效能計(jì)算
采用先進(jìn)的GPU或TPU技術(shù)，提供卓越的浮點(diǎn)運(yùn)算性能，加速基于大規(guī)模數(shù)據(jù)集的復(fù)雜模型訓(xùn)練過程。
02靈活可擴(kuò)展
支持根據(jù)實(shí)際需求調(diào)整配置，包括增加更多的GPU/TPU卡、擴(kuò)展內(nèi)存或存儲(chǔ)空間等。
03易用性
通過圖形界面或命令行接口簡化操作流程，降低使用門檻，即使是非專業(yè)人士也能輕松管理和運(yùn)行AI項(xiàng)目。
04安全性與可靠性
具備企業(yè)級的安全防護(hù)措施，確保數(shù)據(jù)安全；同時(shí)提供高可用性和容錯(cuò)機(jī)制，保障業(yè)務(wù)連續(xù)性。
03 產(chǎn)品參數(shù)
1、中心側(cè)-大模型訓(xùn)練一體機(jī)：
應(yīng)用場景：模型訓(xùn)練、智能問答、智能撰寫、數(shù)字人等
產(chǎn)品功能：具有更高算力密度、 極致能效比、高速網(wǎng)絡(luò)帶寬等特點(diǎn)，廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)、訓(xùn)練
•形態(tài)：4U機(jī)架服務(wù)器 （175mm × 447mm × 790mm）
•CPU：4 × 鯤鵬920，每CPU為48核，單核2.6GHz
•內(nèi)存：最多32個(gè)DDR4內(nèi)存插槽，最大4TB內(nèi)存；8個(gè)昇騰910芯片，每個(gè)配置64GB HBM
•網(wǎng)絡(luò)接口：4*GE+425GE/2*100GE+8*200GE（NPU直出，兼容100GE）
•AI算力：3.0/2.5 P FLOPS FP16；0.79/0.65 P FLOPS FP32；6.0/5.0 P TOPS INT8
•卡間互聯(lián)：392GB/S HCCS 2.0互聯(lián)技術(shù)
•散熱：風(fēng)冷散熱
•功耗：最大5.2 kW，支持功耗封頂
2、中心側(cè)-大模型推理一體機(jī)：
應(yīng)用場景：模型推理、小模型訓(xùn)練
產(chǎn)品功能：具有更高算力密度、極致能效比、高速網(wǎng)絡(luò)帶寬等特點(diǎn)，廣泛應(yīng)用于深度學(xué)習(xí)模型推理
•形態(tài)：4U機(jī)架服務(wù)器 （175mm × 447mm × 790mm）
•CPU：4 × 鯤鵬920，每CPU為48核，單核2.6GHz
•內(nèi)存：最多32個(gè)DDR4內(nèi)存插槽，最大4TB內(nèi)存；8個(gè)昇騰910芯片，每個(gè)配置32GB HBM
•網(wǎng)絡(luò)接口：4*GE+4*25GE/2*100GE+8*200GE （NPU直出，兼容100GE）
•AI算力：2.24 P FLOPS FP16；0.60 P FLOPS FP32； 4.48 P TOPS INT8。
•卡間互聯(lián)：392GB/S HCCS 2.0互聯(lián)技術(shù)
•散熱：風(fēng)冷散熱
•功耗：最大5.2 kW，支持功耗封頂
3、邊側(cè)-大模型推理一體機(jī)：
應(yīng)用場景：大模型以文生圖、文本生成
產(chǎn)品功能：產(chǎn)品具備AI推理、視頻分析等功能
•形態(tài)：單槽位全高全長PCIe卡
•尺寸：266.7mm（長） × 18.46mm（寬）× 111.15mm（高）
•處理器核：內(nèi)置16個(gè)Arm Core（最大主頻1.9GHz）
•內(nèi)存：容量：96GB，總帶寬：408 GB/s；支持ECC
•AI算力：整數(shù)精度（INT8）：280 TOPS ，半精度（FP16）：140 TFLOPS
•編解碼能力：內(nèi)置DVPP預(yù)處理單元 視頻256路 1080P 30FPS（硬件解碼能力）
•功耗：150 W
04 應(yīng)用場景
科研機(jī)構(gòu)
用于高頻率、深入的人工智能研究，可協(xié)助探索新的算法和技術(shù)。
企業(yè)用戶
幫助企業(yè)內(nèi)部團(tuán)隊(duì)加速產(chǎn)品和服務(wù)中AI功能的開發(fā)與迭代。
教育培訓(xùn)機(jī)構(gòu)
作為教學(xué)平臺(tái)，幫助學(xué)生理解并實(shí)踐AI理論知識(shí)。