6月30日消息，中昊芯英正式推出新一代全自研高性能TPU AI專用算力芯片“須臾”，并同步發(fā)布搭載該芯片構(gòu)建的軟硬件一體化智算底座——泰則2.0 AI高性能智算平臺。
此次升級是繼初代“剎那”芯片及初代泰則服務(wù)器后的全面迭代，在底層架構(gòu)、算力峰值、片上存儲、集群互聯(lián)和計算能效等方面均實現(xiàn)跨越式提升。
作為國內(nèi)最早專注TPU架構(gòu)AI芯片研發(fā)的企業(yè)之一，中昊芯英于2023年成功流片并量產(chǎn)了國內(nèi)首枚高性能TPU芯片“剎那”，積累了三年規(guī)模化落地經(jīng)驗。
基于此，新一代“須臾”芯片針對超大模型、長上下文和海量詞元交互場景中的訪存延遲、能耗偏高及并行效率不足等痛點，進行了架構(gòu)革新。
關(guān)鍵性能指標如下：
單芯片混合精度浮點算力達896 TFLOPS，為上一代“剎那”的3倍；8-bit推理算力達1792 TOPS，適配高并發(fā)推理需求。
顯存容量與片間互聯(lián)速率大幅提升，支持超長上下文，有效降低多輪對話中的數(shù)據(jù)搬運開銷。
單芯片額定功耗僅600W，相較同等算力水平的傳統(tǒng)芯片功耗降低50%，更利于綠色低碳智算中心建設(shè)。
通過多維張量計算單元與數(shù)據(jù)復(fù)用優(yōu)化，有效緩解存儲墻瓶頸，同等AI任務(wù)下綜合計算效能可達傳統(tǒng)GPU的數(shù)倍，在大模型訓(xùn)練和批量詞元生成場景優(yōu)勢顯著。
“須臾”延續(xù)全自研TPU技術(shù)路線，涵蓋IP核、指令集、算子庫及整機系統(tǒng)軟件，無海外核心技術(shù)依賴。公司具備芯片設(shè)計、電路開發(fā)、編譯工具、模型適配的全鏈條能力，可快速完成新模型的適配部署，滿足政務(wù)、金融、電網(wǎng)等行業(yè)的信息安全合規(guī)要求。
平臺“泰則2.0”：單機7.168P算力，支持千卡集群
同步推出的泰則2.0平臺，其最小計算單元（單節(jié)點）由兩路高性能CPU與8片“須臾”TPU協(xié)同構(gòu)成，整機混合精度算力達7.168P，同等任務(wù)下整機能耗僅為傳統(tǒng)GPU服務(wù)器的80%。
在集群層面，泰則2.0通過自研低延遲高并行片間通訊協(xié)議，單個超節(jié)點可支持最多2048片“須臾”芯片直聯(lián)，能夠承載萬億參數(shù)大模型分布式訓(xùn)練、多智能體協(xié)同運算及海量詞元并發(fā)推理等重負載任務(wù)。平臺還提供完整的可視化運維管理系統(tǒng)，集成BMC硬件監(jiān)控、故障預(yù)警、算力計費、用戶權(quán)限及模型市場等功能，實現(xiàn)開箱即用。
軟件生態(tài)方面，泰則2.0兼容PyTorch、vLLM、SGLang等主流AI框架，并適配DeepSpeed、Megatron-LM等分布式訓(xùn)練套件；已完成Qwen、DeepSeek、GLM、MiniMAX等數(shù)十款大模型深度適配，開發(fā)者無需大規(guī)模代碼改造即可快速完成模型遷移，大幅降低國產(chǎn)算力替代門檻。
緊扣詞元經(jīng)濟與AI智能體需求，賦能多行業(yè)落地
2026年，AI產(chǎn)業(yè)邁入詞元經(jīng)濟落地階段，從傳統(tǒng)算力時租轉(zhuǎn)向以詞元計價的MaaS服務(wù)模式。“須臾”與泰則2.0在硬件層面針對詞元生成、上下文緩存及批量推理進行專屬優(yōu)化，有效降低單詞元推理成本，助力AI服務(wù)商搭建自主可控的按量計費體系。
產(chǎn)品深度適配開源AI智能體框架OpenClaw，支持本地私有化部署，確保交互詞元與業(yè)務(wù)數(shù)據(jù)不出域，兼顧數(shù)字員工自動化執(zhí)行與企業(yè)隱私安全，可應(yīng)用于報表自動化、IT運維、數(shù)據(jù)分析及個人智能助理等場景。
在商業(yè)化層面，泰則2.0單位算力建設(shè)成本僅為海外高端產(chǎn)品的60%，低功耗特性有助于降低電費支出與碳排放，契合各地低碳算力園區(qū)的政策導(dǎo)向。
規(guī)模化應(yīng)用加速，持續(xù)迭代驅(qū)動未來
目前，初代“剎那”芯片已在多個行業(yè)實現(xiàn)大規(guī)模交付，產(chǎn)品成功部署于深圳聯(lián)通、天津移動、太極股份、江西上饒等運營商、政府機構(gòu)及科技企業(yè)建設(shè)的超大規(guī)模智算中心，并在高校科研平臺及教學(xué)環(huán)境中廣泛應(yīng)用，覆蓋金融、傳媒、教育、醫(yī)療等領(lǐng)域。
未來，中昊芯英將依托現(xiàn)有客戶基礎(chǔ)，持續(xù)優(yōu)化TPU芯片算力、能效與存儲架構(gòu)，適配更大規(guī)模的大模型與多智能體集群；同時聯(lián)合主流大模型廠商、云服務(wù)商及系統(tǒng)集成商，深化軟硬件協(xié)同，進一步拓展自主可控算力產(chǎn)業(yè)鏈的落地版圖。
