2025年12月11日,靈汐杭州電信類腦智算集群在杭州正式發(fā)布。

據(jù)悉,該集群部署在中國電信杭州智算中心,由杭州靈汐類腦科技有限公司牽頭,杭州電信、中國電子科技南湖研究院以及腦啟社區(qū)作為合作方參與,整體規(guī)模超百億神經(jīng)元、算力規(guī)模超200POPS,這也是國內(nèi)首個支持大模型快速推理的類腦智算集群。
作為類腦智能技術(shù)的創(chuàng)新應(yīng)用成果,該集群核心亮點在于模仿人類神經(jīng)元連接方式,具備 “存算一體、眾核并行、稀疏計算、事件驅(qū)動” 四大特性,直接破解了傳統(tǒng)大模型推理的痛點,實現(xiàn) “一快、一低、一降” 的突破性表現(xiàn):
- 推理速度快:單用戶推理延遲控制在毫秒級,可流暢支撐實時交互與長文本深度推理,徹底告別卡頓,性能遠超傳統(tǒng)方案;
- 首 token 延遲低:延遲可降至百毫秒乃至十毫秒級,響應(yīng)速度再升級;
- 功耗大幅下降:較業(yè)界同等推理算力水平,功耗直降 1/2 至 2/3 以上,綠色低碳優(yōu)勢顯著。
來源:北京靈汐科技有限公司