回上列表
騰訊混元提出Stem稀疏注意力算法
2026/06/08 11:24
為加速長文推理，騰訊混元提出Stem稀疏注意力算法，從「因果信息流」重新審視塊級稀疏，用Token位置衰減(TPD)和輸出感知度量(OAM)兩大創新，僅用25%算力就逼近稠密注意力的精度。配套的HPC算子庫則將這份理論加速比真正轉化為端到端的實測性能。

算子層面，HPC開源的Stem+BSA算子將稀疏收益轉化為真實硬件加速，128K上下文下首字延遲降低3.7倍。算法決定「省哪些計算」，算子決定「省下的計算能快多少」——兩者協同，構成從理論到部署的完整閉環。(jl/u)~

阿思達克財經新聞
網址: www.aastocks.com