看芯片发布会，AI 算力动不动几百 TOPS，听着很猛，但这个数字的水有多深，得拆开看。TOPS 全称 Tera Operations Per Second，即每秒万亿次运算，1 TOPS 等于每秒 10 的 12 次方次操作，专门用来衡量芯片跑 AI 任务的算力规模。

先看口径：什么精度下的 TOPS

同一颗芯片，INT8 精度的算力和 FP16 精度的算力能差一倍甚至更多，厂商宣传常用 INT8 口径，因为数字好看。对比两颗芯片之前，先确认标的是不是同一精度，INT8 对 INT8、FP16 对 FP16，跨口径直接比就是被参数忽悠。

还有一个隐藏细节：一次乘加运算通常被算成两次操作，乘一次、加一次各计一遍，所以标称值天然偏乐观。顺带区分两个单位：FLOPS 描述浮点运算速度，TOPS 多数时候指整数运算，两者不是一回事，看参数时留意单位写的是 OPS 还是 FLOPS，混着比会得出错误结论。

哪些设备在看这个指标

  • 手机 SoC 的 NPU：负责影像处理和端侧大模型推理，旗舰机型一般有几十 TOPS 的量级，端侧要流畅跑中小参数量的大模型，一般也是靠这一块撑着。
  • 智能驾驶芯片：承担感知、规划计算，主流方案从几十到几百 TOPS 不等。
  • 服务器 GPU：以集群为单位提供训练算力，用 PFLOPS 这一级别的单位，思路和 TOPS 一样只是量级更大。

数字高不等于实际快

真实表现还取决于三件事：内存带宽供不上数据，算力就是空转；软件栈和算子优化水平，同一颗芯片换不同框架跑分能差出几成；散热能力，峰值算力往往只能维持很短时间。所以更靠谱的评测方式是看实际模型的推理延迟和吞吐量，而不是只念标称值。

实际判断：买手机、看智驾方案时，tops算力可以当粗筛指标，同口径下高比低好，但标称值差 20% 以内基本体验不出区别，别为参数溢价买单。