Go 计时器骗了你：用 CUDA Events 测真实 GPU 时间

CUDAs 内核启动异步执行，CPU 测得的 160µs 仅代表入队时间，并非真实计算耗时。
作者在纯 Go 中绕过 cgo 绑定 CUDA Events，获取硬件级时间戳。在 RTX 4070 Ti 上运行 1000 万元素向量加法，对比结果如下：
- CPU time.Since（异步）：~160 µs（实际为入队时间）
- GPU cuda.Event（实际）：~434 µs（硅上实际计算时间）
- CPU time.Since（同步）：~404 µs（入队+执行+运行时开销）

硬件计算时间比 CPU 计时器给出值慢 2.7 倍。正文中提供了完整代码示例，使用 NewEvent、Record、Synchronize、Elapsed 实现精确测量。对于构建基于 Go 的 AI 基础设施（如推理网关、实时图像处理），必须使用硬件事件而非 CPU 计时器，否则 P99 延迟数据会失真。

GitHub: GitHub

#开发者 #工具

📢 频道：@DevToolboxHub