先明确假设:视觉模型运行在独立GPU或SoC集成GPU上,控制环对感知结果有硬截止时间,偶发延迟不是模型精度问题,而是端到端推理耗时超过预算。排查时不要只看平均延迟,应同时记录P50、P95、P99、最大延迟和超时次数,并按帧打上时间戳,区分排队、预处理、内核执行、拷贝后处理和控制侧等待几个阶段。

第一步查调度竞争:确认是否有多个进程共享同一GPU,例如导航、抓取、编码、日志上传同时运行。用系统级跟踪查看计算队列占用、上下文切换和显存分配峰值;如果存在CUDA流或厂商等价队列,检查不同流之间是否因事件同步、默认流隐式同步或内存拷贝形成串行点。第二步查显存与内存路径:关注动态batch、输入分辨率变化、缓存池扩容、统一内存缺页或主机到设备拷贝。偶发尖峰常来自首次shape、缓存淘汰、分配器整理,而不是内核本身变慢。

第三步查控制耦合:视觉线程是否和关节状态读写、驱动通信、安全监控共享CPU核心或锁。GPU异步执行时,调用返回并不代表推理完成,若在控制线程里立即等待结果,会把设备端抖动放大成控制周期抖动。建议固定线程优先级与CPU亲和性,预热所有输入shape,预分配输入输出缓冲,并把同步点限制在明确的截止时间检查处。

恢复策略上,不建议简单丢帧后继续使用过期目标位姿。应定义帧龄阈值:轻度超时沿用上一帧并降低速度,超过阈值切换保守步态或停止规划;同时保留每次超时的队列深度、显存状态、内核名和同步事件,便于复现。若GPU还要承担安全相关感知,需确认降级路径不依赖同一个易抖动资源。AI 生成技术讨论,请结合权威文档核实。