一、项目背景和客户需求

　　一家做企业级 NVMe 固态硬盘的电子科技公司，正在做新一款 PCIe 4.0 向下兼容产品的兼容性验证。这个项目要解决的问题比较具体：这块盘在某些主机平台上会出现偶发的命令超时，重启之后又正常，现象复现率不高，靠示波器看物理层波形已经查不出原因了，需要从协议层看主机和盘之间到底发生了什么。测试周期预计是 2 个月。

　　客户实验室原来做协议层分析靠的是软件抓包，只能看到驱动层和命令层的东西，看不到链路训练、TLP 重传、电源状态切换这些底层交互。如果新购一台 x16 的 PCIe 3.0 协议分析仪，加上探针和配套软件，设备采购成本在几十万，但这个项目是兼容性验证任务，2 个月做完就结束，客户工程师判断直接采购不经济，然后就转向了租赁方案。

　　客户提出来的需求比较明确：

　　要能抓 x4 和 x8 链路的全速数据，双向都要抓，不能只抓一个方向;

　　要能看链路训练和速率协商的过程，判断有没有降速;

　　要能按命令类型或者错误状态触发，抓偶发事件;

　　抓包数据要能导出做后续分析，抓包时间要够长，覆盖一次完整的压力测试。

　　二、方案选型过程

　　接到客户咨询之后，我们的工程师先没有直接报租赁价格，然后和客户的固件测试负责人通了一次电话，逐项确认了下面这些参数。

　　第一，链路宽度和速率。客户的盘是 x4 的，主机插槽有 x4 和 x8 两种，链路速率要覆盖 Gen1 到 Gen3。工程师选了力科 Summit T3-16 协议分析仪，支持 2.5、5、8 GT/s 三种速率，x1 到 x16 的双向链路都能全速抓取，客户的 x4 和 x8 场景完全覆盖，x16 的能力给后续产品留了余量。

　　第二，抓包深度。客户要覆盖一次完整的压力测试，中间不能断。工程师确认 T3-16 的抓包内存是 8 GB，配合过滤和触发功能，可以把不关心的空闲流量过滤掉，把内存留给关键事件前后的数据。

　　第三，探测方式。客户的盘是标准 M.2 或者 U.2 形态，要抓主机和盘之间的链路，需要在插槽和盘之间插入探针。工程师配了 Gen3 MidBus 探针，支持 x1 到 x16，速率覆盖 2.5 到 8 GT/s，插在插槽和被测卡之间，不改动被测系统本身。

　　第四，触发和分析能力。客户要抓偶发的超时，工程师确认分析仪支持按 TLP 类型、错误状态、命令 opcode 这些条件触发，触发之前的预触发数据也能保留，正好用来抓 "事件发生前发生了什么"。

　　最终选型方案是这样：力科 Summit T3-16 PCI Express 3.0 协议分析仪 1 台，配 Gen3 MidBus 探针和配套分析软件，租赁周期 2 个月。

　　三、租赁交付和全程技术指导

　　设备发货之前，我们的工程师先把分析仪做了一次开机自检，探针的接口和线缆逐件检查，软件版本和固件也核对过，确认和客户的主机平台兼容之后才打包发往客户实验室。

　　设备到场之后，客户工程师第一次抓包就遇到了问题：链路明明跑在 x4，分析仪却只抓到了其中一部分数据，命令层的记录断断续续。客户的固件工程师打了电话过来。我们的工程师远程看了一下分析仪的配置，判断是链路宽度设错了。T3-16 的探针支持 x1 到 x16，但是分析仪的 lane 配置要和实际连接的链路宽度对应，客户按 x16 的默认配置接了一个 x4 的链路，多出来的 lane 没有信号，抓包就出现了断档。工程师指导客户把分析仪的链路宽度改成 x4，lane 的对应关系按探针上的标识重新接好，参考时钟也确认接到了正确的位置。改完之后，双向的数据都完整了。

　　第二个问题出现在偶发超时的捕获上。客户让分析仪自由跑，想等超时自己出现，结果跑了两个小时，8 GB 内存早就写满了，超时发生的时候，前面的数据已经被覆盖掉了。我们的工程师远程看了一下触发设置，建议改成条件触发：把触发条件设成 NVMe 命令超时相关的错误状态，或者设成特定的命令 opcode 加上异常完成状态，同时打开预触发，保留事件之前的一段数据。另外把不关心的空闲流量用过滤条件剔掉，把内存留给关键事件。按这个方式配置之后，客户跑了几个小时就抓到了两次超时事件，而且事件前后的完整交互都保留下来了。

　　第三个问题出现在插入探针之后的链路稳定性上。客户把探针插上之后，链路有时候能起来，有时候直接降到 Gen1，还出现过训练失败的情况。客户一度怀疑是探针把信号质量搞坏了。我们的工程师远程看了一下插接状态，判断有两个原因：一是探针和插槽、板卡之间的接触没有到位，插接高度不一致，部分 lane 的接触电阻偏大;二是探针的参考时钟连接方式和分析仪的配置不匹配。工程师指导客户把探针重新插到位，确认卡扣锁紧，然后按探针的说明确认参考时钟的接法，把分析仪设成从链路取参考时钟。重新插好之后，链路能稳定起在 Gen3 x4。工程师同时提醒，插入式探针会引入一定的插损，如果链路本身的裕量很小，插上探针之后降速是正常的物理现象，排查的时候要区分是探针引入的还是产品本身的问题，可以先用不含探针的方式确认链路能起在 Gen3，再插探针复测。

　　整个 2 个月租赁期间，客户在 TLP 解码、NVMe 命令队列分析、电源状态切换的记录、抓包数据导出这些环节上又陆续问过几次问题，我们的工程师都在当天做了远程回复。租赁期间全程技术指导是安泰测试科技的标配服务。

　　四、实施结果

　　客户用这台 T3-16 在 2 个月内完成了兼容性问题的定位：

　　抓到了偶发超时的完整交互过程，确认是某主机平台在电源状态切换之后，盘的命令完成通知延迟了一个中断周期，客户在固件里调整了中断合并策略，问题复现率从每周几次降到零;

　　记录了链路训练过程，发现有一块盘在特定主机上会先协商到 Gen3 再降到 Gen1，定位到是参考时钟的抖动超出容限，换了时钟方案之后链路稳定在 Gen3;

　　做了 x4 和 x8 两种插槽下的压力测试抓包，对比了命令队列深度和完成延迟，给固件的队列调度参数提供了依据;

　　把典型问题的抓包文件整理成案例库，后续新平台兼容性验证可以直接比对。

　　项目结束之后，设备按期退回安泰测试科技库房，客户没有产生设备采购和后续软件升级的负担。客户固件测试负责人反馈，协议分析仪的价值在于把 "偶发现象" 变成了 "可复现的数据"，之前靠软件抓包只能猜，现在能看到每一个 TLP 和每一条命令的完整交互;远程技术指导在链路宽度配置、触发设置和探针插接这三件事上帮他们少走了不少弯路，尤其是自由跑抓不到偶发事件那一次，改成条件触发之后效率完全不一样。

　　五、这套租赁方案适合哪些场景

　　力科 Summit T3-16 这类 PCIe 协议分析仪适合下面几类测试任务：

　　NVMe 固态硬盘、存储控制器的命令层和链路层问题定位;

　　PCIe 插卡、加速卡、网卡的兼容性验证和链路训练分析;

　　服务器、工作站平台的 PCIe 链路降速、复位、热插拔问题排查;

　　存储系统的性能分析和命令队列行为研究;

　　高校和科研院所在高速总线、存储架构课题中的协议层验证。

　　如果问题现象偶发、物理层波形看不出原因，又需要看主机和设备之间的完整交互过程，协议分析仪是比较直接的工具。安泰测试科技的工程师会先和你确认链路宽度、速率和探测方式，然后给出对应的配置方案。

　　六、常见问题

　　问：协议分析仪和示波器看 PCIe 有什么区别?

　　答：示波器看的是物理层的波形和信号质量，能判断眼图、抖动和电平;协议分析仪看的是链路层以上的交互，能解码 TLP、DLLP 和命令，判断重传、超时、电源状态切换这些行为。物理层没问题但协议层出错的情况，只能靠协议分析仪查。

　　问：抓包为什么抓不全?

　　答：常见的是链路宽度配置和实际不符。分析仪支持 x1 到 x16，但配置要按实际链路宽度设，lane 的对应关系也要按探针标识接对。另外参考时钟接错也会导致抓包异常。

　　问：偶发问题抓不到怎么办?

　　答：不要自由跑。设条件触发，把触发条件定在错误状态或者特定命令的异常完成上，打开预触发保留事件之前的数据，同时用过滤条件剔掉空闲流量，把内存留给关键事件。

　　问：插上探针之后链路降速正常吗?

　　答：插入式探针会引入一定的插损，链路裕量小的系统插上探针之后降速是有可能的。排查时先用不含探针的方式确认链路本身能起在目标速率，再插探针复测，这样能区分是探针引入的还是产品本身的问题。

　　问：8 GB 抓包内存够用吗?

　　答：看流量和过滤设置。全速 x8 Gen3 的流量很大，不加过滤的话几分钟就写满。用过滤和触发之后，内存可以覆盖很长时间的关键事件。需要更深的抓包，可以看更高配置的机型。

　　问：租赁流程大概是什么样?

　　答：客户先把链路宽度、速率和要抓的问题现象发给我们，工程师确认探针配置和软件版本之后给出租赁报价。确认方案之后我们发货，设备到场后工程师远程协助链路配置、触发设置和探针插接。租赁期间有技术问题随时联系工程师。项目结束之后安排退租。