当搜搜广告投放的旧实验无法复现,先别把结论全部推翻。更稳妥的做法是把原结论拆成“事实、条件、推断”三层,只保留能被现有证据支持的部分,并给每一条有限结论标注适用边界。这样做的结果是:后续复查不会因为一次复现失败而返工,团队也能把分歧转成可核对的项目。
常见场景是:一位成员记得搜搜广告投放的某次实验“有效”,另一位成员按同样步骤重跑却得到相反结果。两人都没有伪造数据,分歧来自旧记录里混入了不同层次的信息——有的是一次观察到的现象,有的是当时对现象的解释,还有的是对下一次投放的预期。
如果直接把“有效”或“无效”当成唯一结论,矛盾就无解。更合理的处理是先问:旧记录里哪些是原始事实,哪些是当时的推断?把这两类分开,分歧通常会缩小到少数几个可核对的项目上。
无法复现时,至少有两种成立条件不同的解释。
两种解释都成立,但适用的前提不同。前者要求旧证据本身薄弱;后者要求能找到至少一项可验证的条件差异。分辨它们,比争论“谁记得对”更有用。
要判断更接近哪一种解释,可以收集以下几类证据,每类都指向不同的判断方向。
一个实际动作是:先做一份“条件差异表”,把旧记录与当前设置的每一项并排列出。这个动作的结果会直接决定下一步——如果差异项集中在少数几处,就优先对齐这些条件再观察;如果差异项遍布各处且无法还原,就应当把原结论降级为“待验证假设”,而不是继续当作既定事实使用。
假设某次搜搜广告投放记录写着“调整出价后转化变好”。复现失败后,可以这样拆分:
拆分后,可以保留的有限结论是:“在条件层完整的前提下,该时间段内观察到转化数量变化;出价调整是否为原因,尚未确认。”这样的表述既没有夸大,也没有把可能有价值的信息一起丢掉。
当多个角色对同一事实理解不同,最有效的做法不是投票,而是把分歧写成可核对的问题。例如:
每个问题都应当有明确的核对方式:查日志、查导出文件、查交接记录。核对完成后,把结果写回结论旁边,标明“已核对”“无法核对”或“存在冲突”。这一步的结果会影响下一步——已核对且一致的项可以支撑结论;无法核对的项只能作为假设保留;存在冲突的项则需要重新设计一次小范围观察,而不是继续争论。
需要强调的是,请求量、抓取量或某项统计归零,不能单独证明处理正确。它们可能有多种合理解释,例如统计口径变化、观察窗口不同或数据延迟。把这些现象当作唯一证据,容易把有限结论误当成确定结论。
最终保留的结论应当满足三个条件:有可核对的事实支撑,有明确的条件边界,有标注为推断的部分。做不到这三点时,宁可把结论写成“待验证”,也不要为了整齐而补上无法核对的细节。