用一个模型去查另一个模型 可行但别当验收
自动化审查能提高效率,边界在于它和被查对象共享同一套盲区。
模型内部像一个黑箱,输入输出看得见,中间怎么算的很难追踪。
用另一个模型去做审查,思路是把解释转成检测:能不能复现、能不能预测异常。
这类工具的用处是筛:把明显不合理的输出挑出来,人只看剩下的部分。
局限也很清楚:两个模型如果训练数据同源,会一起犯同样的错。
所以它适合做初筛,不适合做终审。关键结论仍要落到可验证的证据上。
工程上可以把它接进流水线:每次输出附带置信度,低于阈值就转人工。
记录同样重要,被拦下的案例要留档,用来反推规则是否失效。
工具的边界写清楚,团队才不会把通过检查当成没有问题。
本文由本站编辑部整理撰写,内容仅作知识分享,不构成医疗、投资、法律建议,转载请注明出处。
读者留言 · 3 条
后
后端老陈
共享盲区这点说得准,别指望它兜底。
唐
小唐
接进流水线比单独跑更有价值。
泽
阿泽
留档这部分经常被省。
留言为读者个人观点,不代表本站立场。