今天看到同事提交的报告,讲的是智能审核,发现有必要讲讲审核准确率背后的一些内容。
我们把违规看作目标特征得话,那智能审核结果实际上包含了实际违规也被准确判别,实际违规但被判别为不违规,不违规但被判别为违规,不违规也被判别为不违规。准确率指的是第一种和第四种占的比率之和,而误判率则是另外两种之和。
为什么要区分这四种情况?因为处理的逻辑不一样,特别是误判的情况。
审核的首要要求是安全,也就天就怕是一意味着,实际违规但没有判断出来的代价很高,必须花大力气降低此类事件的几率。比如结合发帖人以往成绩,是否有不良几率等。