总,我看到你们的伦理自评报告了。隐私保护方面做得不错,差分隐私技术的应用值得肯定。但公平性方面有问题。你们的系统对不同群体的识别准确率差异很大,这是不符合伦理标准的。”
对方沉默了片刻,然后说:“陈总,这个问题我们也注意到了。但技术上的改进需要时间。我们正在收集更多的训练数据,特别是女性和老年人的数据,希望能够提高对这些群体的识别准确率。我们已经增加了五千张女性面孔和三千张老年人面孔的训练数据。”
陈诺说:“我理解。但在问题解决之前,我们不能通过你们的伦理认证。这是对用户负责,也是对你们负责。如果你们的系统被用于安防领域,因为识别准确率低而导致误判,可能会造成严重的后果。比如,如果一个老年人因为系统误判而被拦在机场安检口,那不仅是用户体验问题,更是人权问题。”
当天下午,陈诺组织了第一次伦理审查会议。五位专家对十二个项目进行了逐一评审。评审过程非常严格,每个项目都要经过三轮投票。最终,有八个项目通过了初审,四个项目需要补充材料。那家人脸识别系统,被要求补充公平性改进方案,并且在改进完成后重新提交申请。
会议结束后,陈诺单
第443章 伦理审查-->>(第2/3页),请点击下一页继续阅读。