萨福克大学法学院教授Gabe Teninbaum呼吁ExamSoft修复其考试软件的一个严重缺陷:无法识别人脸。这是一个问题,可能会延误考生-或禁止他们开始他们的考试-根据报告,它不成比例地影响了肤色暗的人。
ExamSoft的软件在学生完成远程考试时对他们进行记录,并监控他们是否存在学术不诚实的迹象。Teninbaum的报告介绍了ExamSoft的一个名为ExamID的功能,该功能旨在验证考生的真实身份。当学生第一次登录他们的考试门户网站时,他们会上传一张自己的照片(他们的“基线图像”);然后在开始未来的考试之前,系统会提示他们再进行一次**,软件会根据他们的原始照片进行检查。
研究发现,人脸识别算法在识别黑脸时总是比识别白脸时出错更多。虽然这些研究并没有特别关注ExamSoft,但似乎也不例外。早在今年9月,多名非白人考生就告诉《****》,由于“光线不好”,软件无法识别他们的身份——这是一个皮肤较浅的泰宁鲍姆无法复制的问题。
今年初秋,泰宁鲍姆着手寻找解决办法。他认为这样的错误会给本来就很紧张的一段时间增加不必要的压力。Teninbaum在接受《边缘》杂志采访时说:“这些学生将要参加一场高风险的考试,而这是非常不受欢迎的。”。
他补充说:“任何时候参加考试,你都只想把注意力集中在考试上。“你不想觉得自己有这些额外的挑战。”
Teninbaum还认为光学很重要;学校应该感谢边缘化的学生,不要依赖一类众所周知具有歧视性的软件。他说:“学生们应该感到,他们的学校正在尽其所能保护他们的权利、利益和尊严。”。
在即将发表在《机器人学、人工智能和法律》杂志上的报告中,泰宁鲍姆概述了他发现的解决方法。
他建议学校给每个学生分配一个相同的、基本的形象。然后,他建议,他们应该要求ExamSoft启用“延迟识别”,这是软件内置的一项功能,即使识别失败,学生也可以继续进行考试。(ExamSoft告诉the Verge,到2020年底,默认情况下,延迟识别已经启用,因此学校应该可以跳过这一步。)
这些调整将导致ExamSoft误认每个考生。但他们仍然可以继续他们的考试-ExamSoft将发送**到学校之后,导师可以手动验证每个人。“我们知道我们的学生是谁,”泰宁鲍姆说。“我们可以确保学生是他们所说的那样,避免让学生受到这些挑战。”
他还建议ExamSoft让客户可以访问“延迟身份”功能。他在报告中写道:“记者敦促ExamSoft将其构建成一个功能,通过这个功能,机构可以简单地打开/关闭ExamID,从而绕过ExamID,直到技术成熟成为一种不歧视的技术。”。
Teninbaum希望这些改变能持续到COVID-19大流行之后,并能帮助学生们在远程课堂上感觉更舒服。“随着人们越来越多地上网接受教育,这将是一个日益严重的问题,”他说。
即使如此,他只是解决了问题的一部分。学生们在ExamSoft的procuring软件中经历了一系列的打嗝。10月份,3000多人利用这个平台参加加州的律师考试,他们的视频被标记为可能违反规则的行为——参加在线考试的申请人中,有近36%。用户报告了音频问题,以及其他技术故障。
包括理查德·布卢门塔尔、伊丽莎白·沃伦和科里·布克在内的六位美国参议员在去年12月给ExamSoft写了一封***,强调了对有色人种学生和残疾学生的潜在危害,以及许多其他担忧。
ExamSoft在一份即将发表的声明中说:“ExamMid旨在为考生提供无摩擦的体验。ExamID试图通过允许考生设置和批准自己的基线图片来缓解通常与面部识别软件相关的挑战,该软件使用这些图片与考生在考试时拍摄的图片进行比较。此外,考生可以在参加任何考试之前测试ExamID如何验证他们的特定图片,以帮助减轻考试期间图片匹配问题的压力。”
更新时间:美国东部时间1月6日上午11:14:ExamSoft添加了声明。
一场关于人脸识别软件合法性的激烈辩论仍在继续,**和执法部门越来越多地使用这种软件。更不用说使用某种面部识别的私人公司的数量了。 ...
...词的组合。这是因为受过图像和视频合成训练的人工智能软件创造了这些视频。这个人工智能可以将一个物体(源)的脸叠加到另一个物体(目标)的视频上。更先进的技术形式可以利用信息源的面部姿势和他们想要模仿的对象...
...日发布了第四个开发者测试版。它将有望很快作为稳定的软件提供给每个人。 As pointed out by @Sonikku_a2, if you’re wearing a mask, iOS 13.5 goes straight to the passcode screen if you try to unlock with Face ID (keypad not shown because iOS hides it in screen recordin...
通常,您使用光学字符识别(OCR)软件从图像中提取文本。然而,从googlechrome76开始,你可以使用一个实验性的功能从图像中提取文本,而无需任何附加软件。 当您使用OCR来检测文本时,它的计算成本很高。然而,硬件**商支持...
...faceid是个例外,因为它可以提高安全性,而不会碍事。 人脸识别有多安全? 苹果公司表示,有1/1000000的可能性,其他人将能够解锁你的iPhone或iPad使用的脸,而不是注册的脸ID。这一比率可能会改变,如果你有一个相同的双胞...
主板公司的一份报告称,Proctorio是一款考试监控软件,旨在防止学生在考试时作弊,它依赖于一款开源软件,该软件有种族偏见问题的历史。这个问题是由一个学生发现的,他发现这个软件是如何进行面部检测的,并且发现它在...
...校宣布,在2021年夏季任期结束后,将停止使用远程监控软件Proctorio。在做出这一决定之前,UIUC校园内和美国各地近一年来都对这项服务表示强烈**,理由是担心隐私、歧视和无障碍性。 Proctorio是高校用来监视远程****...
...对学生进行监控。Proctorio成立于2013年;一些竞争平台如ExamSoft早在1998年就出现了。但是,随着COVID-19的出现,这些工具得到了扩展,并由此迅速转向远程和混合学习环境。现在有400多所大学使用Proctorio,从哈佛大学、哥伦比亚大...
...“缩放和增强”比喻,但是,与好莱坞不同的是,真正的软件不能无中生有地生成新数据。为了将低分辨率图像转换成高分辨率图像,软件必须使用机器学习来填补空白。 在脉冲的情况下,做这项工作的算法是StyleGAN,它是由NVI...
面部识别软件开发人员Face.com网站已经更新了它的API,现在声称有能力确定照片中一张脸的年龄。该公司已经开发了两款在照片中标记人脸的Facebook应用程序,但希望在其他场景中得到更广泛的采用,比如Netflix之类的应用程序可...