微软昨天(21日)更新了负责任的AI的指导方针,将从本月开始限制AI的部分面部识别功能。
随着AI能力的日益增强,隐私侵犯和对黑人或少数族裔的低歧视,技术行业和学术界一直被敦促推动负责任的AI(Responsible AI)准则,如微软在2019年发布的六大AI开发和应用准则,包括公平、可靠、隐私和安全、包容性、透明和权责等。微软指南的更新版本是根据新的研究结果改进的。
图片/微软
新的负责任的人工智能包含三点。第一,语音转录(语音转文本)技术对于少数群体的识别错误率很高。根据2020年3月的一项研究,黑人和非裔美国人的语音听写错误率是白人的近两倍。微软表示,将扩大训练样本的多样性,以提高其技术识别性能。
第二个是AI声音模拟和面部识别服务。微软Azure AI的定制神经语音服务可以利用AI技术模拟出与原角色几乎相同的ai声音。虽然娱乐性很强,但艾草也有可微软商店能被用作Deepfake视频欺骗观众。同样的问题也发微软商店生在AI面部识别应用中。针对新的指ai导方针,微软将为这项服务添加多层控制框架,限制可以使用的客户,明确定义可接受的使用场景,并明确告知听者。在爱的健身房面部识别服务下,艾尔登法环微软将把可用客户限制在预定义的使用场景,还将增加技术控制以避免滥用。
三是限制Azure Face面部识别服务的能力。根据新的指导方针,微软将删除这项推断情绪状态的服务,以及识别性别、年龄、微笑、面部毛发微软官网、发型和化妆的能力。以情绪状态为例,科学家对情绪的判断还没有达成共识,不能跨各种场景、地域或人口统计属性应用。仓促申请会带来刻板印象微软浏览器、歧视或拒绝服务。
为了避免面部识别AI爱奇艺换logo了技术的错误,微软的Face API将不再提供通用的系统对接,爱情和战争以便这些客户可以扫描人的面部,并根据面部表情或动作推断情绪。微软解释称,自6月21日起,新客户不再使用该功能。
现有客户只能使用到2023年6月30日,之后将关闭。然而,微软表示,它将继续支持一些针对残疾人的受控识别应用场景。此外,微软还承诺将仔细分析所有用于推断人的情绪的AI系统,包括使用面部分析或其他AI技术的系统。