剑客网

  |  手机版

收藏网站

剑客网,汇聚专业声音 解析IT潮流

24小时

首页 > 24小时 >

AI伦理研究员米切尔加入人工智能创业公司 开发工具确保算法公平性

浏览:出处:IT之家2021-08-25 09:14

  8 月 25 日早间消息,谷歌 Ethical AI 人工智能伦理研究小组前负责人玛格丽特・米切尔(Martaret Mitchell)将加入人工智能创业公司 Hugging Face,开发工具确保算法的公平性。今年 2 月,米切尔因为一篇共同撰写的批评论文而被谷歌解雇。

  Hugging Face 维护一个代码库,用户可以通过这个代码库分享人工智能模型并展开合作。这是个开源平台,已经被 5000 多家组织使用,包括谷歌、Facebook 和微软。米切尔计划从 10 月份开始,首先开发一套工具,确保用于训练人工智能算法的数据集不存在偏见。目前,用来训练模型进行预测或决策数据集往往由于原始数据的不完整而在某个人群中表现不佳,例如女性、少数族裔和老年人。

  米切尔和 Hugging Face 此前已经有合作关系。为了确保人工智能模型的公平性,Hugging Face 此前已建议工程师和科学家在发布项目后,使用米切尔在谷歌开发的 Model Cards 工具进行评估,分析优缺点。Hugging Face 联合创始人及 CEO 克莱门特・德兰格(Clement Delangue)表示,在发布至 Hugging Face 的 2 万个项目中,有约 1/4 使用了 Model Cards 工具。

  米切尔在一次采访中表示,对于用软件评估人工智能系统,“应该有非常严肃和积极的工作去做”。“这对我来说是个很酷的机会,可以帮助模型开发者更好地理解,他们正在开发模型的危害和风险”。

  在从谷歌离职后,米切尔表示,她希望在一家规模较小的公司工作,从而可以从一开始就将人工智能伦理纳入在考虑范围内。她说,Hugging Face“已经建立了很多基本的伦理价值观”,“很明显,我不需要强行插手或改造类似伦理流程之类的东西”。

  谷歌 Ethical AI 研究团队此前经历了动荡。去年,谷歌解雇了该团队的另一名联合负责人蒂姆尼特・格布鲁(Timnit Gebru),原因是她拒绝撤回与米切尔及他人合著的一篇论文。这篇论文涉及对谷歌技术的批评。在格布鲁退出后,作为团队负责人的米切尔开始对谷歌及其管理层展开激烈的批评,包括谷歌未能认真对待外界对其人工智能产品的担忧,以及格布鲁遭到了不公的待遇。在人工智能研究领域,格布鲁是为数不多的知名黑人女性之一。谷歌则表示,米切尔违反了公司的行为准则和信息安全政策。

  谷歌的员工对于公司处理此事的方式感到愤怒。今年早些时候,对十多名在职员工和前员工,以及人工智能学术研究人员的采访显示,由于处理骚扰、种族主义和性别歧视的方式,谷歌在人工智能领域的工作在过去两年多的时间里一直备受争议。

  Hugging Face 的工具部分免费,部分收费。目前该公司有 300 多家付费客户,其中包括英特尔和高通。虽然 Hugging Face 的 50 多名员工中也有几名其他的人工智能伦理专家,但 CEO 德兰格希望所有员工都能往这个方向努力。

  他说:“我们不想只是建立辅助性质的人工智能伦理团队,而是让这件事成为公司的核心,并确保深入至每个人的工作中。米切尔不会组建一个包含几名成员,只是偶尔提供咨询建议的团队。”

相关文章

最新新闻

网警备案