盲目使用数据进行决策不会建立符合道德规范的AI系统

发表于可以通过生产厂家

CFMS建模仿真中心的AI领域专家Kiran Krishnamurthy讨论了为什么道德AI对制造业如此重要

人工智能AI系统做出的决策将越来越多地影响我们的职业和个人生活,这已经不是什么秘密了,但是,重大的决策通常带有道德的代价

例如,在人力资源HR领域采用AI的做法许多制造企业开始使用AI和机器学习工具来筛选雇用新员工时获得的数百甚至数千个简历。

为了有效地管理这些应用程序,公司需要节省时间和人力,同时还要找到合格且理想的人选来填补这一职位。

但是,即使训练有素的AI系统也会有其缺陷,这不是因为它想要,而是因为我们已经通过提供历史数据对其进行了训练

例如,某公司在其一家工厂的一个车间助理中招聘了空缺职位。历史数据表明,担任该职位的大多数人是男性

在发展其学习能力的同时,人工智能很可能只会吸引或回应男性申请人,因此女性申请人更有可能错失职位。亚马逊的人力资源流程中使用了基于AI的工具来歧视女性


技能招聘培训面试候选人图片提供:Depositphotos


作为一种通用技术,企业可以通过多种方式使用AI,企业可以决定如何以及在何处使用。然而,至少在公共领域中,如何出现错误的例子很少,因此企业盲目地提供了AI系统数据,几乎没有考虑到道德问题。

为什么道德AI如此重要

道德对于使用AI的自动化决策流程至关重要,如果不考虑人类如何自然地做出决策,我们就不可能期望AI系统遵循道德规范

以大众汽车排放丑闻为例。全球有成千上万辆柴油大众汽车出售了带有可感知测试场景并更改其性能以显示减少的碳排放量的软件。一旦重新上路,它们将恢复正常排放,二氧化碳排放量超过测试会显示

在这种情况下,测试工程师遵循命令,因此可能不清楚谁负责的问题。但是,司法答复是,工程师可能会提出问题或离开组织,因此由他们承担责任

对于另一种情况下的数据科学家而言,情况也是如此。如果人们意识到决策要素可能导致偏见和损害,他们就有选择和义务举报或离开。

最后一个例子可能是最近的波音Max灾难,其中软件决策取代了合格飞行员的决策,导致了多次空难,公司的整个机队都停飞了

这些刚起步的软件设备,如果没有经过适当的培训,可能会完全损害公司的声誉,尤其是在责任还在讨论中时

如何引入偏见以及由谁负责

尽管人类是这些偏见的主要来源,但数据中也可能存在偏见,如果我们不小心,人工智能会加剧这些偏见。


人工智能在制造概念互联网网络全球化中的图片提供:


行业中缺乏代表性也被越来越多地认为是数据问题的根本原因,而责任问题如果仍在广泛辩论中,我相信对于业务领导者来说,对AI中无意间造成的偏差承担更多责任非常重要。系统

作为人类,我们总是容易犯错误,但与机器不同,我们具有人类特质,例如意识和判断力,它们会随着时间的流逝而纠正错误。

但是,除非明确告知这些机器它们在做什么是错误的或不公平的,否则错误将继续

在我看来,我确信许多其他人盲目地允许这些AI系统继续犯错误是不负责任的。当事情出错时,他们不可避免地要问自己是谁负责?这是机器,还是数据科学家还是数据库的所有者?数据

这个问题仍在业界内争论不休,但是随着错误的日益公开,我们将在对其进行调查后开始学习和理解。

我们如何消除这些偏见

为确保决策公平公正,所有制造商都需要更好地透彻研究决策过程,以确保不会因无意和无意识地采取行动的人而产生偏见。

这减少或消除了AI误解偏见和增加潜在错误的机会


人工智能


我希望通过一系列问题或详尽的清单查看为企业设定的基准,以确保一开始就消除人为方面的任何偏见。清单将确保所有决策都是公平且平等的。并解决隐私方面的问题

该清单可用于内部数据科学团队,特别是作为新员工的入门工具或企业外包以构建和管理其AI系统的外部公司的入门工具

如果制造商确实决定外包其机器学习功能的各个方面,则此清单特别重要,因为它可以作为合同的一种形式,从而可以更轻松地解决有关责任的任何潜在争议。

由于我们仍处于AI的早期阶段,目前尚不清楚这些措施是否具有法律约束力,但它们可能会向证明责任所在的保险公司或律师证明某种方式

如果制造商能够证明是否已遵循检查清单,则取决于工作是否保存在家里,或者是否比以前更受保护

基准测试的另一部分可以是确保企业中的所有数据科学家,无论是新手还是经验丰富的技术人员,都可以参加AI伦理课程

这也可以帮助人们理解或记住需要从决策过程中删除某些参数的需求,例如纽约州的性别偏见。这样,在构建新的考虑到男性和女性活动的AI系统时,他们就会知道停用性别功能以确保该系统不分性别

本文并不是为了吓people人们,而是要敦促业务领导者停止忽视自动化决策过程中的潜在偏见,以确保决策对每个人都是公平平等的

总会有人为偏见蔓延的机会,但这取决于我们采取必要的步骤来确保过程是公平且透明的。并且我们以更快,更有效的方式建立了一个工作基准,从中我们更有可能开展工作。建立更公平,更道德的AI系统


道德的AI贡献Kiran Krishnamurthy是CFMS建模中心的AI领域专家

Kiran Krishnamurthy在建模仿真中心领导人工智能功能的开发

他还负责将数据科学技术嵌入CFMS工业数字化计划的各个方面,从而为客户公司提高生产力

改变游戏规则的技术D打印如何帮助残奥会

专业的滑雪板和双截肢者以上的截肢者达伦·斯威夫特(Darren Swift)看到了他的奥运梦想,当时CFMS使用D印刷制作了一对玻璃纤维增​​强尼龙扎带,以帮助这位前士兵在中国发展未来的运动荣耀

点击这里阅读制造商最近的案例研究


图片由Depositphotos