8种方法帮助确保你的公司的AI是道德的
根据我们的经验,对于希望在整个组织中倡导道德人工智能(AI)承诺的科技公司,我们有8个经验教训。
根据我们的经验,对于希望在整个组织中倡导道德人工智能(AI)承诺的科技公司,我们有8个经验教训。
跟上人工智能(AI)和数据隐私的步伐可能会令人难以承受。虽然有很多希望和机会,但也有人担心数据滥用和个人隐私面临风险。随着我们对这些话题的评估,以及第四次工业革命的展开,关于人工智能的前景和风险以及组织如何采取措施更好地实现其价值的问题出现了。
对于工程师和开发人员来说,将“伦理”整合到技术产品中是抽象的。华体会体育注册虽然许多科技公司都在独立地采取具体和有形的方式来实现这一目标,但我们必须打破这些藩篱,分享最佳实践。通过合作,相互学习,我们可以提高整个行业的标准。一个好的开始?专注于能赢得信任的事情。
从第一天开始,信任就是Workday的基础。我们的客户知道我们重视他们的隐私和安全,多年来一直如此。这是因为隐私保护是工作日服务的核心隐私原则,我们的GDPR方法,而我们的强大的隐私保护程序.随着我们继续朝着以人为本、机器学习(ML)为主导的未来迈进,我们正在利用我们的隐私和安全第一的方法,以确保我们以道德的方式设计和交付机器学习。
许多公司正在发布关于设计和部署人工智能产品方法的高级原则。华体会体育注册但原则只有在真正得到实施时才有价值。Workday最近发布了对道德人工智能的承诺展示我们如何将直接建立在客户服务、诚信和创新核心价值观上的原则付诸实施。根据我们的经验,对于希望在整个组织中倡导这些原则的科技公司,我们有8条经验教训:
1.定义一个关于人工智能伦理的共识。这个定义需要对公司的所有相关利益相关者都是具体的和可操作的。对于Workday来说,人工智能伦理意味着我们的机器学习系统反映了Workday对道德人工智能的承诺:我们以人为本;我们关心社会;我们办事公正,尊重法律;我们是透明和负责任的;我们保护数据;我们提供企业级机器学习系统。
2.将合乎道德的AI构建到产品开发和发布框架中。这些不能是为开发人员和产品团队创造更多工作和复杂性的独立过程。Workday已经将我们的原则融入到产品开发的结构中,并创建了推动持续遵守这些原则的流程。新的机器学习控制已经被纳入Workday的正式控制框架,作为我们机器学习道德原则的额外强制执行。我们的开发团队通过道德的角度来检查每个ML产品,询问关于数据收集和数据最小化、透明度和基于价值观的问题。我们在隐私领域有着悠久的历史,包括设计隐私流程以及针对我们的控制和标准的第三方审计。Workday对机器学习采用了一套基于设计的道德控制,并对新技术的发布以及数据的任何新用途建立了健全的审查和批准机制。我们致力于不断审查我们的流程,并将其纳入新的行业最佳实践和监管指南。
3.创建跨职能的专家小组,指导负责任的ML和AI的设计、开发和部署的所有决策。在这段旅程的早期,Workday成立了一个机器学习工作组,由Workday内部的专家组成,涉及产品和工程、法律、公共政策和隐私以及道德和合规。这些小组研究ML在我们产品中的未来和现有用途。华体会体育注册将这些不同的技能和观点集合在一起,讨论ML在我们产品中的未来和现有用途,这是非常强大的,并使我们能够在产品生命周期的早期识别潜在的问题。华体会体育注册
4.将客户协作引入负责任的人工智能的设计、开发和部署中。在我们的产品开发生命周期中,Workday从广泛的客户群体中聘请了我们的客户咨询委员会,以获得关于人工智能和机器学习相关开发主题的反馈。通过我们的早期采用者计划,我们与少数客户密切合作,他们作为设计合作伙伴,通过我们的创新服务测试新的机器学习模型和功能。这使我们能够在合作开发以人为本的ML解决方案时,尽早理解和解决客户对AI和ML的想法和担忧。
5.用“生命周期方法”来研究机器学习中的偏见。机器学习工具代表了一个非凡的机会,可以帮助我们的客户利用数据来增强人类决策。有了这个机会,我们就有责任构建企业级工具,以保持客户对我们的难以置信的信任,这就是为什么Workday对道德人工智能的承诺的重点之一是减轻ML中的有害偏见。Workday专注于生命周期方法,其中包含从产品的初始概念到发布后执行各种偏见评估和审查的检查点。
6.是透明的。ML数据的道德使用要求透明度。由于机器学习算法可能非常复杂,公司应该在解释使用什么数据、用于什么目的以及如何使用数据方面做得更好。我们向客户解释我们的机器学习技术是如何工作的,它们提供的好处,并描述支持我们提供的任何机器学习解决方案所需的数据内容。我们向客户展示了机器学习解决方案的问责性。
7.授权你的员工设计负责任的产品。华体会体育注册我们通过必要的道德培训模块、工具包、研讨会、员工入职和研讨会来做到这一点,以确保Workday的员工在如何维护我们的人工智能道德承诺方面接受培训。例如,一个以人为本的设计思维研讨会使用不同的场景和角色来帮助Workday员工理解我们在道德上创建ML技术的承诺。
8.分享你所知道的,并向业内其他人学习。我们通过参与行业组织和同行会议来实现这一目标,例如世界经济论坛指导委员会道德设计与技术部署帮助科技行业建立道德框架。此外,Workday将监督新标准和计划并为之做出贡献作为优先事项。在美国,Workday与立法者和机构官员就道德AI进行了大量接触,包括开发和参与国会AI核心小组关于“道德AI的行业方法”的工作人员简报,并在多个场所扮演行业和政策制定者之间的召集人角色。此外,我们还为国家科学基金会更新《国家人工智能研究与发展战略计划》和国家标准与技术研究所编写《人工智能标准与工具开发》报告提供了支持,并继续倡导NIST在开发人工智能伦理工具方面发挥更大作用。在欧洲,Workday参与了一个试点项目,以评估欧盟高级别专家组的道德准则(HLEG)。值得信赖的人工智能评估名单.
当我们在这个不断发展的道德人工智能世界中航行时,分享实践并确定我们在这一过程中所学到的东西将比以往任何时候都更重要。我们渴望听取其他人的意见,了解哪些方法在推广和实施方面是有效的,我们欢迎有机会分享。事实上,这也是Workday的目标与世界经济论坛的合作是鼓励其他人加入我们,分享他们的最佳实践,以支持负责任和道德的技术。追求负责任的、道德的人工智能和技术是至关重要的,它比任何一家公司或组织都重要。
我们应该共同通过行动建立善意和信任,使我们能够实现这些强大的新技术的好处。
更多的阅读