工作日播客:机器学习带来更智能、更道德的未来

本播客录制于全球大流行之前。虽然今天的世界看起来有很大的不同，但我们相信这些内容对于帮助组织前进和变得更强大仍然有价值。

音频也可以在苹果播客和Spotify．

当人工智能(AI)和机器学习(ML)不仅进入劳动力市场，而且进入社会时，会出现许多问题。对隐私、偏见和工作保障的担忧主导了谈话。然而，如果使用得当，人工智能可以带来更多的公平、透明度和人类专业知识。我们只需要正确地训练我们的技术。

在今天的工作日播客中，我们将探讨人工智能和机器学习在经济学中的作用，以及人类、机器和社会之间的复杂关系。Ajay Agrawal是《预测机器:人工智能的简单经济学加入Workday技术执行副总裁萨彦岭Chakraborty讨论当今人工智能的格局，以及自该书出版以来它是如何变化的。

如果你是一个读者，下面你会看到我们谈话的文字记录，为了清晰起见进行了编辑。你可以找到我们的其他工作日播客片段在这里．

Josh案发我一直想写一篇关于有多少算法影响我的日常生活的新闻文章:10?100？1000年?我对科技如何改变我的生活和工作世界非常着迷，这就是为什么我很高兴今天在工作日播客上邀请到以下两位嘉宾。

Ajay Agrawal是多伦多大学创新与战略管理教授，也是《预测机器:人工智能的简单经济学》一书的合著者。Sayan Chakraborty是Workday的技术执行副总裁，他和他的团队在将机器学习融入我们底层平台的过程中发挥了关键作用。

我是乔希·克里斯特。我和这两位嘉宾分别进行了非常有见地的交谈，所以我很高兴他们有时间一起上节目。谢谢你们，先生们。

Ajay Agrawal谢谢你，乔希。

萨彦岭Chakraborty我有一个问题作为开场白。《预测机器》出版已经过去18个月了。我在它问世的那天就买了它，这在某些行业是很短的时间，但在人工智能(AI)和机器学习(ML)领域是很长的时间。回顾过去的18个月，你希望在书中更多地阐述或更深入地探讨什么?

Agrawal从那以后，我们学到了很多东西。尽管18个月对某些人来说是很短的时间，但在这个领域，这感觉是一段很长的时间。

如果让我挑一个，最突出的是我们低估了对权力的影响。《预测机器》主要讲的是随着预测成本的下降会发生什么。我们低估的部分是，当预测成本下降时，它不仅会影响我们完成特定任务的方式，还会影响权力的分配。我们开始看到一些组织和国家开始以某种方式领先于其他组织和国家，而其他组织和国家随后可能很难赶上。因为在某些情况下，预测会带来力量。由于人工智能的工作方式，它们可以学习。一个组织提供更好预测的能力将吸引更多的用户，更多的用户产生更多的数据，更多的数据产生更好的预测。一旦飞轮开始转动，我们在《预测机器》中低估了预测对权力的影响。

Chakraborty因此，富人越来越富，我们最终陷入了一种潜在的“富人和穷人”的局面。

Agrawal它可以是双向的。如果我们以运行搜索的人工智能为例，我们过去在信息管理方面的权力从海岸到海岸均匀分布。我们称这些权力中心为“图书馆”。当我们需要信息时，我们会去我们的图书馆，那里有精通图书馆学的人，还有图书管理员，每个城镇都有一个或几个图书馆。

现在，每个人的信息都由两家公司中的一家管理。多数人住在加州山景城。所以一方面，权力非常集中;所有曾经分散在所有这些图书馆的权力现在都集中在一个组织中。另一方面，获取信息的方式已经民主化，比以前分布得更加均匀。

在收入较低的国家，在收入较低的社区，他们很少有机会接触到资金充足的图书馆，现在这种机会更加广泛地分布在各地。就控制而言，权力更加集中，但访问权限非常分散。

Chakraborty是的，这几乎是两种相反的力量。你已经达到了这样一个水平，普通人可以获得的一般专业知识和知识比过去高得多。然而，自亚历山大图书馆以来，我们可能是第一次突然将知识集中在少数几个地方。

Agrawal知识的管理。换句话说，如果你和我想搜索“人们使用Workday的所有不同方式是什么?”“我们很可能会去谷歌搜索，很可能会得到一堆关于不同人如何使用该产品的结果。他们整理所有的信息。

这在过去似乎是良性的。我们现在看到，随着人们越来越注意到这种信息所带来的权力，美国司法部和欧盟反垄断委员会开始担心，通过百度、谷歌和微软必应的集中信息管理，权力分布在美国和中国两个国家。

案发我知道你说过有三件事你想要更新或者想要谈谈。其他的是什么?

Agrawal另一个是预测与判断的关系。在这本书中，我们花了相当多的时间来阐述一个基本观点，即预测是人工智能的工作，判断是人类的工作。

当我们观察系统的发展并接受读者的判断问题时，经常会出现这样的问题:人类的判断有多稳定?换句话说，当人工智能获得足够多的观察人类进行判断的例子时，它可以预测的判断？在很多情况下，答案是肯定的。从某种意义上说，判断是人类在数据稀疏的情况下做出决定的依据。

自从我们写完这本书，我们了解到更多的是事物是如何进化的——比如驾驶——可以说，在想象一个完全自动化的世界的意义上，我们能走多远是有一个上限的——我们不需要任何人类的判断。还有很多其他的事情，我们今天做事情的方式并不是天花板。我们可以做得更好。如果我们从现在开始考虑10年后的医疗保健，我们会回过头来说，“哇，我不敢相信我们忍受了如此原始的医疗保健形式。”

这本书之后的第三件事是:我们已经开始认识到不同类别的人工智能计划。我称之为短期，中期和长期。短期计划只是解决预测问题，我们使用预测分析来解决这些问题，我们应用人工智能来提高绩效。比如在银行，反洗钱制裁筛选，欺诈检测，以及“了解你的客户”。

第二类是我们没有使用预测分析的项目——我们使用了人工。这些都是我们正在转化为预测问题的东西——比如翻译、驾驶、确定信用评分、回复电子邮件。

然后是第三类，不是考虑自动化任务，而是考虑重新设计整个工作方式，比如完全自主的运输系统。

第一个案例通常在很短的时间内显示出一些结果，并为部署它们的公司产生投资回报率——这些公司只是取代了预测分析。第二阶段的举措是长期的。一般来说，他们需要两到五年的时间。第三类倡议的时间要长得多。

Chakraborty我认为我们已经看到了采用的一个重要部分是重新思考用户体验。在企业用户体验中，有些软件不太适合来自AI和ML的增强。

为人们提供更好的理解，更高层次的理解，在他们深入研究细节之前，这已经被证明是必要的，这样人们就可以使用它，这样他们就可以理解他们得到了什么。我喜欢这样向我的团队描述这种体验:我希望我们的用户被置于正确的环境中，而不仅仅是被引导到目的地，这样最后的步骤就会涉及到他们的判断。

Agrawal:就你的应用领域而言，你认为什么是唾手可得的果实?机器智能最有影响力的用途是什么?

Chakraborty我们所处的位置是，每天有数百万用户在成千上万的客户中使用Workday，我们正在为整个企业带来更统一的专业知识。传统上，许多企业都依赖那个坐在角落里的专家做出判断。通过经验和技巧的结合，他们的判断比其他人要好得多。

因为专业知识没有很好地分布，我们在这里得到了最优决策，在其他地方我们得到了很多次优决策因为一个人只能在这么多地方。通过将机器学习带给那些决策位置的所有人，并提高他们的专业水平——不是一直到专家水平，但仍然相当高——我们所看到的和我们希望做的是在整个企业中提供更高的效率和更好的、更优化的决策。

Agrawal:你能举例说明通过这种方法增强的一个专业领域或一个决策吗?

Chakraborty我们推出了一个针对金融客户的功能，叫做Journal Insights。它会查看你所有的日记账，以及构成你业务的所有交易。当你结帐时，你要寻找的是错误，欺诈，这可能会花费每个季度大量的时间。人们会对这些数据进行抽样，他们会查看数据的子集，这样他们就会得到统计上显著的数据量，然后说，“好吧，我们做得很好。”

Journal Insights允许两件事。首先，它能够在创建日志时自动处理数据。如果你愿意的话，你永远不会把坏数据输入系统。第二，可能是更有趣的一点，它能够学习专家的模式。很多你我可能认为是错误的事情，专家可能会说，“哦，不，这种情况经常发生。每年的这个时候，这是完全正常的。”他们知道这一点，因为他们已经结帐20年了。但是当这个人退休了，对于企业来说，这是一个巨大的损失，因为他只是突然意识到这一系列看起来像是潜在问题的事情实际上并不是，反之亦然。一些我们可能认为无害的东西可能是一个真正需要深入研究的问题。

我们能够从这些为我们最大的客户提供的成千上万甚至是数百万的日记账条目的噪音中提取出信号，并允许任何碰巧参与结帐的人识别出值得深入研究的重点。回到个人的问题——AI和ML的真正含义是什么?

读了你在《预测机器》出版后所做的一些工作，我认为我们现在所处的位置仍然有很多炒作，仍然有很多担忧，如果你能更多地反映出担忧的一面，我将会很感兴趣。

Agrawal人们关注的领域有很多，比如隐私、偏见以及对工作的影响。这是三大领域。就隐私而言，似乎平均而言，有一种交易。显然，人工智能是基于数据运行的，所以在个人层面上，人们需要决定他们愿意从数据中放弃什么。他们放弃的越多，人工智能在个性化方面为他们做的工作就越多。

对于公司来说，他们需要决定自己的底线在哪里，哪些数据可以使用，哪些数据不可以使用。这常常与他们将与第三方共享的数据相混淆。我认为前一个问题真正定义了客户和他们正在交换数据的公司之间的关系。

在我看来，第二个问题——公司将与第三方分享的内容——应该是非常明确的，但与公司的使命有些分离——但应该对用户完全透明。在国家层面上——例如，像欧洲这样有着非常独特的隐私制度的地区——这在某些领域使该地区受益。人们更愿意分享信息，因为他们知道这些信息会被更谨慎地对待，但与此同时，这也使他们的公司更难竞争。隐私是一个曾经只有法律隐私工作者认为有趣的话题，但其他人都认为它很无聊。

Chakraborty那些“我同意”和“您的条款和条件”，我们都同意自动滚动浏览，对吗?

Agrawal是的，然而隐私现在正成为国家层面的战略问题和创新政策问题的中心。

Chakraborty在Workday，我们对此采取了非常直接的方法。我们诚实地构建了我们的机器学习系统，作为一个选择加入/选择退出系统，这在技术上是困难的。因此，客户选择加入，通过选择哪些数据，他们可以期望获得哪些好处，这是非常明确的。因此，在分享哪些数据方面有高度精细的决策。然后选择退出，然后让我们删除数据。当然，在我们的案例中，我们明确表示不会与第三方共享数据。一段时间以来，这一直是Workday的核心理念，但令人欣慰的是，我们看到未来就像人们现在说的那样，“这不再是橡皮图章。这是我们非常担心的事情。”

Agrawal你刚才描述的方法——我怀疑即使在三年前，大多数客户也不会真正意识到这种方法和其他方法之间的区别。我认为，随着人们开始认识到选择加入/退出的重要性，以及它在与第三方分享方面的重要性，这将逐渐成为主流方法。

关于偏见，我认为我们正在认识到，人工智能系统可以被设计成放大不受欢迎的人类偏见，也可以被设计成显著减少人类偏见的方式。例如，芝加哥大学的一位教授和他的几个同事做了一个很好的研究，他们训练了一个人工智能，然后建造了两个人工智能。第一个是关于保释决定的训练——法官决定是否允许某人保释。这种情况在美国每年发生大约1000万次。他们训练了人工智能，他们训练的第一个人工智能是基于法官过去的决定。当他们在从未见过的数据上运行这个人工智能时，它的表现与人类法官没有区别。

他们训练的第二个人工智能，不是根据法官的判决来训练它，而是根据实际结果来训练它，比如获准保释的人是否逃跑了，或者是否出席了听证会。保释的决定是一个预测问题，你所预测的只是一个人是否有潜逃的风险，这与他们是否有罪完全无关。

第二个人工智能的有趣之处在于，它是根据实际结果而不是法官的决定进行训练的，它变成了超人。它变得比法官好得多，当他们在从未见过的数据上运行它时，它有效地保持了犯罪率不变——将被监禁的人数减少了40%。此外，它还不成比例地减少了一些少数民族的就业机会。换句话说，这是一个有用的练习，它证明了人工智能可以接受人类的偏见，也可以改进它，这取决于它是如何训练的。这里的元层面观点是，我们正在做一些重要的工作，以证明AI能够改善目前人们非常担心的问题。

第三个问题是就业问题，这个问题比较棘手。每个人都持两种极端观点中的一种:第一，人工智能将夺走所有人的工作，因此存在极大的恐惧;第二，人工智能将增强人类，使他们成为超人，我们都会变得更好。我怀疑答案最终将是两者兼而有之。在短期内，它将更多地处于领先地位，因为随着人工智能进入工作岗位，对人们进行再培训将非常困难，尤其是在一定年龄之后。所以会有一些潜在的困难。在经济学中，他们使用委婉的术语“错位”。我认为这是一个非常严重的问题。

但从长期来看，这是一个实实在在的好处。关键是分布。我们如何确保它对每个人都有好处，而不仅仅是对增强技术的受益者有好处?

Chakraborty:绝对的。

案发我们还有时间再回答一两个快速问题。萨扬，你说你第一天就买了《预测机器》你最大的收获是什么?

Chakraborty在这本书出版的时候，要么有很多针对从业者的高技术书籍，要么有很多几乎令人窒息的炒作书籍。要么是我所说的“人工智能末世论”——由人工智能毁灭世界，要么是由人工智能创造的未来完美世界。没有任何关于个人或公司的实际影响的信息，然后这本书就出现了。

这是一股新鲜空气，因为这本书为我们提供了一个思考的框架，“好吧。这是什么意思?随着预测变得便宜，接下来会发生什么?”这使我能够把重点放在我们在工作日所做的事情上，而不是到处传播我们的业务，我们如何为我们的客户和他们的员工提供利益。

案发吸收这些不确定性，帮助提高决策水平，对吗?

Chakraborty:没错。从某种意义上说，由于Workday的方式，我们既是一个交易引擎，人们在Workday中做事，也是一个数据引擎，人们在Workday中拥有大量数据。这个循环非常明显。比如，工作日招聘引擎中记录的招聘数据是什么?

就你的观点而言，当我们谈论失业时，一个关键问题是:我如何被雇用?我有什么技能?这是一个决定。再说一遍，你的观点，这个决定可能是有偏见的。所以，这是最重要的，不仅仅是在我们可以利用的所有数据领域，而且是由这些交易所代表的编纂决策。这让我们集中精力说，“让我们真正磨练我们在这里做的事情。”

案发Ajay，你能给我们快速预览一下你正在做的工作吗?下次见面我们该聊些什么?

Agrawal:当然。首先，让我感谢Sayan对这本书的评论。当正在建造东西的人发现我们的工作有用时，这真的很令人欣慰——萨扬有企业家的背景，他是一名建造者。这让我们非常满意，谢谢你。我再强调一点。Workday对我们的工作感兴趣，其中一件让我们非常满意的事情是，虽然一些公司觉得这本书很有用，并想出了聪明的竞争策略，让他们的产品变得更好，但(Workday在)我们非常关心的事情上与我们意见一致:社会福利。华体会体育注册

社会福利在经济学中有非常具体的含义，一方面，这项技术可能会给人类带来很多好处，但同时也会因为工作岗位的错位而带来一些痛苦。Workday非常吸引我们的一点是，我们把劳动力市场看作是一个匹配系统，而我们在Workday看到的是一个一阶提高匹配效率的机会。将人与需要完成的事情相匹配。我相信这不是Workday使用的语言，但在经济学中，这在社会层面而不是公司层面是一个非常重要的功能。

我一直在和不同的公司谈论机器智能，当我提到Workday时，我很惊讶地发现有很多公司的听众会喊道:“哦，你知道，我们也用Workday。”

这让我觉得，好吧，每个公司都在使用Workday来提高自己的效率和效率，但在宏观层面上，它也加强了匹配。从社会福利的角度来看，这是我们非常感兴趣的。

所以，快速回答你的问题，我现在正在研究的是这个关于权力的问题。预测的变化如何导致权力的转移。

案发我很期待。我要感谢Ajay Agrawal和Sayan Chakraborty今天的出席。