专家视点：没有监管的AI会产生伦理偏见

透明度通常在道德商业困境中发挥关键作用——我们拥有的信息越多，就越容易确定什么是可接受的和不可接受的结果。如果财务错位，谁犯了会计错误？如果数据被泄露，谁负责保护数据，他们的行为是否正确？

但是，当我们寻找错误或问题的明确来源并且找不到人时会发生什么？这就是人工智能提出独特的道德考虑的地方。

人工智能在组织中显示出巨大的潜力，但它在很大程度上仍然是一种正在寻找问题的解决方案。这是一个被误解的概念，实际应用尚未在企业内完全实现。再加上许多公司缺乏以真正转型的方式应用人工智能的预算、人才和远见，人工智能仍远未达到临界规模，而且容易被滥用。

但仅仅因为人工智能在日常业务中可能不是超可见的，并不意味着它在您的组织内的某个地方没有发挥作用。就像商业中的许多其他道德困境一样，人工智能中的道德失误经常发生在阴暗处。无论有意与否，人工智能项目或应用打破道德界限的后果可能是噩梦。避免人工智能中的道德失误的关键是从一开始就对项目进行公司治理。

以透明和信任构建人工智能

到目前为止，我们都熟悉 AI 出错的流行示例。对于深色皮肤的顾客不能正常工作​的皂液器，对白种人来说更准确的脉搏血氧仪，甚至预测罪犯是否会重新入狱的算法，都是人工智能（可以说是无意中）存在偏见的故事。

这些情况不仅会引起糟糕的头条新闻和社交媒体的强烈反对，而且还会破坏更合法的人工智能用例，如果继续以不信任的态度看待这项技术，这些用例将无法实现。例如，仅在医疗保健领域，人工智能就有可能改善癌症诊断​并标记高风险再次入院的患者以获得额外支持。除非我们学会建立人们对人工智能的信任，否则我们不会看到这些强大解决方案的全部好处。

当我与同行和商业领袖谈论人工智能时，我从一开始就支持人工智能工作中的透明度和治理理念。更具体地说，这是我的建议：

1、道德人工智能不可能在真空中发生

如果实施不当，人工智能应用可能会产生重大的连锁反应。当单个部门或 IT 团队开始在没有监督的情况下尝试 AI 驱动的流程时，通常会发生这种情况。如果他们的实验出错，团队是否意识到可能发生的伦理影响？部署是否符合公司现有的数据保留和访问策略？没有监督，很难回答这些问题。

而且，如果没有治理，如果确实发生了道德失误，那么召集纠正道德失误所需的利益相关者可能会更加困难。监督不应被视为对创新的壁垒，而是一项必要的检查，以确保人工智能在一定的道德范围内运行。监督最终应该落在拥有他们的组织中的首席数据官，或者如果 CDO 角色不存在，则由首席信息官负责。

2、始终有计划

我们看到的关于 AI 项目出现问题的最糟糕的头条新闻通常有一个共同点，即处于其中的公司在出现问题时不准备回答问题或解释决策。监督可以解决这个问题。当组织的最高层存在对 AI 的理解和健康哲学时，就不太可能因问题而措手不及。

3、尽职调查和测试是强制性的

通过更多的耐心和更多的测试，许多人工智能偏见的经典例子都可以得到缓解。就像洗手液分配器的例子一样，一家公司展示其新技术的兴奋最终适得其反。在产品公开发布之前，进一步的测试可能会发现这种偏见。此外，任何人工智能应用程序都需要从一开始就进行严格审查。由于人工智能的复杂性和不确定的潜力，必须战略性地谨慎使用它。

4、考虑人工智能监督功能

为了保护客户隐私，金融机构投入大量资源来管理对敏感文件的访问。他们的记录团队仔细分类资产并构建基础设施，以确保只有正确的工作角色和部门才能看到每一个。这种结构可以作为构建组织人工智能治理功能的模板。一个专门的团队可以估计人工智能应用程序的潜在积极或消极影响，并确定需要多久审查一次其结果以及由谁来审查。

对于寻求数字化颠覆的企业来说，试验人工智能是重要的下一步。它将人类工作者从平凡的任务中解放出来，并使某些活动（如图像分析）能够以以前在财务上并不谨慎的方式进行扩展。但这不能掉以轻心。人工智能应用必须在适当的监督下仔细开发，以避免偏见、道德上有问题的决定和糟糕的业务结果。确保对组织内的 AI 工作进行了正确的训练。最严重的道德失误往往发生在黑暗处。

以上是专家视点：没有监管的AI会产生伦理偏见的详细内容。更多信息请关注PHP中文网其他相关文章！