为什么治理现在很重要
海湾地区每一个使用AI的组织——无论是评估融资申请的银行、为患者分诊的医院，还是推荐产品的零售商——都在通过机器对人做出决定。这些决定大多是有益的。有些会出错，少数会不公平、不透明或有害。治理就是确保组织知道其系统在做什么、能够解释它并能够纠正它的那门学问。
这在当下更为重要，原因有三。AI系统正被用于重大决策，而不仅仅是推荐。本地区的监管机构已从指导意见走向法律，尤其是在个人数据方面。而公众信任一旦失去，代价高昂。做得好，治理不是创新的刹车；它是让组织能够快速前进而不破坏重要事物的保障。
用通俗语言解释五项原则
世界各地的负责任AI框架都汇聚于一小组理念，海湾地区的版本也不例外。
公平意味着系统不应基于与决策无关的特征——例如国籍或性别——区别对待人们，除非有正当理由。透明意味着受决定影响的人应当能够了解AI参与其中，并以有意义的方式了解结果为何如此。隐私意味着关于人的数据是为既定目的收集的，被安全保存，未经同意或没有法律依据不得用于其他用途。问责意味着每个系统都有一位指定的人员或职能部门负责；“是算法决定的”永远不是一个答案。人工监督意味着对于有实际后果的决定，有人能够审查、质疑并推翻系统的决定，并且有时间和信息去这样做。
这些原则没有一项与本地区的价值观相悖。公平、交易中的诚实、守护他人托付之物以及个人责任，都深深植根于伊斯兰伦理和海湾社会规范之中。负责任的AI赋予它们一种技术形式。
区域发展方向
阿联酋是世界上最早把AI视为国家优先事项的政府之一，任命了专职的人工智能部长，并发布了具有长期视野的国家AI战略。迪拜和联邦政府都已发布可供组织参考的AI伦理原则和指南，而且该国已有一部联邦个人数据保护法。
沙特阿拉伯设立了国家数据与人工智能管理局，该机构发布了AI伦理原则，并领导一项与“2030愿景”相一致的国家数据与AI战略。沙特的个人数据保护法为收集和处理个人数据设定了规则，任何部署AI的组织都必须遵守。
这些法律文书的细节在不断演变，组织应查阅当前的官方文本并咨询其法律顾问。但方向是清晰且一致的：两国都希望AI得到广泛采用，也都期望它被负责任地采用。
实践中哪里会出问题
偏差很少以有意选择的形式出现。它通过反映过去决策、客户或招聘模式的训练数据进入系统。一个基于过去谁获得批准而训练的模型，会学会批准与他们相似的人。补救办法是在模型存在之前检查数据，在模型建成后测试各群体的结果，并在部署后持续测试，因为随着数据变化，行为会发生漂移。
监督往往悄无声息地失效。一位每天看到三百条AI建议、每条只有三十秒的人工审核员，提供的不是监督，而是签字。真正的监督需要可管理的工作量、权限，以及看到系统推理过程的能力。
供应商是第三个薄弱点。购买一款AI产品并不会转移对其结果的责任。组织应询问供应商模型是如何训练的、做了哪些测试，以及哪些数据会离开本国。
实用治理清单
- 为每一个在用的AI系统建立清单，记录由谁负责以及它影响哪些决定。
- 按风险对系统分级：一个回答营业时间问题的聊天机器人，与一个筛选求职者的系统不可同日而语。
- 对于较高风险的系统，记录数据来源，测试各群体之间的差异，并记录结果。
- 明确谁可以推翻系统的决定，并确保他们有时间和信息去这样做。
- 在对人们做出决定时使用了AI，要告知他们，并为他们提供申诉途径。
- 至少每年审查每个系统一次，并在数据或用途发生变化时随时审查。
如何开始
从清单开始；大多数组织都会对自己的发现感到意外。任命一个由技术、法务、运营以及一位代表受影响人群的成员组成的小型跨职能小组，授权其对系统进行分级并为最高等级制定规则。把规则写成几页，而不是一百页。然后把它们端到端地应用于一个高风险系统，从中学习，再加以推广。好的治理与其说关乎文件，不如说关乎习惯，而习惯是一个系统接一个系统地养成的。
