黑石苏世民：人工智能领域的全球性契约

　　很荣幸能通过互联网参加在上海举行的2020年世界人工智能大会云端峰会。我非常感谢上海市委书记李强先生的邀请，同时也很荣幸能与几位伟大的科技专家一起，成为本年度大会的主题发言人。

　　我的职业路径和此次大会的大多数演讲嘉宾都不一样。我不是科技专家，而是社会科学领域的学生。我创立了黑石集团，并担任这家世界上最大的另类资产投资公司的首席执行官。我也积极参与慈善事业，为世界各地教育、文化和艺术领域的变革性项目提供资金。事实上，我个人最关心的慈善项目之一即中国的苏世民学者项目。苏世民学者项目是清华大学著名的研究生奖学金项目，该项目将来自40个国家的未来年轻领袖聚集到北京，以了解中国及其作为全球大国日益增长的影响力。我还参与公共服务，帮助美国政府进行国际贸易谈判，包括与中国签订的第一阶段贸易协议。

　　我在人工智能方面的启蒙最初来自马云，我们都是清华大学经济管理学院顾问委员会的委员，当时我们一起前往与一位国家领导人会面的路上。马云表示，人工智能是革命性的新技术，将会改变人类世界的几乎每一个领域。马云还提到，对于 “人工智能会成为积极的力量，抑或是会成为消极的力量，进而干扰组织和人们的生活，”这议题，业界存在很大的分歧。

　　科技领域的知名企业家就人工智能得出相互矛盾的结论，这令我深感好奇，因此我亲自与他们中的许多人进行了会面，以了解他们的想法和理由。作为此次自我学习的一部分，我有幸见到麻省理工学院校长拉斐尔•赖夫(Rafael Reif)。众所周知，麻省理工学院或许是世界上最知名的科技大学。我曾多次到访中国，见证了创新技术的爆炸性发展，大型公司和风险投资公司的资金也纷纷涌入新的人工智能公司和应用领域。

　　我相信，马云的观察是正确的。如何负责任地利用人工智能的无限潜力是世界正面临的关键挑战，而我想为此做点事情。因此，我决定向麻省理工学院提供3.5亿美元启动资金，以开设苏世民计算机学院，该学院将专注于人工智能的跨学科研究和开发，以及相关伦理和政策考量的研究。据我所知，尽管很多国家都在努力引导人工智能的发展，但没有一个国家能够成功建立跟上这些技术飞速发展步伐的监管框架。各国主要寻求独立发展人工智能技术，而没有付出足够的努力来确保它们的科研活动契合其他国家的相关发展情况。

　　更令人担忧的是，在某些领域，人工智能的发展日益成为国家间的零和博弈。这种行为将削弱人工智能发展的强劲势头，同时为合作带来重大障碍。

　　为应对这种情况，我们需要为人工智能的研究、应用和部署订立全球契约。为人工智能革命(尤其是其可能带来的意想不到的后果)做好准备的唯一方法，是加快全球治理和合作，并制定国际标准和政策指南。

　　如果我没有意识到众多多边组织已在国际合作框架方面开展的工作，那就是我的失职。但是，如要确保这些举措及时有效，就必须对其予以优先考虑，并加快它们的进程。七国集团近期宣布全球人工智能合作，这是令人鼓舞的开端，但如果缺少真正全球化的契约以鼓励全球和跨学科合作，各国将会蒙受巨大损失，而且无法在创新方面取得进展。

　　各国可以在众多领域进行全球合作，例如在医疗健康、教育和制造业领域。影响地缘政治稳定的领域，如国家安全和自主武器研发领域，也需要国际合作和相互监管。

　　这些领域的合作将会带来巨大的好处。

　　在医疗健康领域，人工智能有潜力改变生态系统的几乎每一个方面，无论是药物发现和新药开发还是疾病检测，乃至健康服务和管理。通过这一领域的国际合作，各国最终将能够应对与解决历史性挑战，例如不必要的医疗过失、医疗成本迅速上升以及治疗与患者可及性方面的不平等。但为了达成这一目标，各国需要通力合作，将重要数据集联系起来，并就数据治理、数据访问和数据安全标准达成一致。各国在医疗健康这一领域开展合作的益处将远远大于竞争带来的影响，并提高世界各地的健康水平，改善每个人的健康状况。

　　同样，人工智能技术也有潜力推动教育领域的革新突破，改善课堂以及教育系统层面的流程和成果。由人工智能驱动的个性化和自适应的学习系统可以因应学生的不同能力改善教育成果，并提高全民受教育机会的公平性，不论他们的能力、所处地区或经济状况如何。人工智能还可以为各种与全球息息相关的项目提供决策和诊断工具。最重要的是，人工智能可以帮助各个国家培养和重新培训劳动力，以适应21世纪的工作，从而缓解可预见的劳动力流失——这可能是人工智能的进步给部分行业带来的副作用。

　　人工智能的应用甚至在制造业等领域也有巨大潜力。人工智能有助改善工厂和机械设备的预防性维护、提高工人安全和员工生产力，这将会带来更高效的生产，从而减少事故、错误和浪费，同时提供更优质的产品。人工智能甚至可以帮助各企业优化复杂的全球供应链，并预测市场变化。凭借人工智能，企业将能够建立更灵活、更可靠、更有弹性的端到端供应链，从而能够从全球突发事件中生存下来，就像近期的新冠疫情一样。

　　每个国家在上述及其他领域的最佳实践都应该共享，以造福全人类。创新会在世界各地“开花”，有助于为负责任的人工智能开发和应用提供新的经验和教训。这将反过来促进国际关系的改善，并为我们所有人创造更和平和繁荣的世界。

　　各国政府尚未、也无法跟上人工智能的飞速发展步伐，这不足为奇。

　　因此，头部公司、大学和科技专家必须与各自的政府合作，并最终与其他各国政府合作，为这项强大的技术制定标准和法规。过去在制定关于核武器和生物武器协议时也采取了类似的做法，各国就这些技术的全球标准达成的协议让世界变得更安全。

　　好消息是，国际合作模式的基础已经奠定。

　　近年来，世界各地的很多组织都发布了人工智能伦理发展原则和指南，为全球讨论提供了良好起点。尽管在某些问题的解释和相对重要性、以及执行意见上仍存在复杂的地区和文化差异，但全球似乎对以下核心原则达成一致：透明、公平、安全、责任和隐私。

　　一是透明原则，该原则要求创建决策易说明、可解释、可审核，且在设计和实施的过程中可监督的人工智能系统。人工智能系统和软件不能只是成为黑盒子，我们需要能够轻松了解该系统可以应用于哪里、何时使用以及如何使用。

　　二是公平原则。科技不应该加剧不平等、偏见和歧视，而是应该促进包容性，让尽可能多的人受益。

　　三是安全原则。人工智能技术绝不应造成可预见或意外的伤害。人工智能技术的设计应可靠且不易受损。

　　四是责任原则。如果人工智能系统的决策导致了问题的产生，就需要明确责任，并在必要时进行强制性补救。与此同时，研究人员和开发人员需要考虑人工智能技术的一切风险，并证明他们已采取具体行动来降低风险。

　　最后是隐私原则。因为如此多的人工智能应用依赖数据，所以需要有适当的机制来保护人们的权利、利益和个人隐私信息。人工智能系统需要以易理解的方式披露如何使用、存储和保护个人信息，用户也应该能够随时撤销其使用个人信息的权利。

　　越早通过共同治理结构协调和应用这些原则，就越有可能避免人工智能的负面后果。

　　这是一个不小的成就，也并不容易实现。但当务之急是越过原则这个议题，先明确全球承诺、协议、以及对违法行为后果有明确规定的国际法。

　　为此，我拓展了在麻省理工学院以外的项目，帮助牛津大学设立新的人工智能伦理研究所，并作为顾问委员会委员加入斯坦福大学“以人为本”人工智能研究院。

　　我也注意到中国不同群体在推广人工智能伦理原则方面的各项举措，包括中国新一代人工智能治理专业委员会发布的治理原则，以及在2018和2019年世界人工智能大会上宣布的两项上海人工智能治理举措。各国政府应优先参与这一领域。

　　最后，大部分在线出席会议的年轻人正在打造并将居住在这样一个世界，即人工智能和人们之间的紧密连接将从根本上改变我们所熟知的生活：我知道大家一定对未来的无限可能感到兴奋，难以想象未来人们的生活将因此而变得多么丰富。同时，我希望大家能够对维护人类的未来及其核心价值拥有强烈的责任感。

　　即使技术变革的速度和潜力促使大家做出不同的选择，大家也必须履行这一义务。在这个话题上，历史给出的答案再清楚不过了：革命性的技术，尤其是像人工智能这样的军民两用技术，需要人们，特别是那些开发这些技术的专家给予极大的关注。即使是面对不可避免的、前所未有的新压力，我还是希望大家遵循和平与稳定、包容与安全的原则。

　　在2018年世界人工智能大会上，中国国家主席***致以贺信，国务院副总理刘鹤在开幕式上致辞，均表达了中国与各国合作发展人工智能、造福人类的愿望。

　　这一目标从未像现在这样重要。是时候号召世界各国政府团结起来，从而确保人工智能发展成为积极的力量。

　　谢谢!