人工智能能从登月的历史中学到什么

　　

　　在我从事人工智能研究的过去十年里，我听到最多的历史类比是原子弹。我们都知道这样一个故事:一群物理学家在第二次世界大战期间利用美国军方的无限资源，发明了一种改变世界、可能毁灭世界的核武器。2019年，OpenAI首席执行官萨姆·奥特曼(Sam Altman)不经意地将他的公司与这一努力进行了比较，并强调了他与领导制造炸弹团队的物理学家j·罗伯特·奥本海默(J. Robert Oppenheimer)同一天生日。即使你不是历史教授，也能明白为什么选择这个类比是令人不安的。

　　对于科技飞速发展的世界中的许多人来说，原子弹的发明，绰号“曼哈顿计划”，是在创纪录的时间和巨大的压力下完美地完成了一项曲折复杂的任务。仰慕者会说，他们看重的不是大规模破坏，而是项目的速度、雄心、影响和力量。这些品质本身并没有错。寻求帮助人们的解决方案的速度是受欢迎的。如果运用得当，野心和权力可以带来巨大的好处。但是，谁在做出这些关于变革技术的创造、规模和应用的决定呢?他们的动力是什么?他们从哪里获得力量?

　　

　　人工智能的目的不可能是取胜，不可能是震惊，不可能是伤害。然而，一些人工智能专家如今轻松地将其称为国家安全工具，这表明了一种破碎的文化。竞争力是自然和健康的，但我们必须避免危险的夸张，特别是那些不了解其背后历史的人。

　　今天的地缘政治环境不稳定，令人不安，但从上次全球战争的残骸中出现的国际机构存在的原因是避免再次发生这样的破坏。暗示人工智能类似于原子弹，不利于这项技术的积极潜力，也没有达到技术专家应该达到的高标准。

　　它将一场原本很重要的辩论引入并煽情化。它意味着我们必须把所有的精力都投入到防止机器对人类的毁灭上，这些机器现在已经释放出来，我们无法控制。它假定了整个社会在防止伤害方面的无能为力，同时夸大了那些建造这项技术的人的优越感和重要性。通过提高自己的地位，它让那些最接近这项技术的人，那些被认为知道其未来影响和影响真相的人，在公共政策决策中拥有了不成比例的发言权。

　　所以，如果你不希望未来由占主导地位的单一文化塑造，那么答案是什么?幸运的是，我们以前见过这种故事的版本，我们可以从中吸取教训。事实上，研究历史可以为我们奠定基础，给我们定位。它是理解我们未来的关键，也是科学创新的重要伴侣。但它需要谦虚地吸取教训，这些教训可能并不总是令人愉快的，而这种品质往往是在以利润为导向的技术进步竞赛中获得的。

　　有了历史和政治背景，我进入了人工智能的世界，目的是在科技行业和整个社会之间进行调解。我很快意识到，我从这些学科中获得的洞察力在“未来的土地”中是严重缺失的。回顾过去民主社会是如何应对变革性技术的，这将照亮我们前进的道路，我努力寻找历史上的例子，而不是无处不在的原子弹类比——最近改变世界的技术的历史，并不总是把技术专家放在它们的中心。

　　通过过去的成功和失败，我们有可能看到一条不同的前进之路，一条不接受有缺陷的天才的意识形态，也不接受颠覆必须以最弱势群体的巨大代价为代价的意识形态。相反，这些例子表明，科学是一种人类的实践，从来没有价值中立。我们可以建立和使用和平目的的技术，服务于公共利益，拥抱其局限性而不是与之抗争，并植根于社会信任。这是有可能的，但只有通过那些建立它的人的深刻意图，那些负责监管它的人的有原则的领导，以及我们这些经历它的人的积极参与。这是可能的，但前提是有更多的人参与进来，坐在桌前，发出自己的声音。

　　作为一个物种，作为一个星球，我们需要新技术来前进，帮助我们在大大小小的问题上取得进展，就像我们一直拥有的那样。这就是为什么人工智能的未来如此重要，谁来构建它，谁来对它的发展有发言权。为了引导这种变革性的技术，使其符合我们最好、最光明的理想，而不是我们的影子，我们需要正视它目前所处环境的现实。

　　

　　因为毫无疑问，在硅谷和其他地方的科技行业存在文化问题，这对人工智能的未来是危险的。太多有权势的人活下来了。太多的妇女和未被充分代表的群体遭受痛苦并离开。信任正在减弱。贪婪正在获胜。

　　从最近三项变革性技术的历史和治理——太空竞赛、体外受精(IVF)和互联网——我将论证，在一个民主社会中，无数公民能够而且应该在塑造人工智能的未来方面发挥积极作用。科学和技术是由人类创造的，因此本质上是政治性的，由人类的价值观和时代的偏好所决定。认识到这一点，我们就有了希望，而不是恐惧。

　　我们可以从1967年《联合国外层空间条约》这一外交成就中获得希望，该条约确保外层空间成为“全人类的领域”，并且在你读这篇文章时，月球上没有核武器。在处理太空竞赛的过程中，美国总统艾森豪威尔、肯尼迪和约翰逊向我们表明，在追求国防私利的同时，追求国际合作与和平主义的更大理想是可能的。

　　我们也可以从路易丝·乔伊·布朗的出生中获得希望。1978年，第一个通过体外受精出生的婴儿引发了一场生物技术革命，这场革命让数百万人感到高兴，也让数百万狮子深感不安，但由于谨慎地设定界限和追求共识，这场革命取得了胜利。沃诺克委员会在解决有关试管婴儿和胚胎研究的争论方面取得的非凡成功表明，广泛的声音可以为有争议的问题提供监管信息。

　　伟大的立法是妥协、耐心、辩论和将技术问题传达给立法者和公众的努力的产物。这样的过程可以在沙地上划出易于理解和坚定的界限，这让公众放心，并为私营企业提供在这些界限内创新和盈利的信心。

　　

　　我们可以从互联网的早期学习，这是一个引人入胜的政治和商业故事，以及互联网名称与数字地址分配机构(ICANN)的创建，这是一个默默无闻的机构，通过多方利益相关者和多国合作与妥协，支撑着自由开放的全球网络。早期互联网的先驱们本着持续合作的精神建立了这种改变世界的技术，不断吸引利益相关者，并随着情况的变化修改想法和计划。

　　当互联网发展到足够大，这个系统变得笨拙时，技术专家们建立了管理机构来管理和约束这个新领域的参与者，同时保留了创始精神的各个方面。必要时，政府介入，提供协调和指导，确保狭隘的、相互冲突的私人利益不会破坏互联网。

　　最后，当整个世界需要感受到更多地融入这种治理时，高明的政治手腕让它摆脱了美国的控制，成为全球性的、真正独立的国家。

　　

　　看看这些故事——创新、外交，以及普通人在会议室里试图让事情运转起来的非常平淡无奇的努力——我们可以开始看到人工智能的不同未来。巨大的变革从来都不容易，让人工智能走上正轨需要政府、科技公司和公众付出巨大的努力。我们可能不会成功。但是，我们最好的机会将来自于用昨天的经验教训来指导我们今天的行动。

　　历史表明，我们可以给人工智能灌输一种深刻的意向性，一种认识到我们的弱点，与我们的优势保持一致，并为公共利益服务的人工智能。改变人工智能的未来并拯救我们自己是有可能的。但要实现这一点，人工智能需要你。

　　这是普林斯顿大学出版社出版的维里蒂·哈丁(Verity Harding)的一本书节选，现在出版，建议零售价39.99澳元。