埃隆·马斯克已经向未来生命研究所捐赠了数百万美元，现在该组织正把这笔钱用于资助研究，以保持人工智能的“健壮和有益”——也就是说，它不会像天网那样开启人类。该研究所本周宣布，它将向37个研究团队发放补助金，而申请者名单上大约有300人。这些团队正从不同的角度着手解决**级人工智能问题，包括教人工智能学习人类想要什么，让机器人的兴趣与我们的兴趣保持一致，以及让人工智能处于人类的控制之下。

研究所提供了这份摘要，重点介绍了一些赠款：

• Three projects developing techniques for AI systems to learn what humans prefer from observing our behavior, including projects at UC Berkeley and Oxford University
• A project by Benja Fallenstein at the Machine Intelligence Research Institute on how to keep the interests of superintelligent systems aligned with human values
• A project lead by Manuela Veloso from Carnegie Mellon University on making AI systems explain their decisi*** to humans
• A study by Michael Webb of Stanford University on how to keep the economic impacts of AI beneficial
• A project headed by Heather Roff studying how to keep AI-driven weap*** under "meaningful human control"
• A new Oxford-Cambridge research center for studying AI-relevant policy

该研究所的网站上有一份获奖者的完整名单，以及他们的项目描述。

大约700万美元将被分成两个研究团队，分别来自马斯克和开放慈善项目。大多数项目应该在今年9月开始工作，研究所打算将它们的资金维持三年。该项目还有剩余的400万美元，将在稍后分发，因为研究所确定哪些领域的研究似乎是最有希望的。

这项研究也解决了更多的实际问题

虽然有很多人说这项研究是为了防止出现终结者的情况，但研究所现在明确地试图淡化这种语言。”“终结者场景的危险并不在于它会发生，而是它会分散人们对未来人工智能所带来的真正问题的注意力，”未来生命研究院院长马克斯·泰格马克在一份声明中说我们保持专注，今天的资助支持的37个团队应该有助于解决这些现实问题。“这是一个公平的声明：研究所正在考虑一些非常实际的问题，包括如何优化人工智能的经济影响，这样它就不会因破坏就业机会而造成进一步的收入不平等。它还研究了人工智能应该如何处理道德困境，比如在不可避免的车祸中被提出不同的选择。

也就是说，组合中有很多***器人的问题。特斯拉（Tesla）和SpaceX的首席执行官马斯克（Musk）非常明确地表示，这是他自己的担忧。他过去在讨论他对人工智能进化的担忧时提到了终结者，并表示人工智能有可能“比核更危险”。未来生命研究所的部分目标是通过确保人工智能保持在人类控制之下并遵循人类的最佳利益来防止这种可能性。前37个项目是这项工作的开始。这看起来还为时过早，但是马斯克和其他研究所的支持者更愿意看到研究现在就完成，而不是在强大的人工智能已经存在的时候。