欧盟正在考虑禁止将人工智能用于一些目的，包括大规模监视和社会信用评分。这是根据网上流传的一份泄露的提议，由Politico首先报道，预计下周将有官方宣布。

如果提案草案获得通过，欧盟将在人工智能的某些应用上采取强硬立场，将其与美国和中国区分开来。一些用例将以类似于欧盟在GDPR立法下对数字隐私的监管的方式进行监管。

例如，成员国将被要求设立评估委员会，以测试和验证高风险人工智能系统。而在欧盟开发或销售违禁人工智能软件的公司——包括总部设在世界其他地方的公司——可能被处以高达其全球收入4%的罚款。

根据《边缘》看到的草案副本，条例草案包括：

• 禁止人工智能进行“不分青红皂白的监视”，包括在物理环境中直接跟踪个人或从其他来源收集数据的系统
• 禁止人工智能系统创造社会信用评分，这意味着根据社会行为或预测的个性特征来判断某人的可信度
• 在公共场所使用“远程生物识别系统”的特别授权，如面部识别
• 当人们与人工智能系统交互时需要通知，除非这是“从环境和使用环境中显而易见的”
• 对“高风险”人工智能系统的新监管，包括那些对安全构成直接威胁的系统，比如自动驾驶汽车，以及那些很有可能影响某人生计的系统，比如用于招聘、司法裁决和信用评分的系统
• 在高风险系统投入使用之前对其进行评估，包括确保这些系统对人类监督员是可解释的，并且他们接受过“高质量”数据集的培训，测试了偏差
• 建立一个“欧洲人工智能委员会”，由每个国家的代表组成，以帮助委员会决定哪些人工智能系统属于“高风险”，并建议修改禁令

也许文件中最重要的部分是第4条，它禁止人工智能的某些使用，包括大规模监视和社会信用评分。不过，数字权利组织和政策专家对草案的反应是，这一部分需要改进。

accessnow的欧洲政策分析师丹尼尔•鲁弗（danielleufer）对《边缘报》表示：“对拟禁止的人工智能系统的描述是模糊的，充满了不清楚的语言，这将为漏洞创造严重的空间。”。他说，这一部分“远不理想”

勒弗指出，禁止那些导致人们“行为、形成观点或做出不利于他们的决定”的制度，是毫无帮助的含糊不清。国家法律究竟如何决定一项决定是否对某人不利？另一方面，Leufer说，禁止人工智能进行大规模监控“过于宽松”。他补充说，禁止基于“可信”的人工智能社会信用系统的定义也过于狭隘。社会信用体系不必评估一个人是否值得信任，就可以决定他们是否有资格享受福利待遇。

在Twitter上，非营利组织IAPP（国际隐私专业人士协会）的副主席奥马尔•特内（omertene）评论说，这项规定“代表了布鲁塞尔对待新技术和创新的典型做法。如果提案获得通过，Tene说，它将创造一个“巨大的监管生态系统”，不仅吸引人工智能系统的创造者，也吸引进口商、分销商和用户，并在全国和欧盟范围内建立一批监管委员会。

不过，伦敦大学学院（universitycollege）数字权利与法规讲师迈克尔•维尔（michaelveale）表示，这种生态系统主要不是为了限制“大科技”。Veale告诉the Verge：“在它的视野中，主要是业务和决策工具的知名度较低的供应商，他们的工作经常在没有监管机构或他们自己的客户审查的情况下滑落。”。对于确保为数不多的人工智能公司销售安全关键系统或招聘、解雇、教育和警务系统达到高标准的法律，人们几乎不会掉泪。或许更有趣的是，这一制度将监管这些工具的购买者，例如，以确保有足够权威的人为监督。”

在欧盟政策制定者为4月21日的正式宣布做准备之际，还不知道该提案草案可能会有什么变化。不过，一旦该法规被提出，将根据欧洲议会的反馈意见进行修改，并将在每个国家分别实施。

更新时间：美国东部时间4月14日上午11:03:00：更新了迈克尔·维勒的评论。