每天，来自世界各地的数千名研究人员、企业和学术组织都在致力于开发人工智能的新应用。毫无疑问，它是近年来发展最快的技术领域之一。但尽管其不可否认的好处，它始终笼罩在争议的氛围中，这种争议源于人们对科幻反乌托邦电影中常见恐惧的担忧。
事实是，正如我们多次向您解释的那样，人工智能目前应用于健康、教育或营销等截然不同的领域。而现在，欧盟已决定规范其范围。
欧盟一项针对人工智能和社会评分系统的新法规
社会评分是一种根据包括在线数据或活动在内的多种因素来确定个人可信度或声誉的机制。其在中国的实际应用令一些人深感担忧，以至于有信息泄露称，欧盟将推出一项新法规以控制该地区人工智能和社会评分系统的使用，从而保护公民。
据《Politico》泄露，欧盟将于4月21日正式提出这项提案，展示了欧盟在面对某些人工智能应用时的坚定立场：虽然像社会评分这样的某些用途将被禁止，但该技术的其他用例将受到监管，类似于GDPR在数据保护领域的作用。
这将是一种与美国或中国等国家截然不同的使用方式。在这些国家，政府已经实施了“芝麻信用”——一个自2015年以来利用大数据对公民进行评分的系统，旨在构建一种“诚信”文化。
社会评分的前提是根据每个公民的行为来评估其可信度：他们在社交媒体、在线商店、论坛等上的帖子和互动都将被评估为正面或负面。在第一种情况下，公民将获得积分以实现某些福利，这些福利涵盖金融领域，例如银行机构提供的信贷。这有点像奥威尔的《1984》与游戏化策略的混合体。
相反，对于欧盟而言，大规模无差别的监控实践或基于人工智能使用的社会评分等评分系统被视为高风险。根据The Verge提供的数据，对这些实践的监管可能导致其被禁止；不遵守这一新法规的个人或企业，可能面临高达全球收入4%或2000万欧元的罚款（以较高者为准）。
这项新的监管提案将包含的一些措施
根据泄露的数据，新法规将包括：
- 禁止使用人工智能进行大规模监控，包括那些在物理环境中追踪个人或将数据从外部来源聚合的系统。
- 禁止用于社会评分或社会信用评分的人工智能系统，即不得根据数字系统追踪的个人社会行为或人格特征来评判一个人的可靠性。
- 使用“远程生物识别系统”需要特别授权，例如在公共场所使用面部识别技术。
- 除非“在特定情境和情况下显而易见”，否则还需要通知正在与人工智能系统交互的人员。
- 将对“高风险”人工智能系统实施新的监督，即那些对安全构成直接威胁的系统（如自动驾驶汽车），或那些极有可能影响个人生活的系统（如用于招聘决策或司法判决的系统等）。
- 将成立一个欧洲人工智能委员会，由所有国家的代表组成，协助决定哪些人工智能系统被视为高风险，并就修改禁令提出建议。
AI监控规则将有例外情况
这项新法规的关键要素之一是禁止实践清单，其中包括社会评分。根据报告，布鲁塞尔认为这些行为侵犯了个人的基本权利。然而，数字权利组织和专家对此点的反应是，如果该协议获得批准，则需加以改进。
该提案还将旨在禁止所有可能通过操纵人们的行为决策、利用或针对人们的弱点、种族或性别偏见以及大规模监控而伤害人们的人工智能系统。
然而，有必要澄清的是，泄露的规则规定了一项例外情况：允许当局在涉及公共安全问题的情况下更灵活地使用社会评分或人工智能系统，例如警察部队在监控摄像头中使用面部识别技术。
截至目前，这些都只是猜测。该提案草案可能会发生变化，而且一旦实施这项新法规，它也可能在收到意见后进行调整。你同意这项法规吗？
图片：Depositphotos