谷歌关于人工智能的新原则需要更好地保护人权

人们越来越担心 AI的潜在风险-以及对技术巨头的批评。在所谓的AI 冲突或“技术冲突 ”之后，各州和企业开始意识到AI的设计和开发必须符合道德，造福社会和保护人权这一事实。

在过去的几个月中，Google 面对其员工的抗议，反对该公司与的AI工作。国防部与Google签订合同，开发了AI，用于分析所谓的“ Project Maven ”中的无人机镜头。

据报道，谷歌的一位发言人说：“公司的强烈反对非常可怕 ”，“我们有责任表现出领导才能。” 她提到“揭露新道德原则的计划”。这些原则现已发布。

谷歌首席执行官桑达尔·皮查尔(Sundar Pichar)承认 “这一领域是充满活力且不断发展的”，并表示谷歌愿意“随着时间的流逝而适应我们的方法”。这一点很重要，因为尽管原则是起步，但要使Google在保护人权方面变得有效，还需要做更多的工作和做出更多具体的承诺。

Google关于AI的原则

对社会有益。

避免造成或加强不公平的偏见。

进行安全性测试。

对人负责。

纳入隐私设计原则。

坚持高标准的科学成就。

可用于符合这些原则的用途。

Google还承诺不追求：

造成或可能造成整体伤害的技术。

武器或其他技术，其主要目的或实现主要是造成或直接促进人员伤害。

收集或使用信息进行监视的技术，违反了国际公认的规范。

其目的违反了国际公认的国际法和人权原则的技术。

但是，有关如何实际执行的细节很少。

人工智能应用可能会造成广泛的危害

Google的原则认识到AI有偏见的风险及其对隐私的威胁。考虑到Google搜索算法可以重现种族和性别刻板印象的发现，这一点很重要。但是，这些原则未能承认所有人权所面临的广泛风险以及需要保护这些人权的必要性。例如，有偏见的算法不仅会导致歧视，还会影响获得工作机会的机会。

除了搜索引擎外，谷歌的其他业务也可能引发人权问题。谷歌创建了Jigsaw公司，该公司使用AI来管理在线内容，以解决在线上的辱骂性语言，威胁和骚扰。但是内容限制也可能对言论自由权构成威胁。

Google Brain正在使用机器学习来预测病历对健康的影响，Google Cloud将与Fitbit合作。这两个示例都引起了隐私和数据保护方面的担忧。我们的同事还质疑，诸如Google DeepMind和NHS之类的合作伙伴关系是否有利于或破坏了州建立医疗保健系统的义务，该体系“为人们提供了机会，使他们享有可达到的最高健康水平。”

Google应该怎么做?

Google的整体方法应基于寻找人工智能在不侵犯人权的情况下对社会有益的方法。Google解释了其“对社会有益”的第一条原则，说 “ 只有在我们认为总体可能的收益大大超过可预见的风险和不利因素的情况下，才能进行”。但是，在风险与利益之间取得平衡的方法与人权不符。诸如Google之类的州或企业无法开发一种AI，该AI承诺以牺牲少数人或特定社区的人权为代价使某些人受益。相反，它必须找到一种方法来确保AI不损害人权。

因此，Google需要在整个开发和部署过程中充分考虑AI对人权的影响。尤其是这样，因为即使技术不是为有害目的而设计的，也可能会带来风险。国际人权标准和规范(包括《联合国企业与人权指导原则》)涵盖了包括谷歌在内的企业在人权方面采取行动的目的和效果。这些现有责任必须在Google的原则中更清晰地体现出来，尤其是在Google为保护人权伤害(即使是无意的)而将采取的积极行动方面。

为了对AI的开发和部署负责，Google需要超越当前的尝试性语言，鼓励鼓励隐私体系结构并确保“适当的人类指导和控制”，而无需解释谁决定什么合适的以及在什么基础上做出决定。它需要将人权纳入AI的设计中，并将诸如人权影响评估和独立监督与审查程序等保障措施纳入原则。

这些原则还应详细说明如何纠正对人权的损害，以及受影响的个人和团体如何提出要求，而目前这种要求尚不存在。

前进的方向?

谷歌首席执行官桑达尔·皮查尔(Sundar Pichar)提出了这些原则，认识到AI的开发和使用方式将“在未来许多年内对社会产生重大影响”。根据Sundar的说法，Google在AI领域的开拓性作用意味着该公司“对实现这一目标负有深远的责任”。

尽管这些原则是一个重要的起点，但要确保我们的人权得到保护，就需要进一步发展。下一步，谷歌将在其AI开发过程中嵌入人权，保障和问责流程。这就是“正确处理”所需要的。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！