东方时讯网中佛罗里达大学的一位教授和其他26名研究人员发表了一项研究，确定了人类必须克服的挑战，以确保人工智能可靠、安全、值得信赖并符合人类价值观。
这项名为“六大以人为本的人工智能大挑战”的研究发表在《国际人机交互杂志》上。
UCF工业工程和管理系统系助理教授OzlemGaribay'01MS'08PhD是这项研究的首席研究员。她说，技术在我们生活的许多方面变得更加突出，但也带来了许多必须研究的挑战。
例如，人工智能即将广泛整合可能以尚未完全理解的方式显着影响人类生活，Garibay说，他从事材料和药物设计与发现中的人工智能应用，以及人工智能如何影响社会系统。
Garibay和研究团队确定的六个挑战是：
挑战1，人类福祉：人工智能应该能够发现它造福人类福祉的实施机会。在与AI交互时，还应该考虑支持用户的福祉。
挑战2，负责任：负责任的AI是指在AI生命周期中优先考虑人类和社会福祉的概念。这可确保以符合人类价值观和优先事项的方式利用人工智能的潜在优势，同时降低意外后果或违反道德规范的风险。
挑战3，隐私：应仔细考虑人工智能系统中数据的收集、使用和传播，以确保保护个人隐私并防止对个人或群体的有害使用。
挑战4，设计：AI系统以人为本的设计原则应该使用可以为从业者提供信息的框架。该框架将区分风险极低的人工智能、无需采取特殊措施的人工智能、风险极高的人工智能和不应被允许的人工智能。
挑战5，治理和监督：需要一个治理框架来考虑从概念到开发再到部署的整个AI生命周期。
挑战6，人机交互：为了在人机系统之间建立道德和公平的关系，交互必须建立在尊重人类认知能力的基本原则之上。具体来说，人类必须对人工智能系统的行为和结果保持完全的控制和责任。
这项研究进行了20多个月，包含了26位在AI技术领域具有不同背景的国际专家的观点。
“这些挑战要求创造以人为本的人工智能技术，优先考虑道德、公平和增进人类福祉，”Garibay说。“挑战促使采用以人为本的方法，包括负责任的设计、隐私保护、遵守以人为本的设计原则、适当的治理和监督，以及与人类认知能力的尊重互动。”
她说，总的来说，这些挑战呼吁科学界采取行动，开发和实施优先考虑和造福人类的人工智能技术。
该小组由26名专家组成，包括来自北美、欧洲和亚洲的美国国家工程院院士和研究人员，他们在学术界、工业界和政府部门拥有广泛的经验。该小组还拥有从计算机科学和工程到心理学和医学等领域的不同教育背景。
他们的工作也将出现在本书的一章中，人机交互：基础、方法、技术和应用程序。