向用户解释机器学习模型的交互式平台

机器学习模型现在广泛应用于各个专业领域，同时也支撑着许多智能手机应用程序、软件包和在线服务的功能。虽然大多数人都接触过这些模型并以某种形式与它们互动，但很少有人完全理解它们的功能和底层流程。

此外，近年来，机器学习算法变得越来越复杂，即使对于经验丰富的计算机科学家来说，其预测背后的过程也难以解释。为了增加人们对这些高度先进且有前途的计算工具的信任，一些研究团队一直在尝试创建所谓的可解释人工智能(XAI)。

这些本质上是机器学习模型，至少可以部分解释他们如何得出给定的结论，或者他们在做出特定预测时关注的数据“特征”。虽然XAI技术可能更加稳健和可靠，但其中大多数技术并未取得特别有希望的结果，因为它们的解释常常留下解释的空间。

加州大学欧文分校和哈佛大学的研究人员最近开发了TalkToModel，这是一种交互式对话系统，旨在向工程师和非专家用户解释机器学习模型及其预测。他们的平台在《自然机器智能》中引入，允许用户获得有关人工智能模型及其功能的简单且相关的答案。

进行这项研究的研究人员之一迪伦·斯莱克(DylanSlack)告诉TechXplore：“我们有兴趣找到更好地实现模型可解释性的方法。”“然而，从业者常常很难使用可解释性工具。因此，我们认为如果让从业者直接与机器学习模型‘对话’可能会更好。”

Slack和他的同事最近的研究建立在他们早期专注于XAI和人机交互的工作的基础上。其主要目标是推出一个新平台，以简单易懂的方式向用户解释人工智能，类似于OpenAI的对话平台ChatGPT回答问题的方式。

他们的系统具有三个关键组件：自适应对话引擎、执行单元和对话接口。自适应对话引擎经过训练，可以用自然语言解释输入文本并对这些文本生成合理的响应。

执行组件本质上是组成“人工智能解释”，然后将其翻译成可理解的单词并发送给用户。最后，对话界面本质上是用户可以输入提示并查看答案的软件。

“TalkToModel是一个能够与机器学习模型进行开放式对话的系统，”Slack解释道。“您只需向系统询问一个问题，了解您的模型为何执行某些操作并获得答案。这使得任何人都可以轻松理解模型。”

为了确定用户是否会发现他们的系统有用，该团队要求不同的专业人士和学生对其进行测试并分享他们的反馈。总体而言，大多数研究参与者发现它有些有用和有趣，73%的参与医疗保健工作者表示他们会使用它来更好地理解基于人工智能的诊断工具的预测，85%的机器学习开发人员确认它比其他XAI工具更容易使用。

未来，这个平台可以进一步完善并向公众发布。这可能有助于旨在提高人们对人工智能的理解以及对其预测的整体信任的持续努力。

“我们对人类(包括研究生、机器学习工程师和医护人员)的研究结果非常有趣，”斯莱克补充道。“他们认为，该系统对于任何人理解模型及其工作原理都非常有用。我们现在希望继续探索使用更先进的人工智能系统(例如ChatGPT风格模型)的方法，以改善此类系统的体验。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！