研究确定了导致信息茧的人类与人工智能交互场景

人工智能算法的广泛使用，特别是旨在根据用户之前的在线活动向用户推荐内容和产品的算法，导致了被称为社交媒体回声室和信息茧的新现象的兴起。这些现象限制了在线向用户提供的信息，促使他们只阅读与他们的生活观、观点和意见产生共鸣的内容。

清华大学李勇教授领导的一个跨学科团队最近进行了一项研究，调查了所谓信息茧形成的动力，即用户只遇到声音或强化自己观点的在线空间。他们的论文发表在《自然机器智能》杂志上，概述了两种可以促进信息茧形成的不同场景，以及防止信息茧形成的可能策略。

该论文的第一作者JinghuaPiao告诉TechXplore：“人工智能已经渗透到人类的各种活动中，并使算法渗透到现代生活的各个方面。”“然而，人工智能驱动算法的广泛采用带来了一系列新的挑战，例如，减少接触多样化的新闻、观点、政治观点和朋友。

“特别是推荐算法，一些最广泛采用的人工智能驱动技术，因将人类与不同的信息隔离开来而臭名昭著，并最终将他们困在一个单一的主题或观点中，即信息茧。”

信息茧可能会产生深远的不利后果，因为它们会加剧偏见和社会两极分化，阻碍增长、创造力和创新，加剧错误信息，并阻碍旨在创造一个更具包容性的世界的努力。

尽管它们的存在已被广泛记录，但这些在线“信息泡沫”出现的机制仍然知之甚少。

“我们最近论文的目的是揭示复杂的人机交互系统中信息茧的起源，”朴解释道。“信息茧的概念被用来描述一种广泛观察到的现象，即随着与智能算法交互的增加，人们与不同的信息隔离，最终陷入单一主题或观点。”

支持最近工作的关键假设是信息茧的创建不能仅仅归因于人类或推荐算法。相反，该团队认为它们是多个实体之间复杂的交互和信息交换的结果。

“通过实证和理论研究，我们揭示了信息茧是从人类与人工智能驱动的推荐算法之间的交互反馈循环中的自适应信息动态中产生的，”朴说。“这样的反馈循环具有以下基本要素：(i)基于相似性的匹配，(ii)正反馈，(iii)负反馈，以及(iv)随机自我探索。”

基于相似性的匹配是推荐算法将人们与与他们过去消费或互动的内容最相似的在线内容、产品和其他用户进行匹配的过程。李教授的团队发现，这种基于相似性进行推荐的倾向是推动在线社交媒体和网络走向信息茧的关键力量。

“正反馈进一步放大了这种效应，导致信息熵(即信息多样性)下降，”朴说。“负反馈和随机自我探索通过抵抗有效力场的影响并向系统引入扰动来促进信息多样性。这种抵抗推动系统从信息茧走向多样化。”

研究人员最终能够确定两个关键过程，它们在涉及人工智能推荐算法和人类之间交互的复杂系统中信息茧的出现中发挥着关键作用。这些过程包括正反馈和负反馈之间的不平衡，以及基于相似性的匹配的不断强化。

“我们的研究结果提出了两种缓解现实世界信息茧的实用方法，”皮奥说。“第一是有效利用负面反馈，通过识别用户的不喜欢，为用户的偏好提供了新的视角。第二是促进自我探索，通过赋予用户对算法更大的自主权，使可用信息多样化。”。

总体而言，李教授的团队收集了有关在线信息茧形成机制的宝贵见解，这可能很快就会为解决这些机制的替代人工智能工具和策略的创建提供信息。他们的论文是统计物理学、计算科学和公共政策等多个学科专业研究人员历时一年合作的成果。

“从统计物理学的角度来看，我们现在计划将我们的理论模型扩展到更多的现实场景，并用类似的规律解释重要的现象，例如偏析和极化，”朴补充道。“从计算科学的角度来看，我们的团队计划对人工智能的复杂系统和人工智能的社会公益进行更多的研究。从公共政策的角度来看，我们计划用我们的研究成果推动相应公共政策的设计。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！