东方时讯网我们都与聊天机器人进行过某种互动。它通常是网站角落的一个小弹出窗口，提供客户支持——通常导航起来很笨拙——而且几乎总是令人沮丧的非特定。
但想象一下，一个由人工智能(AI)增强的聊天机器人不仅可以专业地回答您的问题，还可以撰写故事、提供生活建议，甚至可以创作诗歌和编写计算机程序。
OpenAI上周发布的聊天机器人ChatGPT似乎正在实现这些成果。它引起了极大的兴奋，有些人甚至暗示它可能预示着人工智能将统治人类内容制作者的未来。
ChatGPT做了什么来预示这种说法?它(及其未来的迭代)如何成为我们日常生活中不可或缺的?
ChatGPT可以做什么?
ChatGPT建立在OpenAI之前的文本生成器GPT-3之上。OpenAI通过使用机器学习算法处理大量文本数据(包括书籍、新闻文章、维基百科页面和数百万个网站)来构建其文本生成模型。
通过摄取如此大量的数据，模型学习了复杂的语言模式和结构，并获得了解释用户请求的预期结果的能力。
ChatGPT可以构建训练数据中知识的复杂和抽象表示，它利用这些表示来生成输出。这就是为什么它会编写相关内容，而不只是吐出语法正确的废话。
GPT-3旨在继续文本提示，而ChatGPT则经过优化以进行对话参与、回答问题和提供帮助。这是一个例子：
ChatGPT界面的屏幕截图，解释了图灵测试。
ChatGPT通过正确回答我问过本科生和研究生的考试问题(包括需要编码技能的问题)立即引起了我的注意。其他学者也有类似的结果。
一般来说，它可以就范围广泛的主题提供真正翔实和有用的解释。
ChatGPT甚至可以回答有关哲学的问题。
ChatGPT还可以用作写作助手。它在起草文本和提出看似“原创”的想法方面做得不错。
ChatGPT给人以集思广益“原创”想法的印象。
反馈的力量
为什么ChatGPT看起来比它过去的一些同行更有能力?很多这可能归结为它是如何训练的。
在其开发过程中，ChatGPT展示了人类AI培训师之间的对话，以展示所需的行为。尽管有一个以这种方式训练的类似模型，称为InstructGPT，但ChatGPT是第一个使用这种方法的流行模型。
它似乎给了它巨大的支持。结合人工反馈有助于引导ChatGPT朝着产生更有帮助的响应和拒绝不适当请求的方向发展。
ChatGPT通常会故意拒绝不适当的请求。
拒绝接受不当输入是提高AI文本生成器安全性的特别重要一步，否则它可能会产生有害内容，包括偏见和刻板印象，以及假新闻、垃圾邮件、宣传和虚假评论。
过去的文本生成模型因反复出现训练数据中包含的性别、种族和文化偏见而受到批评。在某些情况下，ChatGPT成功地避免了强化这种刻板印象。
在许多情况下，ChatGPT避免强化有害的刻板印象。在这份软件工程师名单中，它提供了男性和女性的名字(尽管都是非常西方的)。
尽管如此，用户已经找到了规避其现有保护措施并产生有偏见的反应的方法。
系统经常接受编写虚假内容的请求这一事实进一步证明它需要改进。
尽管有保护措施，ChatGPT仍然可能被滥用。
克服局限
ChatGPT可以说是最有前途的AI文本生成器之一，但它并非没有错误和限制。例如，编程咨询平台StackOverflow暂时禁止聊天机器人给出不准确的答案。
一个实际问题是ChatGPT的知识是静态的;它不会实时访问新信息。
然而，它的界面确实允许用户通过指示理想答案并报告有害、错误或无益的响应来对模型的性能提供反馈。
OpenAI打算通过将此反馈纳入系统来解决现有问题。用户提供的反馈越多，ChatGPT就越有可能拒绝导致不良输出的请求。
一种可能的改进可能来自于根据用户反馈添加“信心指标”功能。这个工具可以建立在ChatGPT之上，可以表明模型对其提供的信息的信心——让用户决定是否使用它。一些问答系统已经这样做了。
一种新工具，但不是人类的替代品
尽管存在局限性，但ChatGPT的原型效果出奇地好。
从研究的角度来看，它标志着人类对齐人工智能系统的开发和部署取得了进步。在实际方面，它已经足够有效，可以用于一些日常应用。
例如，它可以用作Google的替代品。虽然Google搜索需要您筛选多个网站并深入挖掘以找到所需信息，但ChatGPT会直接回答您的问题——而且通常做得很好。
ChatGPT(左)在某些情况下可能被证明是一种比谷歌搜索更好的快速找到答案的方法。
此外，随着用户的反馈和更强大的GPT-4模型的出现，ChatGPT可能会在未来得到显着改进。随着ChatGPT和其他类似的聊天机器人变得越来越流行，它们可能会在教育和客户服务等领域得到应用。
然而，虽然ChatGPT可能最终会执行一些传统上由人完成的任务，但没有迹象表明它会很快取代专业作家。
尽管他们的能力甚至明显的创造力可能会给我们留下深刻印象，但人工智能系统仍然是他们训练数据的反映——并且不具备与人类相同的原创性和批判性思维能力。