ChatGPT制造商发布AI检测工具

ChatGPT的制造商正试图通过一种新工具来遏制其随心所欲作弊机器的声誉，该工具可以帮助教师检测是否是学生或人工智能编写了该作业。

OpenAI周二推出了新的AI文本分类器，此前在学校和大学进行了长达数周的讨论，原因是担心ChatGPT能够根据命令编写任何内容，这可能会助长学术不诚实并阻碍学习。

OpenAI警告说，它的新工具——就像其他已经可用的工具一样——并非万无一失。负责提高系统安全性的OpenAI对齐团队负责人JanLeike表示，检测AI书写文本的方法“并不完美，有时会出错”。

“正因为如此，在做决定时不应该仅仅依赖它，”雷克说。

ChatGPT于11月30日作为免费应用程序在OpenAI的网站上推出后，数以百万计的青少年和大学生开始试用ChatGPT。虽然许多人找到了创造性且无害地使用它的方法，但它可以轻松回答家庭测试问题并协助完成其他作业，这在一些教育工作者中引发了恐慌。

到新年开学时，纽约市、洛杉矶和其他大型公立学区开始禁止在教室和学校设备上使用它。

西雅图公立学区发言人蒂姆·罗宾逊(TimRobinson)表示，西雅图公立学区最初于12月在所有学校设备上屏蔽了ChatGPT，但随后向希望将其用作教学工具的教育工作者开放了访问权限。

“我们不能忽视它，”罗宾逊说。

该地区还在讨论可能将ChatGPT的使用扩展到课堂中，让教师用它来训练学生成为更好的批判性思考者，并让学生将该应用程序用作“个人导师”，或者在完成作业时帮助产生新想法，罗宾逊说。

全国各地的学区表示，他们看到围绕ChatGPT的讨论正在迅速发展。

马里兰州卡尔弗特县公立学区的技术专家德文佩奇说：“最初的反应是‘天哪，我们将如何阻止ChatGPT发生的所有作弊行为’。”他说，现在人们越来越意识到“这就是未来”，阻止它不是解决方案。

“我认为，如果我们没有意识到这个工具带来的危险，我们就太天真了，但如果我们禁止他们和我们使用它的所有潜在力量，我们也将无法为我们的学生服务，”佩奇说，他认为地区像他自己一样最终会解锁ChatGPT，特别是一旦公司的检测服务到位。

2023年1月31日，星期二，在纽约，ChatGPT的制造商OpenAI的徽标出现在手机上。OpenAI正在推出一种新工具，试图用一种新工具来遏制其作为随心所欲作弊机器的声誉星期二，这可以帮助教师检测是否是学生或人工智能编写了该作业。图片来源：美联社照片/理查德·德鲁

OpenAI在周二的一篇博客文章中强调了其检测工具的局限性，但表示除了阻止剽窃外，它还可以帮助检测自动虚假信息活动和其他滥用人工智能模仿人类的行为。

一段文本越长，该工具就越能检测出是人工智能还是人类写的东西。输入任何文本——大学入学论文，或拉尔夫埃里森的“隐形人”的文学分析——该工具会将其标记为“非常不可能、不太可能、不清楚它是否、可能或可能”由AI生成.

但就像ChatGPT本身一样，它接受了大量数字化书籍、报纸和在线文章的训练，但经常自信地吐出谎言或胡说八道，很难解释它是如何得出结果的。

“我们根本不知道它关注什么样的模式，或者它在内部是如何运作的，”雷克说。“关于分类器的实际工作原理，目前我们真的无话可说。”

世界各地的高等教育机构也开始讨论负责任地使用人工智能技术。法国最负盛名的大学之一巴黎政治学院上周禁止使用它，并警告说，任何被发现偷偷使用ChatGPT和其他人工智能工具来制作书面或口头作品的人都可能被巴黎政治学院和其他机构禁止。

为了回应这种强烈反对，OpenAI表示它已经工作了数周，以制定新的指导方针来帮助教育工作者。

OpenAI政策研究员LamaAhmad表示：“与许多其他技术一样，一个地区可能认为它不适合在他们的课堂上使用。”“我们并没有真的以这种或那种方式推动他们。我们只是想给他们提供他们需要的信息，以便他们能够为他们做出正确的决定。”

对于这家以研究为导向的旧金山初创公司来说，这是一个不同寻常的公共角色，现在得到其合作伙伴微软数十亿美元的投资支持，并面临公众和政府日益增长的兴趣。

法国数字经济部长Jean-NoëlBarrot最近在加利福尼亚会见了包括首席执行官SamAltman在内的OpenAI高管，一周后在瑞士达沃斯举行的世界经济论坛上对听众表示，他对这项技术持乐观态度。但政府部长——麻省理工学院和巴黎法国商学院HEC的前任教授——表示，还有一些棘手的伦理问题需要解决。

“因此，如果你在法学院工作，就需要担心，因为显然ChatGPT以及其他工具将能够提供相对令人印象深刻的考试，”他说。“如果你在经济学系，那很好，因为ChatGPT很难找到或提供你在研究生级别的经济学系时所期望的东西。”

他说，用户了解这些系统如何工作的基础知识将变得越来越重要，这样他们才能知道可能存在哪些偏见。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！