澎湃新闻 - 首页头条 ( ) • 2023-02-01 12:07

ChatGPT的开发者OpenAI正试图通过发行一种新工具来遏制用户将聊天机器人ChatGPT作为作弊工具使用的行为,该工具可以帮助教师检测作业是由学生还是人工智能完成的。

美联社1月31日报道称,此前美国的中小学与高校已就ChatGPT沦为作弊工具一事进行了长达数周的讨论,他们担心ChatGPT能够根据命令编写任何内容,这可能会助长学术不端并阻碍学习。

对此,OpenAI于1月31日推出了新的AI文本分类器,OpenAI表示,该工具除了阻止学术剽窃外,还可以帮助检测自动发布虚假信息的行为和其他滥用人工智能模仿人类的行为。

OpenAI指出,一段文本越长,该工具就越能检测出它是人工智能还是人类写的东西。输入任何文本,如大学入学论文或对拉尔夫·埃里森所著小说《隐形人》的文学分析等文本,该工具则会根据具体情况将其标记为“非常不可能、不太可能、不清楚是否是、可能或极有可能是AI生成的”。

不过,OpenAI警告说,它的新工具——就像其他已经可用的工具一样——并不是无懈可击的。负责提高系统安全性的OpenAI一致性团队负责人莱克(Jan Leike)表示,检测由AI编写的文本的方法“并不完美,有时会出错”,“正因为如此,在做决定时不应该仅仅依赖它。”

报道称,ChatGPT于去年11月30日作为免费应用程序在OpenAI的网站上推出,此后数以百万计的青少年和大学生开始试用ChatGPT。虽然许多人找到了颇具创造性且无害的ChatGPT使用方法,但ChatGPT可以轻松回答家庭测试问题并协助完成其他作业的能力在一些教育工作者中引发了恐慌。

据《纽约时报》今年1月16日报道,日前,美国北密歇根大学教授安东尼·奥曼 (Antony Aumann)评改“世界宗教”课程的结课论文时,发现一篇论文在提交上来的众多作业中脱颖而出。这篇文章以罩袍禁令的道德影响为题,段落简洁,例子恰当,论据严谨。但奥曼却暗暗生疑。在他质问学生之后,后者向他坦陈这篇文章其实是用ChatGPT生成的。奥曼所经历的“代写”事件远非个例,这也暴露出学生使用ChatGPT等人工智能科技可能引发的学术诚信、教学考核方式等各方面顾虑。