应对学生通过ChatGPT生成论文,斯坦福大学推出DetectGPT

2023-01-29 08:00来源:IT之家   阅读量:12836   

扫描二维码分享

大语言模型的使用正在迅速增加,尤其是最近非常流行的ChatGPT但是,因为它是如此强大,它甚至可以为学生生成论文因此,需要一种系统来检测机器生成的文本

最近,斯坦福大学的一个研究团队提出了一种名为DetectGPT的新方法,旨在成为首批打击高等教育中机器生成文本的工具之一这种方法的原理是LLM生成的文本通常徘徊在模型对数概率函数负曲率区域的特定区域通过这一发现,该团队开发了一种新的指标来判断文本是否是机器生成的,不需要训练人工智能或收集大型数据集来比较文本

这种方法被称为零学习,允许DetectGPT在不知道使用什么人工智能工具来生成文本的情况下,检测机器编写的文本其操作与其他需要训练分类器和生成段落数据集的方法形成鲜明对比

本站了解到,该团队在假新闻文章的数据集上测试了DetectGPT,在检测机器生成的文本方面,它的表现优于其他零时间学习方法该团队声称,检测性能已经得到了实质性的提高,并表明DetectGPT可能是一种有前途的方法,可以仔细检查机器生成的文本

总之,DetectGPT是一种新的检测机器生成文本的方法,它利用了LLM生成文本的独特特性它是一种零阶学习方法,不需要任何额外的数据或训练,这使它成为识别机器生成文本的高效和有效的工具伴随着LLM的使用持续增长,用于检测机器生成文本的相应系统的重要性将变得越来越关键DetectGPT是一种很有前途的方法,可以在很多领域产生很大的影响,它的进一步发展可能有益于很多领域

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

返回顶部
返回顶部