朋友们听句劝 ChatGPT可太危险了

ChatGPT有多火？据2月1日瑞银发布的一项研究报告显示，仅仅发布两个月，ChatGPT月活跃用户已达1亿，这是历史上增长速度最快的应用。要知道达成1亿用户的时间，Instagram用了2.5年，TikTok用了9个月。

就连马斯克也评价ChatGPT称，“厉害得吓人，我们距离危险而强大的AI不远了”。目前，某个社交平台上关于“ChatGPT”的内容已经有3万+篇。“ChatGPT教程分享”帖子评论中也有不少人都展现出极大的兴趣。

ChatGPT除了在考试、面试、论文写作等应用领域面临被利用从而成为造假者的利器，在安全领域同样面临很多问题，很可能成为黑客编写恶意软件的利器。

自 ChatGPT 推出以来，引发了科技圈的广泛关注，但也有许多研究人员担心生成式 AI 在将 AI 平民化的同时也会将使网络犯罪大众化。这种担心不无道理，在某些黑客论坛，安全研究人员观察到有人使用 ChatGPT 写恶意代码的现象。

澳大利亚的大学将获得旨在打击使用ChatGPT作弊的新技术，但一些顶级机构正在回避该软件，因为教师希望重新设计测试以对抗人工智能的崛起。

全澳大多数大学将在周三选择使用流行的反抄袭软件服务Turnitin来检测学生是否使用聊天机器人来帮助写论文或完成评估。

但是，包括悉尼大学、莫纳什大学和迪肯大学在内的全国最大的一些机构已经表示：

他们不会使用该软件

至少在初期使用

而是加强其他检测方法

以抓到使用ChatGPT写论文的学生

新南威尔士大学的学术诚信专家Cath Ellis说，有一种 "真正的担心"，即检测工具可能导致大学错误地指控学生使用ChatGPT来做他们的工作。

她说："我们也可能最终从学者那里得到大量我们无法处理的转介，其中许多可能是虚假指控"。

"Turnitin正在发布这个工具，但高等教育部门的看法是，已经完成的测试类型还没有得到有效的沟通。"

Turnitin的区域副总裁James Thorley称，该公司的新工具能以98%的置信度识别学生是否在其作品中使用了人工智能聊天工具。他说，澳大利亚约有780所高中使用Turnitin，并将有机会使用新工具。

"长期禁止ChatGPT是不可行的"

"这个检测器不仅仅是为了维护学术诚信，也是为了了解人工智能写作工具如何改变评估的未来，"

然而，悉尼大学英语讲师Benjamin Miller说，他正选择为他的一年级学生重新设计评估，以应对聊天机器人。

"我立即开始思考在学术写作中使用ChatGPT的道德问题，我很惊讶它能写得这么好，而且使用得这么广泛"

"我现在给学生一个ChatGPT创作的写作样本，他们将被测试其分析和展示批判性思维的能力。他们也会被测试如何超越聊天机器人的能力。"

"ChatGPT在分析和评估方面并不出色，而且常常不能将各段的观点联系起来，所以你常常可以发现它是否被这样使用过。"

悉尼大学的一位发言人说，该机构不会立即使用Turnitin的新AI检测功能。

"他们说："我们的目标是避免在学期中对我们的系统做出重大改变，在没有充分的测试或可见性，或没有时间让员工做好准备的情况下。

该大学说，它将审查该功能的能力，看看它在评估学生的工作是否是原创时是否能帮助评分者。

该大学还在加强口试期间的面对面监督和更多的纸笔评估。

莫纳什大学还决定不使用Turnitin的工具，"因为该技术还处于起步阶段"。

"大学正专注于围绕负责任和适当的使用对学生进行教育。我们的目标是帮助学生了解如何在学习和评估中以道德和负责任的方式使用生成性人工智能，以及如何在他们目前或未来的职业生涯中有效地使用它"

迪肯大学说，Turnitin的工具在检测人工智能生成的文本方面有98%的准确率，但没有得到该机构的验证，并表示担心它是用过时的人工智能文本生成器模型进行训练的。

"迪肯大学数字学习部主任Trish McCluskey副教授说："在大学能够测试其功效之前，迪肯大学选择不在学生评估的评分中应用该工具。

"这是为了保护学生的数据，与越来越多的全球教育机构采取的方法一致，我们预计许多澳大利亚大学将跟随我们的步伐。"

然而，新南威尔士大学表示，该功能将供学者们谨慎考虑，但工作人员不会以任何方式依赖它。

新南威尔士大学学术副校长Merlin Crossley说，处理ChatGPT的解决方案是与学生更紧密地合作，并在高年级改进评估，因为那时班级人数较少，讲师与学生更熟悉。

Crossley认为，ChatGPT的兴起可能会导致合同作弊的减少--即学生付钱给外部公司来代写论文或完成工作--在过去两年里，大学面临的合同作弊已经达到创纪录的水平。

"学生不可能通过学位作弊。他们可以在最初几年走捷径，但最终很多问题只发生在学生课程的最初几年。"

说实话，ChatGPT的问题事实上是非常讽刺的。它讽刺的地方在于，作为现代大学所谓的后资本自由主义教育的产物，它正在摧毁这种教育本身。这是天大的机会，是一代一代在学术界摸爬滚打的马哲人都没有创造的机会。

祝大家一切顺利。