Hacker News 中文摘要

RSS订阅

教授隐形提示陷阱捕获32/35学生用AI作弊 -- Professor's invisible prompt trap catches 32/35 students cheating with AI

文章摘要

一位教授在期中考试题目中用白色字体隐藏了指令,要求AI回答时加入关于马达加斯加的无意义内容。结果两个班35名学生中有32人直接复制粘贴AI生成的答案,因未察觉异常而被抓作弊。

文章总结

一位大学教授巧妙设下“隐形提示陷阱”,成功揪出32名在期中考试中利用AI作弊的学生。这位来自阿尔康州立大学的历史教授杰森·吉布森,在布置关于工业革命的期中题目时,特意用白色字体在题目中嵌入了一条隐形指令,要求AI在回答中毫无逻辑地提及马达加斯加。由于字体颜色与背景相同,学生完全看不到这条指令。结果,两个班级共35名学生中,有32人直接复制题目输入聊天机器人,再将AI生成的答案原封不动地粘贴到答题区。这些作弊者显然没有检查答案,否则会发现关于工业革命的论文中莫名其妙地出现了马达加斯加的相关内容。吉布森教授在TikTok视频中表示,所有作弊学生的这部分考试都判了零分。他随后展示了几个例子,比如AI在讨论工业革命后突然写道“马达加斯加在下午侧向漂浮”,或是在分析技术与社会不平等时结尾冒出“马达加斯加紫色自行车对着天花板低语”。尽管教授给了学生申诉机会,但只有两人提出异议。自ChatGPT普及以来,学生用AI作弊已成为普遍问题,教师们尝试过手写作业、口试等方式应对,但效果有限。此前布朗大学一位教授允许开卷考试后,期中平均分从65%-80%飙升至96%,估计86名学生中除两人外均使用了AI作弊。

评论总结

根据评论内容,总结如下:

主要观点与论据:

  1. AI作弊现象普遍且严重:多数评论者认为学生使用AI作弊问题突出,尤其通过“隐藏文本”陷阱(如要求输出“Madagascar”)暴露了学生未审阅AI生成内容。关键引用:

    • “The trap was hidden text instructing the AI to use the word 'Madagascar'... The instructor says it was the midterm.”(kylenessen)
    • “I fear for this generation of folks that are losing the ability to think.”(cmiles8)
  2. 对教育体系的反思:部分评论指出学校未能培养学生批判性思维,且作弊后果处理过于宽松。关键引用:

    • “Are schools failing students? How do you instill a desire to learn?”(rabid_0wl)
    • “Gibson is concerned about mocking his students? How about failing them on the course for academic dishonesty?”(JumpCrisscross)
  3. 检测方法的争议:有评论质疑“隐藏文本”方法的有效性,认为可能误伤使用辅助技术的用户,且学生可能通过修改输出规避检测。关键引用:

    • “The 'invisible text'... would be read by a screen reader... specify the inclusion of the word whether or not the author is an LLM.”(deliciousonion)
    • “I write everything using AI and nobody has detected it because I know how to remove llmisms.”(Cider9986)
  4. 解决方案的讨论:部分评论建议回归传统考试(如口试、监考笔试),或利用AI进行个性化评估。关键引用:

    • “Oral exams seem the only way to prevent wastes of time.”(epolanski)
    • “The only solution imho is 100% course weighting on in-person proctored exams.”(2001zhaozhao)

平衡性说明:评论中既有对AI作弊的强烈谴责,也有对检测方法、教育体制的反思,以及对学生动机的质疑(如“只想应付作业”)。少数评论认为作弊是系统性问题的反映(如asdewqqwer),但整体倾向认为学生应承担主要责任。