随着ChatGPT等生成式人工智能技术在中小学教室中的普及，AI检测工具也随之出现。根据民主与技术中心对教育工作者的最新调查，大多数教师使用AI检测程序来评估学生的作业是否在生成式AI的辅助下完成，学生因使用生成式AI而受到的惩罚也在增加。
然而，斯坦福大学教育学院学习科学与技术设计以及STEM教育副教授Victor Lee指出，AI检测工具并不完美。“它们是容易出错的，你可以绕过它们，”他说，“错误的指控是一个非常严重的指控，而且伴随着严重的伤害风险。”
例如，休斯顿一所国际文凭高中的高三学生表示，老师可能会声称在之前的课堂中有六名学生通过了AI检测测试，尽管他不确定这是否属实，或者老师是否只是在使用这种说法来吓唬学生。“如果我面对的老师心里百分之百确定我使用了AI，即使我没有，那将是一个困难的场景……这对学生来说可能非常有害。”
民主与技术中心的调查显示，生成式AI产品正日益成为教师和学生日常生活的一部分，学校也在适应这一新现实。调查包括去年12月460名6至12年级公立学校教师的全国性代表性样本。
大多数教师——59%——认为他们的学生在学校用途中使用生成式AI产品。同时，83%的教师表示他们个人或在学校使用了ChatGPT或类似产品，这比民主与技术中心去年对教师进行调查时增加了32个百分点。
调查还发现，学校正在适应这项新技术。超过80%的教师表示，他们的学校现在有明确规定是否允许或禁止使用生成式AI工具的政策，并且他们接受了有关这些政策的培训，这与去年许多学校仍在努力应对能够写作文和解决复杂数学问题的技术的反应形成了鲜明对比。
近四分之三的教师表示，他们的学校已就学生使用生成式AI的政策和程序征求他们的意见。
总体而言，教师给予学校在应对学生使用生成式AI所带来的挑战方面的评价较好——73%的教师表示他们的学校和学区表现良好。
然而，调查数据还揭示了一些令人不安的趋势。
报告指出，越来越多的学生因使用生成式AI完成作业而受到惩罚，这一事实，再加上学校允许学生更多地使用AI，使得如此多的教师使用AI检测软件（68%，较去年大幅上升）成为一个令人担忧的问题。
“教师正变得依赖AI内容检测工具，这是有问题的，因为研究表明，这些工具在区分AI生成文本和人类编写文本方面并不总是有效，”报告称，“鉴于学生纪律处分的同时增加，这尤其令人担忧。”
报告发现，仅仅因为指控学生使用AI就可能导致惩罚。40%的教师表示，学生因为老师或校长就滥用AI的问题接近他们时的反应而陷入麻烦。
在这样的背景下，学校应该仔细审视AI检测软件在监管学生使用生成式AI方面的作用。
相关文章
