Преподаватель Техасского университета A&M в Коммерсе был обвинен в обмане студентов, которые использовали искусственный интеллект (ИИ) для написания эссе, сообщает The Register.
Джаред Мамм, координатор факультета сельскохозяйственных наук и природных ресурсов, проверил подлинность текстов с помощью ChatGPT. Согласно его словам, этот инструмент отметил некоторые работы как созданные машиной.
В результате возникшей ситуации были заморожены оценки и начато расследование. Студенты, попавшие под подозрение, признались в использовании ИИ для написания эссе.
В связи с этим половине академической группы временно были отказаны в выдаче дипломов.
«Я поставлю всем на этом курсе X. Я не оцениваю ИИ-чепуху», — сказал Мамм студентам.
Руководство университета подтвердило использование оценки X, заявив, что это временная мера, пока идет расследование.
В университете отметили, что некоторым студентам была запрещена возможность списывания, в то время как другие решили представить новые эссе для оценки. По крайней мере, один студент признался в использовании ChatGPT для выполнения задания.
«A&M в Коммерсе подтверждает, что ни один студент не провалил занятия и не был отстранен от выпуска из-за этой проблемы. Должностные лица расследуют инцидент и разрабатывают политику по борьбе с неправильным использованием ИИ-технологий», — говорится в заявлении.
Администрация также приступила к разработке и внедрению инструментов, которые смогут идентифицировать ИИ-тексты в курсовых работах. Знакомый с ситуацией источник сообщил, что конфликт приближается к завершению, и вуз, по-видимому, признал неправомерность решения преподавателя.
«Это было полностью вне протокола и неуместным использованием ChatGPT. Ну хоть никто не использовал нецензурную брань в обвениях», — заметил источник.
По мнению экспертов, даже самые продвинутые детекторы сгенерированных текстов не способны точно определить подделку.
«По мере развития больших языковых моделей, имитирующих человеческую речь, наиболее точный детектор сможет достичь примерно 50% точности», — считает аспирант Университета Мэриленда Вину Санкар Садасиван.
Он добавил, что детекторы могут быть обмануты, если изменить формулировку выводов большой языковой модели. Садасиван призвал привыкнуть к тому факту, что мы, возможно, никогда не сможем достоверно отличить текст, созданный ИИ, от текста, написанного человеком.
«Мы не должны полагаться на эти детекторы для окончательного решения», — считает он.
Напомним, что в декабре 2022 года профессор обнаружил, что студенты подделывают эссе с помощью ChatGPT.
В январе государственные школы Нью-Йорка запретили использование чат-бота на территории учреждений. Позже к ним присоединились крупнейшие вузы Австралии.
В том же месяце OpenAI представила детектор сгенерированных текстов, однако ChatGPT вскоре научился обходить ограничения этого инструмента.
