Новость

Профессор обнаружил использование ChatGPT в контрольной с помощью скрытой инструкции

1 источник

Все новости

Профессор истории из Университета штата Миссисипи имени Алкорна встроил в контрольную скрытую инструкцию для ChatGPT, чтобы проверить, кто из студентов использует ИИ для выполнения заданий. Ловушка сработала: 32 из 35 студентов воспроизвели бессмысленные фразы про Мадагаскар.

Профессор истории Джейсон Гибсон из Университета штата Миссисипи имени Алкорна проверил, кто из студентов выполняет задания с помощью ИИ. В текст контрольной он добавил скрытую инструкцию, написанную белым шрифтом: если просто скопировать задачу в бот, тот будет ей следовать. Скрытый промпт требовал вставить в ответ бессмысленное упоминание Мадагаскара. В работах появились фразы вроде «Мадагаскар плывет боком сквозь послеполуденное время» и «мадагаскарский фиолетовый велосипед шепчет потолку». Контрольная была посвящена промышленной революции. Ловушка сработала даже лучше, чем ожидал преподаватель: странные фразы воспроизвели 32 из 35 студентов в двух группах. Гибсон подчеркнул, что не собирался унижать студентов. После экзамена он объяснил, как обнаружил использование ИИ, и разрешил оспорить оценку. Этой возможностью воспользовались только двое.

Источники 1
  • Профессор обнаружил использование ChatGPT в контрольной с помощью скрытой инструкции Hi, AI - Новости технологий 
    ✏️ Профессор спрятал ловушку для ChatGPT в контрольной — в нее попались почти все студенты

Профессор истории Джейсон Гибсон из Университета штата Миссисипи имени Алкорна проверил, за кого из студентов задания выполняет ИИ. В текст экзамена он добавил инструкцию, написанную невидимым белым шрифтом — если просто скопировать задачу в бот, то он будет ей следовать. 

Скрытый промпт требовал вставить в ответ бессмысленное упоминание Мадагаскара. В результате в работах появились фразы вроде «Мадагаскар плывет боком сквозь послеполуденное время», или «мадагаскарский фиолетовый велосипед шепчет потолку». Сама контрольная при этом была посвящена промышленной революции.

📌 Ловушка сработала даже лучше, чем ожидал преподаватель: странные фразы воспроизвели 32 из 35 студентов в двух группах. Судя по всему, они даже не перечитывали результат.

Гибсон подчеркнул, что не собирался унижать студентов. После экзамена он объяснил, как обнаружил использование ИИ, и разрешил оспорить оценку. Этой возможностью воспользовались только двое.

Обычные контрольные устарели?

❤️ — да, с ИИ они ничего не проверяют
🔥 — нет, просто студенты обленились

👋 Подпишитесь на Hi, AI!