ИИ снижает готовность людей признавать, что они не знают ответа

Исследователи провели пять экспериментов с 3 тысячами участников и обнаружили: при доступе к ИИ люди реже выбирают вариант «я не знаю» и чаще отвечают уверенно, даже если ошибаются. Авторы связывают это с тем, что готовый ответ модели снижает внутренний порог сомнения.

Исследователи провели пять экспериментов с 3 тысячами участников. Людям задавали сложные вопросы о малозаметных деталях фильмов: можно было ответить самому, спросить ИИ или честно выбрать «я не знаю». Вопросы подбирали так, чтобы чат-бот почти всегда ошибался. При доступе к ИИ точность ответов испытуемых падала с 27,5% до 9,2%, а уверенность в своей правоте, наоборот, росла в среднем с 29,6 до 75,9 балла из 100. При этом сильнее всего изменилось отношение к незнанию: без ИИ участники признавали, что не знают ответа, в 36-44% случаев, а с чат-ботом — только в 3-6%. Даже денежная награда за правильный ответ и штраф за ошибку не вернули готовность выбирать «я не знаю». Исследователи предполагают, что готовый и уверенно сформулированный ответ снижает внутренний порог сомнения: человек уже не оценивает, достаточно ли он знает, а выбирает между собственной догадкой и версией модели.

Источники 1

ИИ снижает готовность людей признавать, что они не знают ответа Hi, AI - Новости технологий

💡 ИИ отучает людей говорить «я не знаю»

Ученые провели пять экспериментов с 3 тыс. участников. Людям задавали сложные вопросы о малозаметных деталях фильмов. Можно было ответить самому, спросить ИИ или честно выбрать «я не знаю». Вопросы подобрали так, чтобы чат-бот почти всегда ошибался.

С доступом к ИИ точность ответов испытуемых падала втрое — с 27,5% до 9,2%, а уверенность в своей правоте, наоборот, росла в среднем в 2,5 раза — с 29,6 до 75,9 баллов из 100.

🔍 Но сильнее всего изменилось отношение к незнанию. Без ИИ участники признавали, что не знают ответа, в 36-44% случаев, а с чат-ботом — только в 3-6%. Даже денежная награда за правильный ответ и штраф за ошибку не вернули эту готовность.

❓ Исследователи предполагают, что готовый и уверенно сформулированный ответ снижает внутренний порог сомнения. Человек уже не спрашивает себя, достаточно ли он знает, а выбирает между собственной догадкой и версией модели.

А вы перепроверяете ответы ИИ?

❤️ — да, конечно
🎃 — нет, обычно лень

👋 Подпишитесь на Hi, AI!