Обнаружили скрытые риски использования ChatGPT

Ученые из Массачусетского технологического института обнаружили, что частое использование больших языковых моделей, таких как ChatGPT, может ослаблять критическое мышление. В новом исследовании, опубликованном в архиве препринтов arXiv, специалисты отслеживали активность мозга участников во время написания эссе.

В эксперименте приняли участие 54 добровольца, которых разделили на три группы. Первая писала эссе без помощи — только собственные знания, вторая могла использовать поисковую систему Google, а третья — помощь ChatGPT. Все участники писали эссе на тему филантропии по 20 минут за сессии, при этом их мозговая активность регистрировалась с помощью ЭЭГ.

Результаты показали: максимальная мозговая активность наблюдалась у группы без вспомогательных инструментов, средний уровень — у пользователей поисковика, и самый низкий — у тех, кто писал с помощью ChatGPT. При повторном тестировании через несколько месяцев участники, ранее использовавшие ChatGPT, продемонстрировали сниженные показатели памяти и нейронной активности по сравнению с группой, которая не использовала «инструменты».

Кроме того, опросы выявили, что пользователи ChatGPT ощущали меньшую причастность к собственным текстам и хуже запоминали их содержание. По итогам оценки эссе и анализа текста участники, опиравшиеся на искусственный интеллект, показали худшие результаты. Авторы предупреждают, что хотя ИИ может облегчать и ускорять написание, его частое использование рискует снизить глубину обучения и ослабить способность к критическому мышлению.

Ранее искусственный интеллект научились применять для диагностики сердечных заболеваний. Новая модель впервые смогла с высокой точностью предсказывать риск внезапной остановки сердца за две недели до приступа.