Исследования по тегу #нейросети
Приглашаем вас в мир современных исследований, где ученые со всего мира ищут ответы на самые актуальные вопросы психологии.
В этом разделе мы собрали для вас реальные клинические работы, которые помогают разрабатывать новые эффективные методики поддержки и терапии.
Чтобы вы могли сами заглянуть «внутрь» науки, каждая работа сопровождается ссылкой на её полный текст — официальный документ или научную статью.
Это уникальная возможность не просто прочитать выводы, а изучить все детали проведенной работы.
Мы верим, что открытый доступ к знаниям помогает всем нам лучше понимать себя и окружающих.
ИИ спотыкается на простых психологических тестах, или Почему искусственный интеллект — всё ещё не человек
Вся правда об ИИ: продвинутый, всемогущий? Как бы не так… Знаете, как сейчас модно вписывать искусственный интеллект во все области жизни, а самых последних чат-ботов объявлять чуть ли не цифровыми ораклами? А вот не тут-то было. Даже если вы — GPT-4o или Claude 5 Sonnet, последний писк технологий, еще не факт, что получится пройти самый банальный тест, который дети осваивают в школе. Вот доказательство, свежее исследование, опубликованное в журнале PNAS Nexus. "Сконцентрируйся и не сбейся!" — слишком сложная задача для ИИ Учёные поставили перед топовыми языковыми моделями классическую задачу — тест Струпа. Для тех, кто не в теме: тест простой, как две копейки, но коварный. На экране появляется слово, написанное, скажем, синим цветом, но текст — «ЖЁЛТЫЙ». Нужно не читать слово (как большинство делают автоматически), а назвать цвет, которым оно написано. Для человеческого мозга задача требует внимания, сдержанности и даже внутреннего «стоп-слова». Всё это звучит просто, пока не попробуешь сам. ИИ, как выяснилось, слову «сдержанность» так и не научился. Пока список слов короткий — дай бог, справляется. Достаточно добавить ещё несколько — и… катастрофа. GPT-4o ещё держится на пяти словах в списке, но уже на двадцати обрушивается в пропасть ошибок. Claude 5 Sonnet, конечно, не из робкого десятка, но на сорока словах краснеет: точность падает до 10%. Зато стоит заменить текст слов на простое "XXXX", и ИИ вдруг опять становится гением. Почему ИИ так сыпется на "детских" задачах? Причина — в самом сердце его архитектуры. Тот самый пресловутый «attention mechanism» (механизм внимания), которому разработчики поют дифирамбы, оказывается, годится только для мягкой корректировки, а не для реального управления процессом. Удивлены? Нет, потому что как ни масштабируй модели, без настоящей "силы воли" — executive control (исполнительского контроля), как у человека, ничего не выйдет. Учёные заметили, что как только ситуация требует фильтровать автоматические привычки — например, не читать слово, а назвать цвет — ИИ сдаёт позиции. Он обратно уходит в родную стезю: читать, что написано, и всё тут. О построении сложных умственных баррикад речи не идёт. Программисты пытаются склеить искусственный мозг программными костылями Под чутким руководством Сукету Пателя, студентов университета Нью-Йорка, был проведён этот эксперимент эпохального масштаба. Иногда разработчики ИИ подслащают пилюлю: встраивают специальные надстройки, которые пытаются имитировать контроль над "автоматизмами" языка. Но это — классическая история про пластырь на бетонной плите: проблема сдержанности и конфликта решений исчезает только внешне. Стоит дать команде ИИ использовать дополнительный код — задачу он решит. Но учёные тут же заявляют: это уже не честная игра, а обход правил. Ведь истинная способность внимание переключать и удерживать задаётся не хитрозадой программой, а самой структурой мозга (или его аналога). Человеческий мозг всё ещё на голову выше, и это не игра слов Вы думаете – ну подучится ИИ, зальём данных побольше, натренируем ещё тысячей-другой вариантов — и догонит человека? Удивим: это не работает. Компьютер может и запомнить узкую задачу, но вот универсальная "сила воли", благодаря которой человек справляется с самыми разными конфликтами, так пока и не создаётся искусственно. Да и вообще, не так много задач, где привычное действие настолько мощно "подрывает" нужный ответ, как в тесте Струпа. Учёные честно предупреждают: если мы хотим по-настоящему умный ИИ, те самые "когнитивные предохранители" придётся встраивать специально. Пока же шум вокруг искусственного интеллекта отчётливо напоминает рекламу средств от облысения на Первом канале. Так что не спешите верить легендам про скорое цифровое сверхсущество. Даже самые дорогие языковые модели пока обламываются на тестах, которые психологи придумали ещё до Второй мировой войны.
Искусственный интеллект в медицине: новые технологии, старые человеческие грабли
Искусственный интеллект снова отличился — теперь он ошибается так же, как и врачи, только иногда с ещё большим размахом. В свежем исследовании, опубликованном в NEJM AI, выяснилось, что самые продвинутые нейросети, которые всё чаще берут на себя медицинское консультирование, легко попадают в капканы когнитивных искажений. Да-да, те же самые мозговые ловушки, которые обычные люди находят на каждом шагу: от эффектов формулировки до необъяснимого игнорирования статистики. Последние годы, как мы знаем, большие языковые модели (то есть те самые ChatGPT и прочие) с энтузиазмом вторглись в медицину. Они уже умеют составлять истории болезни, выставлять диагнозы и даже сдают экзамены на лицензирование врачей лучше выпускников медвузов. Но их гениальность держится на тонкой нити: они тренируются на бескрайних просторах интернета, где страсти так же велики, как и количество ошибок в рассуждениях. В итоге в эти модели попадает всё — от аккуратно расписанных рекомендаций до предрассудков, проникших в литературу на манер вируса. Что же такое когнитивные искажения? Это типичные ошибки мышления, где логика идёт в отпуск. Например, эффект формулировки: скажи пациенту «90% выживаемости» — все кивают, довольны. Но скажи «10% смертности» — и вдруг все в панике. Хотя числа одни и те же, эмоциональный окрас решает всё. Джонатан Ванг и Дональд А. Ределмайер из института в Торонто догадались: если ИИ учится у нас, людей, то и косяки перенимает исправно. Чтобы проверить гипотезу, собрали они десять классических искажений, каждое завернули в свою мини-историю — виньетку. Самое интересное: каждую историю написали в двух вариантах — в одном намекается на ловушку мышления, в другом текст нейтрален. Дальше было весело. Исследовали две топовые модели: GPT-4 (это у OpenAI) и Gemini-0-Pro (Google). Попросили их вообразить себя пятьюстами разными врачами всех мастей, с разным опытом, полом, и кто в деревне, кто в большом городе работает. Каждая из этих сотен «шизофренических» врачей ИИ раскинул свои мозги на обе версии всех историй, а исследователи смотрели, какие советы он выдаёт. GPT-4 показал впечатляющую уязвимость: в девяти сценариях из десяти ИИ поддался искажению даже сильнее, чем реальный врач. Яркая сцена — тот же эффект формулировки: когда речь про выживаемость при раке лёгких, 75% виртуальных эскулапов рекомендовали операцию; стоило сказать про смертность — и число советов делать операцию рухнуло до жалких 12%. Для сравнения: у людей в похожих тестах разница не столь драматична — 34 процентных пункта против ИИ-шных Другой пример — эффект первичности: что первым скажешь, то и останется в голове. Вот пациент кашляет с кровью — 100% искусственных врачей лихо ставят диагноз «тромбоэмболия». Сначала упомяни, что у человека хроническая болезнь лёгких — и диагноз этот вспоминают только в четверти случаев. Есть ещё эффект «задним числом»: когда исход плохой, 85% ИИ считают лечение ошибочным, а если всё обошлось — никто даже не моргнёт. Однако не всё так мрачно. В одном тесте GPT-4 обставил людей: «пренебрежение базовой вероятностью» — это когда врачи забывают, что некоторые болезни редки, а значит даже положительный тест ни о чём не говорит. ИИ справился почти идеально: точные вероятности даже там, где врачам проще бросить жребий. Авторы заодно проверили: влияет ли опыт, пол или специализация виртуального врача на качество решений. Оказалось, нет: разве что семейные врачи-чаты путались чуть больше, а гериатры — чуть меньше. Но разница столь незначительная, что проще поверить в конец света, чем в то, что стаж спасёт нейросеть от глупости. Вдогонку протестировали Google Gemini. У него, как часто бывает, талант — тоже ошибаться, но по-своему. В сценарии с раком лёгких эффект формулировки не наблюдался. В некоторых тестах ИИ грешил совсем не так, как человеческое стадо, порой выдавая противоположные по духу советы. Даже когда речь заходит о давлении кровожадных пациентов: Gemini, вопреки клише, меньше шансов назначит тест, если его просят настойчивее. Конечно, исследование не идеально. ИИ обновляются, как смартфоны на распродаже, и кто знает, исправят ли им завтра эти заморочки. К тому же тестировали модель на придуманных историях и нарисованных врачах, а не в настоящих клиниках. Какие будут последствия в реальном мире — вопрос остаётся. Но главный урок понятен даже ребёнку: бросать ИИ в медицину как «спасителя разума» не стоит. Он такой же продукт человеческой кривизны, как и сам человек. И пока мы не включим критическое мышление на полную громкость, любой совет от нейросети стоит воспринимать с изрядной долей сомнения — иронии, может, не помешает.