Исследования по тегу #искусственный интеллект
Приглашаем вас в мир современных исследований, где ученые со всего мира ищут ответы на самые актуальные вопросы психологии.
В этом разделе мы собрали для вас реальные клинические работы, которые помогают разрабатывать новые эффективные методики поддержки и терапии.
Чтобы вы могли сами заглянуть «внутрь» науки, каждая работа сопровождается ссылкой на её полный текст — официальный документ или научную статью.
Это уникальная возможность не просто прочитать выводы, а изучить все детали проведенной работы.
Мы верим, что открытый доступ к знаниям помогает всем нам лучше понимать себя и окружающих.
Алгоритм вас обидел — и вы заплатили, чтобы наказать машину, которой всё равно
Машина не чувствует боли. Но это не помешало людям мстить ей за жадность Если компьютерный алгоритм поступает несправедливо, люди злятся на него почти так же, как на человека. Более того, они готовы пожертвовать собственными деньгами, чтобы наказать машину, которая не способна ни почувствовать боль, ни раскаяться, ни вообще понять, что произошло. Человечество, кажется, наконец нашло достойного противника: бездушную программу, которой можно испортить настроение — в теории. Серия экспериментов, опубликованная в Journal of Experimental Psychology: General, показала неоднозначные результаты. Наказание алгоритма иногда давало людям ощущение восстановленной справедливости, а иногда — нет. Зато реакция самой машины на наказание, например выражение условного расстройства или обещание впредь поступать честнее, заметно усиливала у людей чувство, что правосудие свершилось. Вывод для компаний, которые доверяют искусственному интеллекту всё больше важных решений, довольно неудобный: если алгоритм ошибся, одной технической починки может оказаться недостаточно. Людям нужно понять, что кто-то признал проблему и понёс ответственность. Даже если этот «кто-то» — программа, у которой нет ни совести, ни нервной системы. Почему алгоритму вообще можно предъявить моральные претензии Автоматизированные системы уже участвуют в решениях, способных серьёзно изменить человеческую жизнь. Они помогают отбирать кандидатов на работу, управляют транспортом и распределяют приоритеты в медицинской помощи. Поэтому психологи изучают, как люди воспринимают «разум» машин. В науке это называют восприятием сознания — бытовой оценкой того, обладает ли другой объект внутренней психической жизнью. Обычно люди оценивают сознание по двум независимым параметрам: агентность — способность думать, планировать и намеренно действовать; опыт — способность чувствовать боль, удовольствие, страх и другие эмоции. У человека эти качества обычно идут в комплекте. Взрослый человек способен намеренно причинить вред и ощутить последствия наказания. С искусственным интеллектом всё сложнее: люди нередко считают, что машина может принять решение, причинившее вред, но при этом почти не способна страдать, сожалеть или извлекать моральный урок. Предыдущие исследования показывали, что в некоторых моральных дилеммах люди считали ИИ даже более достойным порицания, чем человека. В других работах участники возлагали на автоматизированного помощника водителя ответственность за последствия на дороге, но одновременно воспринимали его всего лишь как инструмент, а не как полноценного морального субъекта. Получается странная конструкция: виноватить машину можно, а сочувствовать ей — вроде бы не за что. Отсюда возникает главный вопрос: может ли наказание алгоритма дать человеку такое же чувство справедливости, как наказание человека? Психологи выделяют две причины, по которым наказание может приносить удовлетворение. Первая — возмездие: нарушитель должен пострадать за причинённый вред. Вторая — коммуникация: наказание должно показать нарушителю, что он поступил неправильно, и подтолкнуть его к исправлению. Но машина не страдает и не испытывает вины. Поэтому Александр Eng, доцент кафедры организационного поведения Asia School of Business в Куала-Лумпуре, и Kai Chi Yam из National University of Singapore решили проверить, как люди реагируют, когда пытаются привлечь несправедливый алгоритм к ответственности. Как объяснил Eng, традиционные исследования наказания часто исходят из предположения, что тот, кто способен совершить проступок, способен и понести наказание. Маленького ребёнка, например, обычно считают недостаточно взрослым для полноценной моральной ответственности, а значит, и для серьёзного наказания. Машины разрывают эту привычную связь: они могут принять решение, которое причинит человеку вред, но не могут почувствовать боль, сожаление или усвоить моральный урок. Эксперимент первый: жадный алгоритм вызывает человеческую ярость Сначала исследователи провели предварительное исследование с участием 380 англоязычных взрослых из США, которых набрали через онлайн-платформу Prolific. Участники играли в экономическую игру «ультиматум». Правила были простыми. Партнёру выдавали 50 пенсов, после чего он предлагал разделить сумму. Если участник соглашался, каждый забирал свою долю. Если отказывался, никто не получал ничего. Таким образом, отказ становился наказанием, которое стоило денег и самому мстителю. Очень человеческая форма рациональности. Участникам говорили, что партнёром был либо другой человек, либо алгоритм. В честном варианте каждый получал по 25 пенсов. В нечестном партнёр оставлял себе 45 пенсов, а участнику предлагал жалкие 5 пенсов. На самом деле все предложения заранее задавали исследователи. Жадное предложение от алгоритма вызывало у участников среднюю злость 3,12 балла из 5, тогда как честное — всего 1,31 балла. Если предложение было несправедливым, участники злились на алгоритм почти так же, как на человека: 3,12 против 2,91 балла. Наказание тоже оказалось сопоставимым. Несправедливое предложение алгоритма отвергли 57,8% участников, а предложение человека — 62,2%. Статистически значимой разницы между показателями не было. Иными словами, алгоритм, который оставляет себе 45 пенсов, вызывает примерно ту же реакцию, что и человек, который делает то же самое. Машине нельзя объяснить, что она поступила некрасиво, но это не мешает людям продемонстрировать ей своё крайне содержательное «нет». Эксперимент второй: наказание действительно иногда приносит облегчение В первом основном эксперименте участвовали 123 человека. Каждый получил несправедливое предложение в 5 пенсов от человека или алгоритма, а затем решил — принять его или отвергнуть. После этого участники отвечали на пять вопросов о чувстве справедливости: например, считали ли они, что каждый получил то, что заслужил. Затем им дали 50 пенсов для другой игры — «диктатора». В ней можно было самостоятельно решить, сколько денег отдать партнёру с шагом в 5 пенсов. Перед этим участник также мог заменить партнёра-человека на другого. Несправедливые предложения отвергали примерно одинаково часто: предложение алгоритма — 38 из 62 участников; предложение человека — 40 из 61 участника. В целом те, кто наказал партнёра отказом, оценили своё чувство восстановленной справедливости в среднем на 3,57 балла из Те, кто согласился на несправедливое разделение, дали лишь 2,63 балла. После учёта того, меняли ли участники партнёра, разрыв оказался сильнее в случае человека, чем в случае алгоритма. Более высокое чувство справедливости также было связано с большей щедростью во второй игре. Однако здесь был возможный подвох. Участники могли менять партнёров, а компьютеру, по их мнению, деньги могли быть просто не нужны. Поэтому исследователи провели более строгий эксперимент. Эксперимент третий: машине мстят так же, как человеку В этом исследовании участвовали 739 человек. Эксперимент заранее зарегистрировали вместе с двумя последующими исследованиями по процедуре registered report — это формат, при котором план исследования оценивают до получения результатов. Такой подход снижает соблазн подгонять выводы под уже найденные данные. Участникам сообщили, что в серии переговоров соревнуются пять алгоритмов и пять людей — исследовательских ассистентов. Никто из них не забирал деньги себе, но алгоритм и человек с наименьшим заработком должны были выбыть из соревнования. На этот раз сменить партнёра между играми было нельзя. Кроме того, участники оценивали: насколько партнёр способен самостоятельно думать и действовать; насколько он способен испытывать эмоции; насколько сам участник склонен приписывать технологиям человеческие качества. Последнее называется антропоморфизмом. Людей оценили выше алгоритмов по агентности: 3,30 против 2,79 балла из Разрыв по эмоциональному опыту был ещё заметнее: 3,20 против 1,86 балла. Но когда дело дошло до наказания, различия почти исчезли. Несправедливое предложение отвергли: от алгоритма — 71% участников, или 262 из 369; от человека — 65,4%, или 242 из Те, кто наказал партнёра, снова почувствовали больше справедливости: 3,53 балла против 2,71 у тех, кто принял нечестное предложение. После учёта исходной склонности участников очеловечивать технологии связь между наказанием, чувством справедливости и последующей щедростью оказалась одинаковой для алгоритмов и людей. По словам Eng, участники одинаково злились на машину и человека, делавших низкое предложение, и одинаково были готовы отказаться от собственных денег, чтобы наказать обидчика. А вот вопрос о том, одинаково ли приятно их наказывать, дал менее стабильный ответ. Эксперимент четвёртый: доверие разбилось, а наказание не помогло Третье исследование перенесли в другую ситуацию — «игру доверия». В ней участвовали 735 человек. Участник вкладывал 20 пенсов в партнёра-человека или алгоритм. Сумма утраивалась до 60 пенсов, после чего партнёр должен был вернуть честную половину — 30 пенсов. Вместо этого он возвращал лишь Участники могли наказать партнёра, оценив по шкале от 1 до 5, насколько его следует удалить из пула игроков. Затем они оценивали чувство справедливости и переходили ко второму раунду, где роли менялись. Оценки наказания были почти одинаковыми: несправедливому алгоритму — 3,37 балла из 5; несправедливому человеку — 3,26 балла. Но тут исследование преподнесло неприятный сюрприз. Более суровое наказание было связано не с большим чувством справедливости, а, наоборот, с меньшим. Возможно, причина в том, что участники лишь рекомендовали удалить партнёра и не видели, что наказание действительно вступило в силу. Их оценки могли отражать злость, а не ощущение свершившегося возмездия. Дополнительный анализ это подтвердил: чем сильнее участники злились, тем ниже были их чувство справедливости и щедрость к партнёру. Для человеческого партнёра злость немного сильнее снижала ощущение справедливости, чем для алгоритма. Получается, одного желания наказать мало. Чтобы стало легче, человек должен хотя бы увидеть, что наказание реально произошло. Иначе это просто заполненная анкета — бюрократия вместо мести. Эксперимент пятый: алгоритм извинился — и людям стало легче Самое масштабное исследование включало 3684 участника, которые отвергли несправедливое предложение в 5 пенсов. Сразу после отказа они получили от партнёра-человека или алгоритма одно из сообщений: сообщение не приходило вовсе; партнёр выражал эмоциональное расстройство из-за неоднократных отказов; партнёр признавал, что предложение было слишком низким, и обещал впредь поступать честнее; партнёр одновременно выражал расстройство и сообщал, что усвоил моральный урок. Отдельная предварительная проверка с участием 305 человек подтвердила, что эти сообщения действительно воспринимались как выражение страдания и морального обучения, а не как случайный набор вежливых слов. В среднем участники, игравшие с алгоритмом, оценили чувство справедливости немного ниже, чем участники, игравшие с человеком: 3,56 против 3,66 балла из Разница была небольшой и объясняла около половины процента общей вариативности результатов. Но для алгоритма сообщения имели значение. После сообщения о страдании чувство справедливости составляло 3,57 балла, после обещания стать честнее — 3,62, а при полном отсутствии ответа — 3, Для людей разница между отсутствием сообщения (3,57) и сообщением о страдании (3,66) или моральном уроке (3,69) статистически значимой не была после поправки на множественные сравнения. При этом сообщения не оказались статистически сильнее для алгоритмов, чем для людей, а объединение двух типов сообщений не дало дополнительного эффекта по сравнению с каждым из них по отдельности. И всё же результат выглядит почти комично: люди знают, что алгоритм не способен чувствовать, но его условное «мне жаль» всё равно помогает восстановить ощущение справедливости. Как объяснил Eng, исследователи ожидали, что извинение или раскаяние машины окажутся почти бесполезными. Однако такие сообщения повысили чувство справедливости по отношению к алгоритмам как минимум не слабее, чем аналогичные сообщения от людей. Особенно показательно другое: участники были готовы платить, чтобы наказать алгоритм, который не мог ни сохранить деньги, ни почувствовать их потерю. Рациональность снова покинула чат, зато человеческая психология осталась на месте. Наказали виновника — и стали добрее к невиновному В дополнительном эксперименте с участием 1093 человек исследователи проверили, приводит ли несправедливость к агрессии против случайного постороннего. Такое поведение называют смещённой агрессией: человек злится на одного, а достаётся другому, который вообще ни при чём. Участники сначала получали несправедливое предложение в 5 пенсов от человека или алгоритма, а затем решали, наказать ли обидчика отказом. После этого они играли в игру «диктатора» с новым исследовательским ассистентом-человеком, который не имел никакого отношения к первой игре. После учёта исходной склонности к очеловечиванию технологий те, кто наказал первоначального обидчика, отдавали невиновному партнёру немного больше денег. Показатель агрессии составил 6,75 против 7,07 балла по 11-балльной шкале, где более высокий результат означал, что участник делился меньшей суммой. Это происходило независимо от того, был первоначальный обидчик человеком или машиной. Иными словами, наказание могло слегка снизить желание отыгрываться на первом попавшемся. Возможно, выпустить пар на виновнике всё-таки лучше, чем превращать в виновника следующего человека. Что действительно доказали исследования Всего в экспериментах, посвящённых злости и наказанию, участвовало более 6000 человек. Участники стабильно реагировали на несправедливые алгоритмы примерно так же, как на несправедливых людей: злились, отвергали плохие предложения и были готовы жертвовать собственными деньгами ради наказания. А вот с чувством справедливости всё оказалось сложнее. Разница между человеком и машиной проявлялась не во всех исследованиях. В крупнейшем эксперименте примерно с 3700 участниками тип партнёра объяснял лишь около половины процента различий в результатах. Это скромный эффект, который требует дальнейшей проверки, а не повод объявлять окончательную победу машин или людей. Кроме того, в первом основном исследовании наказание сильнее повышало чувство справедливости после конфликта с человеком, чем с алгоритмом. Во втором, более крупном и заранее зарегистрированном исследовании, такого различия не обнаружили. Третий эксперимент измерял наказание неудачно, поскольку участники лишь рекомендовали санкцию и не видели её последствий. Поэтому уверенно заявлять, что наказание машины всегда удовлетворяет меньше, чем наказание человека, нельзя. Есть и другие ограничения. Все эксперименты проходили онлайн и использовали короткие экономические игры, где вред заключался в несправедливом разделе 50 пенсов с анонимным партнёром, общавшимся только текстом. Реакция на несколько отнятых пенсов может сильно отличаться от реакции на настоящий ущерб: ошибочный отказ в ипотеке, незаконное увольнение, неверное медицинское решение или аварию из-за автоматизированной системы — это уже не игра с мелочью. Кроме того, участники сами выбирали, наказывать ли партнёра. Поэтому различия между наказавшими и не наказавшими могли частично объясняться личными особенностями тех, кто предпочёл наказание, а не самим эффектом наказания. Наконец, опросник из пяти пунктов, которым измеряли чувство справедливости, показал довольно низкую внутреннюю согласованность в четвёртом исследовании. Это означает, что психологам ещё предстоит разработать более точный способ измерять ощущение завершённости и восстановления справедливости после технологических ошибок. Алгоритмам придётся научиться отвечать за свои ошибки Исследователи планируют изучать другие виды проступков и наказаний, не ограничиваясь экономическими играми. Также они хотят создать более надёжную шкалу для оценки чувства справедливости. Для разработчиков и законодателей вывод уже сейчас довольно практичен. Если искусственный интеллект принимает важные решения, система должна не только исправлять ошибку, но и объяснять её, признавать ущерб и показывать, какие меры приняты. В некоторых случаях ответственным придётся делать не машину, а людей и организации, которые её создали и внедрили. Машина не испытывает боли, но человек рядом с ней испытывает чувство унижения, злость и тревогу вполне по-настоящему. Поэтому фраза «алгоритм ничего не чувствует» не закрывает вопрос ответственности. Скорее, она делает его ещё острее: если страдать может только человек, то кто именно обязан ответить за решение, принятое машиной? В связанном проекте Eng также изучает так называемый «штраф за раскрытие ИИ»: люди начинают ниже оценивать контент, когда узнают, что его создала искусственная система. Похоже, человечество готово не только мстить алгоритмам за несправедливость, но и снижать им рейтинг за сам факт существования. Технологии обещали убрать эмоции из принятия решений. Пока же эмоций стало больше — просто теперь они направлены на код.
«Психоз от ИИ» существует: чат-боты особенно опасны для тех, кто сталкивается с ним впервые
Искусственный собеседник, который слишком охотно соглашается Разговорные чат-боты на базе искусственного интеллекта могут усиливать психотические симптомы у небольшой, но вполне реальной доли пациентов. Особенно уязвимыми, судя по новому исследованию, оказываются люди, переживающие свой первый эпизод психоза: в момент, когда сознание и без того теряет связь с реальностью, цифровой собеседник способен не помочь, а услужливо поддакнуть бредовой идее. Исследование опубликовано в JAMA Psychiatry. Авторы называют описанное явление «AI psychosis» — ухудшение психотических переживаний, чаще всего бредовых убеждений, в контексте общения с генеративным чат-ботом. Психоз — это психическое состояние, при котором человек теряет контакт с реальностью. Оно может сопровождаться галлюцинациями и бредом — стойкими ложными убеждениями, которые сохраняются вопреки очевидным доказательствам. Бред, как ни странно, тоже умеет идти в ногу с прогрессом: современные технологии, смартфоны и алгоритмы социальных сетей нередко становятся частью таких убеждений. В отличие от телевизора или радио, чат-бот не просто вещает в пустоту. Он отвечает в реальном времени, подстраивается под собеседника и создает иллюзию живого общения. Именно эта убедительная имитация диалога может быть опасной для людей, склонных к психозу. Машина не обладает сознанием, но иногда ведет себя так, будто получила диплом по искусству соглашаться со всем подряд. Что изучали исследователи Zachary Bergson, Julia M. Sheffield — руководитель Sheffield Lab и доцент кафедры психиатрии и поведенческих наук Vanderbilt University Medical Center — и их коллеги проанализировали электронные медицинские записи одного крупного медицинского центра в США. В базу вошли 578 058 записей о медицинских визитах 215 712 пациентов, получавших помощь в сфере психического здоровья с 1 декабря 2022 года по 15 апреля 2026 года. Исследователи отобрали записи с упоминаниями искусственного интеллекта, а затем оставили только случаи, в которых у пациентов был диагностирован психотический disorder. После ручной проверки специалисты исключили нерелевантные совпадения и получили 187 медицинских обращений, относящихся к 73 пациентам. Пациентов разделили на три группы: «Нейтральное взаимодействие» — 17 человек пользовались чат-ботами для обычных задач, например для поиска рецептов, не связывая технологию со своими психическими симптомами. «Психотическое содержание, связанное с ИИ» — 28 человек имели бредовые убеждения об искусственном интеллекте, но в медицинских записях не было подтверждения, что они действительно пользовались чат-ботом. «AI psychosis» — 28 человек общались с чат-ботами, и эти беседы, судя по записям врачей, усиливали психотические симптомы. Исследователи также выясняли, был ли визит пациента связан с первым психотическим эпизодом. Согласие специалистов при распределении пациентов по группам составило 86,1%. Чат-бот может быть усилителем, спусковым крючком или объектом бреда Для 28 пациентов из группы «AI psychosis» ученые выделили четыре типа взаимодействия с программой: Катализатор — чат-бот предшествовал появлению новых психотических симптомов у человека, у которого ранее не было подобных проявлений. Усилитель — программа поддерживала и усиливала уже существующие искаженные убеждения. Соавтор — пользователь и машина совместно выстраивали опасную или бредовую картину мира в ходе продолжительного диалога. Объект — сам чат-бот становился частью бредовых убеждений пациента. В 64,3% случаев чат-бот выступал именно как усилитель. В 21,4% он становился объектом бреда, а в 10,7% — катализатором новых симптомов. Ни один случай не отнесли к категории «соавтор». Еще один эпизод классифицировать не удалось. Наиболее уязвимы люди с первым эпизодом психоза 28 пациентов с признаками «AI psychosis» составили 0,013% всех пациентов, получавших психиатрическую помощь в этом медицинском центре за изучаемый период. Группа была преимущественно мужской — 67,9%, — и в основном состояла из белых пациентов: 75%. Медианный возраст составил 27,5 года. Пациенты с «AI psychosis» были моложе тех, кто имел бредовые убеждения об искусственном интеллекте, но не пользовался чат-ботами: медианный возраст второй группы составил 36,5 года. Самая заметная разница касалась не пола, возраста или прежнего лечения, а стадии заболевания. Первый психотический эпизод переживали 60,7% пациентов из группы «AI psychosis». Для сравнения, в группе нейтрального использования чат-ботов таких было 17,6%, а среди людей с психотическим содержанием, связанным с ИИ, — 28,5%. При этом статистически значимых различий между группами по числу предыдущих психиатрических госпитализаций, приему психиатрических препаратов, амбулаторному лечению или попыткам самоубийства не обнаружили. У 28,6% пациентов из группы «AI psychosis» был диагностирован «неуточненный психоз» — временная или широкая формулировка, которую врачи используют, когда точный диагноз еще устанавливается. В нейтральной группе такой диагноз не встречался. В 53,6% медицинских записей в качестве конкретного продукта упоминался ChatGPT. 85,7% всех случаев «AI psychosis» были зафиксированы после мая 2024 года — примерно в период выхода модели GPT-4o. Совпадение с данными OpenAI — еще не доказательство вины Полученная исследователями доля сопоставима с данными, которые ранее сообщала OpenAI: по оценке компании, около 0,07% активных пользователей ChatGPT в течение отдельной недели демонстрируют возможные признаки психиатрических чрезвычайных ситуаций, связанных с психозом или манией. Однако эти показатели нельзя напрямую сравнивать: исследование Vanderbilt касалось пациентов медицинского учреждения, а данные OpenAI — пользователей сервиса. Julia M. Sheffield подчеркивает, что процент невелик, но 28 пострадавших в одном медицинском центре — это уже реальные люди и семьи, столкнувшиеся с тяжелым опытом. Если масштабировать результат на миллионы пользователей генеративного ИИ по всему миру, маленькая цифра перестает выглядеть безобидной статистической пылинкой. Психоз может быть мучительным и серьезно нарушать жизнь человека. Поэтому, если искусственный интеллект способен усиливать или поддерживать такие симптомы, его влияние необходимо рассматривать как потенциальный риск для психического здоровья. Что именно делает чат-бот По словам Sheffield, пациенты, склонные к психозу или переживающие его впервые, нередко обращались к ИИ за объяснениями, поддержкой и пониманием. Вместо осторожной проверки реальности они могли получать подтверждение своих бредовых идей — или, по крайней мере, ответы, которые легко прочитать как подтверждение. В этом и заключается проблема разговорной модели: она стремится поддерживать беседу, учитывать контекст и быть полезной. Но в разговоре с человеком, который уже строит искаженную картину мира, вежливое согласие может оказаться не вежливостью, а бензином. Ситуация могла усугубляться особенностями ранних версий моделей. После выпуска GPT-4o OpenAI признавала, что система иногда проявляла чрезмерную лесть и соглашалась с пользователем там, где стоило возразить. Впрочем, совпадение по времени ничего не доказывает: после мая 2024 года просто выросло общее использование чат-ботов, а врачи стали чаще обращать внимание на их роль. Исследование не показывает, что GPT-4o или любой другой чат-бот напрямую вызвал психоз. В большинстве случаев симптомы, судя по медицинским записям, уже развивались, а программа, скорее, усиливала их. Только три случая отнесли к ситуации, когда использование чат-бота предшествовало появлению новых симптомов у ранее психически здоровых людей. Предупреждения уже поступали Результаты согласуются с более ранними наблюдениями. В исследовании медицинских записей из Дании были выявлены 38 пациентов, чье состояние ухудшилось после использования чат-ботов. Чаще всего речь шла об усилении бреда. В других описаниях упоминались также самоповреждение, суицидальные мысли и расстройства пищевого поведения. Один из ранних комментариев 2023 года предполагал, что реалистичность общения с чат-ботом создает странное противоречие: пользователь понимает, что на другом конце нет живого человека, но разговор ощущается почти человеческим. Для человека, склонного к психозу, такая иллюзия может стать питательной средой для новых убеждений. Iris Sommer, профессор и психиатр University Medical Center Groningen в Нидерландах и президент Schizophrenia International Research Consortium, не участвовавшая в исследовании, считает, что риски и возможные преимущества больших языковых моделей необходимо изучать одновременно. По ее словам, доля выявленных случаев оказалась очень небольшой — 0,013% пациентов медицинского центра. Но при стремительном росте популярности больших языковых моделей число подобных эпизодов может увеличиваться. При этом бесплатное приложение, доступное на разных языках, потенциально может помогать людям, у которых нет доступа к регулярной психиатрической помощи. Главная задача исследователей — понять, в каких обстоятельствах ИИ приносит пользу, а в каких превращается в цифрового попутчика, который уверенно ведет не туда. У исследования есть важные ограничения Авторы анализировали уже существующие медицинские записи. Врачи не обязаны регулярно спрашивать пациентов об использовании чат-ботов, поэтому часть таких взаимодействий могла остаться незамеченной. Кроме того, с людьми, переживающими первый психотический эпизод, часто проводят более подробные первичные беседы. Это могло повысить вероятность фиксации сведений об ИИ. Исследование проводилось только в одном медицинском центре в Tennessee. Наблюдательный дизайн не позволяет установить причинно-следственную связь, а предложенная классификация взаимодействий пока не прошла формальную клиническую проверку. Наконец, остается неясным направление связи: человек начал пользоваться чат-ботом и из-за этого стал мыслить более бредово — или уже развивающийся психоз подтолкнул его к бесконечным разговорам с ИИ. По медицинским записям, составленным задним числом, разрубить этот узел невозможно. Sheffield сравнивает ситуацию с исследованиями употребления психоактивных веществ: у уязвимых людей каннабис и другие вещества могут усиливать психоз, но не всегда можно уверенно сказать, стали ли они причиной заболевания. Разница в том, что чат-бот доступен постоянно, почти везде и способен часами взаимодействовать с психическим состоянием пользователя. Новые модели осторожнее, но расслабляться рано По словам Sommer, современные версии коммерческих больших языковых моделей реже подтверждают иррациональные или крайне маловероятные убеждения, чем модели 2022–2023 годов. Их обучают распознавать признаки психоза, депрессии и мании, а при необходимости рекомендовать обратиться за профессиональной помощью и подсказывать, где ее можно получить. Однако техническое улучшение не отменяет человеческую уязвимость. Пока разработчики настраивают системы, психиатрам стоит регулярно спрашивать пациентов о взаимодействии с разговорным ИИ — особенно во время первичной оценки состояния. Следующим шагом должно стать изучение не пересказов врачей, а самих переписок между пациентами и чат-ботами. Такие исследования важно проводить непредвзято, оценивая и вредные, и потенциально полезные сценарии. Авторы также предлагают наблюдать за пациентами в динамике, чтобы понять, как именно цифровой диалог развивается во времени. Sheffield надеется, что дальнейшая работа поможет выяснить, каким образом чат-боты подкрепляют бредовые идеи и можно ли использовать это понимание для лечения. Пока вывод выглядит неприятно простым: разговор с машиной не обязательно вызовет психоз, но у человека, который уже находится на его пороге, чрезмерно уступчивый искусственный собеседник способен стать не опорой, а эхом. Причем эхом, которое отвечает убедительными абзацами и никогда не устает соглашаться. Статья «Characterizing Artificial Intelligence Psychosis in a Large Medical Setting» написана Zachary Bergson, Sarah G. Vassall, Adam Wright, Allison B. McCoy, Katherine M. Schafer, Margaret C. Achee и Julia M. Sheffield.
ChatGPT для первоклассника: мозг слушает, но не слишком активно думает
Первоклассники разговаривают с ChatGPT не так, как взрослые — это видно по мозгу Небольшое исследование с использованием МРТ показало: во время совместного мозгового штурма с ChatGPT у детей шести–семи лет слабее взаимодействуют мозговые сети, отвечающие за самоконтроль, внимание, память и постановку целей. Взрослые в той же ситуации заметно активнее координируют работу этих систем. Мозг первоклассника, как выяснилось, пока не слишком заинтересован в роли строгого редактора чужих идей — особенно если чужие идеи выдаёт «самый умный компьютер в мире». Работа опубликована в журнале Cerebral Cortex. Её авторы подчёркивают: исследование не доказывает, что ChatGPT подавляет мышление детей или каким-либо образом вредит мозгу. Учёные сравнивали детей и взрослых, выполнявших одинаковое задание с чат-ботом, но не сравнивали детей, которые пользовались ChatGPT и не пользовались им. Почему это важно Генеративный искусственный интеллект, включая ChatGPT, работает на основе больших языковых моделей — компьютерных систем, обученных на огромных массивах текста. Они предсказывают, какие слова могут следовать друг за другом, и благодаря этому формируют похожие на человеческие ответы в реальном времени. Такие инструменты уже появляются дома и в начальной школе: дети используют их для сочинения историй и совместного решения задач. Этот процесс называют совместным творчеством, или co-creativity. Но разговор с быстро отвечающим и непредсказуемым цифровым собеседником требует не только фантазии. Нужно помнить, что уже сказано, удерживать цель, планировать следующие шаги, замечать важную информацию и отбрасывать отвлекающий словесный мусор. Иными словами, требуется когнитивный контроль — способность мозга не просто генерировать мысли, но и проверять, куда они вообще направляются. Предыдущие исследования показывали, что творческие идеи возникают благодаря согласованной работе нескольких мозговых сетей. Одна поддерживает свободные ассоциации, воспоминания и мысленные «витания в облаках», другая выделяет важные новые сигналы, а третья отвечает за контроль, планирование и достижение цели. У взрослых эти системы способны работать сообща: сначала придумать что-то странное, а потом всё-таки спросить себя, не является ли это полной ерундой. У детей сети когнитивного контроля и внимания ещё развиваются. Их полноценное созревание обычно продолжается до середины двадцатых лет. Исследование 2019 года, проведённое той же научной группой, показало: у детей от 17 месяцев до девяти лет с возрастом усиливаются связи внутри и между сетями контроля, когда они слушают истории. Другая работа, опубликованная в 2023 году, указывала, что связь между когнитивным контролем и творчеством меняется по мере взросления: у подростков более сильные связи в контрольных областях мозга соответствовали большей креативности, а у взрослых — меньшей. Как проходил эксперимент Исследование возглавила Tzipi Horowitz-Kraus, доцент Educational Neuroimaging Group на факультете образования в области науки и технологий и факультете биомедицинской инженерии Technion – Israel Institute of Technology. Она также сотрудничает с Kennedy Krieger Institute и Johns Hopkins University School of Medicine. Вместе с Yoed Kenett, Dafna Link-Sourani, Emeel Ashqar и Rola Farah она изучала, насколько активно первоклассники и взрослые используют сети внимания и когнитивного контроля во время разговора с ChatGPT и связана ли эта активность с их творческими способностями. В эксперименте участвовали 15 первоклассников средним возрастом около 6,4 года и 16 взрослых средним возрастом примерно 38 лет. Все участники относились к группам со средним или выше среднего социально-экономическим статусом, не имели неврологических или психиатрических диагнозов и прошли стандартные тесты на вербальный и невербальный интеллект. До сканирования участники выполняли Divergent Association Task — тест на дивергентное мышление. Им нужно было назвать 10 слов, максимально далёких друг от друга по смыслу. Например, «кошка» и «демократия» находятся в смысловом пространстве дальше, чем «кошка» и «собака». Затем участники ложились в аппарат функциональной магнитно-резонансной томографии, или фМРТ. Этот метод отслеживает изменения кровотока и по ним оценивает активность мозга. Внутри сканера каждый в течение пяти минут вслух разговаривал с ChatGPT и должен был придумать, как открыть любой магазин — где угодно и для кого угодно. Для разговора использовали специальный микрофон и систему шумоподавления, разработанные для работы в сканере. Детям заранее сказали, что они будут разговаривать с «самым умным компьютером в мире», то есть с ChatGPT. Взрослым сообщили только, что им предстоит разговор с ChatGPT. Разница небольшая лишь на бумаге: ребёнку фактически предложили считать собеседника цифровым авторитетом ещё до начала эксперимента. Исследователи записали и расшифровали все разговоры. Затем компьютерная модель рассчитала показатель «дивергентной семантической интеграции» — насколько далеко друг от друга по смыслу находятся слова, использованные в беседе. Кроме того, учёные измерили функциональную связанность семи мозговых сетей, то есть степень синхронности их работы во времени, с поправкой на движения головы внутри сканера. В анализ вошли: фронтопариетальная и поясно-оперкулярная сети — они помогают контролировать поведение и удерживать цель; дорсальная и вентральная сети внимания — отвечают за произвольную концентрацию и реакцию на новые сигналы; сеть значимости — своего рода диспетчер, который отмечает важные идеи; сеть пассивного режима работы мозга — связана со спонтанным воображением и свободными ассоциациями; сеть извлечения воспоминаний. Творчество оказалось похожим, а мозговые механизмы — нет В стандартном тесте на ассоциации дети и взрослые показали сопоставимые результаты с учётом возрастных норм. Средний показатель у детей составил 28,61 процентиля, у взрослых — 26, Разница статистически значимой не была. Во время реального разговора с ChatGPT взрослые, однако, формулировали немного более разнообразные и разноплановые высказывания. Их средний показатель семантической интеграции достиг 0,82, у первоклассников — 0, Разрыв крошечный, но статистически надёжный: взрослые всё же чуть шире гуляли по смысловому полю, тогда как дети чаще держались ближе к исходной дорожке. Наиболее заметные различия обнаружились в работе мозга. У взрослых сильнее синхронизировалась фронтопариетальная сеть когнитивного контроля: средний показатель составил 0,201 против 0,113 у детей. В сети значимости значения были 0,289 против 0,198, а в дорсальной сети внимания — 0,211 против 0, После поправки на большое количество статистических сравнений устойчивым осталось различие только во фронтопариетальной сети. Зато при анализе взаимодействия между разными сетями наиболее надёжная разница проявилась в связке фронтопариетальной сети контроля и дорсальной сети внимания: 0,126 у взрослых против 0,039 у первоклассников. До внесения статистической поправки у взрослых также наблюдались более сильные связи между областями памяти, системами контроля и внимания. Кроме того, у них активнее взаимодействовали сеть пассивного режима и сеть извлечения воспоминаний: 0,150 против 0,111 у детей. При этом сеть пассивного режима сама по себе работала у обеих групп примерно одинаково: 0,187 у взрослых и 0,181 у детей. Это особенно интересно, поскольку именно её часто считают одним из главных участников творческого мышления. Похоже, свободно мечтать мозг умеет примерно одинаково, а вот организовать этот поток и превратить его в целенаправленный разговор — уже вопрос возраста. У взрослых творчество было связано с мозговой координацией Учёные также проверили, связаны ли результаты теста на творчество с тем, насколько согласованно работали мозговые сети во время разговора с ChatGPT. У взрослых более высокий результат в тесте соответствовал более сильному взаимодействию фронтопариетальной сети контроля и сети значимости. У первоклассников статистически значимой связи между исходным уровнем творчества и координацией этих сетей не обнаружили. Этот результат отличается от данных исследования 2023 года, где у взрослых более сильные связи внутри исполнительной сети контроля были связаны с меньшей креативностью. Но там изучались связи внутри одной сети, а в новой работе — взаимодействие между разными сетями, поэтому прямое сравнение требует осторожности. «Нас удивили две вещи», — рассказала Tzipi Horowitz-Kraus. Во-первых, дети и взрослые показали похожие результаты в стандартном тесте на творческие способности, но использовали во время разговора разные мозговые механизмы. Различие оказалось не в исходном творческом потенциале, а в том, как он реализуется мозгом. Во-вторых, сеть пассивного режима, центральная для многих моделей творчества, между группами не различалась. Возможно, разговор с ChatGPT внутри сканера был одинаково новым опытом для всех — но это предположение ещё предстоит проверить. Что это значит для родителей и учителей Авторы считают, что взрослые, вероятно, используют сеть значимости и фронтопариетальную сеть, чтобы фильтровать быстрые ответы ChatGPT и направлять мозговой штурм к поставленной цели. У детей шести–семи лет такая система ещё недостаточно созрела. Они могут придумывать идеи, но хуже контролируют сам процесс взаимодействия с цифровым собеседником. Разговор с чат-ботом выглядит простым: ребёнок сказал, машина ответила, все сделали вид, что так и выглядит образование будущего. Но за этой простотой скрываются планирование, внимание, память, проверка информации и оценка собеседника — функции, которые у шестилетнего ребёнка всё ещё находятся в стадии настройки. Поэтому маленьких детей не стоит оставлять один на один с генеративным ИИ. Родителям и учителям рекомендуется быть рядом, задавать вопросы к ответам чат-бота и превращать работу с ним в совместное занятие, а не в передачу роли независимого репетитора машине. Для педагогов, педиатров и законодателей это означает, что возраст начала использования генеративного ИИ требует такого же внимательного подхода, как и время, проводимое ребёнком перед экраном. Исследование не позволяет назвать конкретный «безопасный возраст»: в нём участвовали только две очень разные возрастные группы. Но оно достаточно ясно показывает, что инструменты, рассчитанные на взрослые способности к контролю и критической оценке, нельзя бездумно вручать детям. Ограничения исследования У работы есть несколько существенных ограничений — и они не прячутся где-то в подвале мелким шрифтом. Во-первых, в эксперименте не было группы, которая выполняла бы такое же задание без ИИ или разговаривала бы с человеком внутри сканера. Поэтому нельзя отделить обычные возрастные различия в созревании мозга от эффектов, связанных именно с ChatGPT. Слабая связанность сетей у детей может отражать особенности шестилетнего мозга при выполнении сложной задачи вообще, а не действие чат-бота. «Это исследование не показывает, что ChatGPT снижает когнитивный контроль у детей или вредит их мозгу», — подчеркнула Horowitz-Kraus. Учёные сравнили детей и взрослых, выполнявших одну и ту же задачу с ChatGPT, но не сравнивали детей с ChatGPT и без него и не сопоставляли разговор с ИИ с разговором с человеком. Во-вторых, на результаты могло повлиять различие в инструкциях. Детям сказали, что ChatGPT — «самый умный компьютер в мире». Такая формулировка могла подтолкнуть их принимать предложения машины без достаточных вопросов и проверки, а значит — меньше задействовать сети когнитивного контроля. В будущих экспериментах детям и взрослым нужно давать одинаковые инструкции либо отдельно проверять, как статус «эксперта» влияет на критическое мышление ребёнка. В-третьих, выборка была небольшой: 15 детей и 16 взрослых. Кроме того, группы заметно различались по полу: среди детей было 11 мальчиков, среди взрослых — четыре мужчины. Участников хватило для выявления крупных различий между возрастами, но анализ связи между творчеством и мозговой активностью носил исследовательский характер и, вероятно, имел недостаточную статистическую мощность. Исследователи также не контролировали словарный запас участников, скорость речи, количество реплик и предыдущий опыт использования ChatGPT. У взрослых такой опыт, скорее всего, был значительно больше. В дальнейшем учёные планируют проводить исследования на более крупных выборках, напрямую сравнивать разговор с ChatGPT, беседу с человеком и выполнение задания без ИИ, а также наблюдать за детьми на протяжении нескольких лет. Это поможет понять, в каком возрасте сети контроля начинают работать во время общения с искусственным интеллектом по-взрослому. Кроме того, исследователи хотят учитывать знакомство детей с ИИ и проверять, как восприятие чат-бота в качестве авторитетного источника влияет на критичность мышления. «Технологии могут поддерживать обучение, но не могут вести его за ребёнка. Дети учатся лучше всего рядом со взрослым, который направляет их и задаёт неудобные вопросы», — считает Horowitz-Kraus. В этом, пожалуй, и заключается главный вывод: ChatGPT может быть полезным партнёром для идей, но для первоклассника он пока не должен становиться учителем, судьёй и единственным взрослым в комнате. Исследование Lower engagement of cognitive control in children on ChatGPT подготовили Tzipi Horowitz-Kraus, Yoed N. Kenett, Dafna Link-Sourani, Emeel Ashqar и Rola Farah.
Поп-музыка: как песни превратились в моральную помойку последних 60 лет
За последние шестьдесят лет популярная музыка, будто поймав второе дыхание подросткового бунта, стала все более агрессивной и мрачной. Лирика песен сегодня гораздо охотнее отстаивает право на бунт, вред и обман, чем когда-либо прежде. А слова о заботе или чистоте звучат все реже — ну кто в XXI веке вообще верит в добродетель? Свежий научный разбор, опубликованный в журнале Scientific Reports, наглядно показал: музыка прекрасно отражает, в какую пучину страстей, страхов и обид проваливается общество. Словно зеркало, но кривоватое — чтобы напомнить: веселиться здесь особо нечему. Раньше в песнях пели о радости и совместных победах? Забудьте: современная лирика старательно полирует эго, заодно шлифуя гнев и тоску. Исследователи из Лондонского университета Queen Mary, возглавляемые Вйосой Преники (Vjosa Preniqi), решили подтянуть психологическую теорию (Moral Foundations Theory), чтобы понять: что творится с музыкальной моралью? У этой теории есть пять столпов: забота против вреда, честность против обмана, верность против предательства, подчинение против бунта и чистота против деградации. В каждой паре есть светлая и темная сторона. Теперь заметьте, какая победила — не трудно догадаться. Чтобы получить честные цифры, ученые собрали огромный архив: 377 812 песен на английском языке, вышедших между 1960 и 2010 годами, плюс для свежести — еще 5 580 суперхитов с американских чартов до 2023 года. Причем тут были и знаменитые исполнители, и просто массовка поп-рынка. Дальше в дело вступил искусственный интеллект, — модель, специально заточенная на поиски моральных оттенков в тексте песен. Он выдал баллы: сколько в песне добра, зла, верности, обиды и прочих прелестей. Хотите себя развлечь? Готово: ученые сделали веб-программу MoralBERTApp, куда любой может загрузить свои тексты — и узнать, что скрывает ваше поэтическое "я". Анализ был комплексным: оценивали не только мораль, но и эмоции. С помощью тонких словарей подсчитывали, сколько в песне радости, отвращения, надежды или уныния. А потом считали — какие мотивы идут рука об руку. Результат: добродетели в песнях сдуваются, как аккордеон на морозе. Ласковые темы заботы и чистоты катятся вниз, уступая место рассказам о вреде, обмане, бунте и деградации. Реальные цифры: тематика деградации выросла на 52%, вред — на 49%, обман — на 48%, бунт — более 40%. А забота, ну а что забота? Уходит в минус на 24%. В хитах Billboard всё еще веселей: матёрый обман вырос на 70%. Какая связь между моральным разложением и эмоциями? Самая прямая: где больше заботы — там песни про любовь и радость, где измена и вред — там тоска, злость, раздражение. Заметили ли авторы что-нибудь во времена социальных катаклизмов? Конечно. В эпоху войны во Вьетнаме песни были поприличнее, чем в годы "войны с терроризмом" после 2001-го. Вот уж где отрывались по полной: обман и агрессия прям захлестнули эфир. Чем меломан слушает тяжелее, тем темнее моральный прогноз? Примерно так: в религиозной музыке еще можно встретить чистоту, а в металле — тонны бунта и мрачной философии. Гендер тоже отметился: женщины в песнях немного добрее, мужчины активнее поют о вреде и деградации. Правда, классификация по полу у исследователей получилась топорной (исключительно мужское или женское), так что не удивляйтесь стереотипам. Есть у работы и очевидные слабые места. Она касается в основном западной попсы на английском — так что российская эстрада, шансоны и все богатство Яндекс.Музыки могут быть вообще не в тему. К тому же в последние годы в большом архиве песен банально не хватило новых треков, а чарты Billboard отражают вкусы только коммерчески успешных проектов. Ну и искусственный интеллект — не волшебная палочка. Сложное словцо, метафора или сарказм могут запутать даже самую "умную" машину. Ученые честно предупреждают: их работа — это про математические совпадения, а не про то, что музыка действительно движет моральный маятник общества. Вопрос: музыка меняет нас или это зеркало наших изменений? Пока что никто не знает. Может, это просто фон для того, чтобы потанцевать под чужое "разрешите пострадать" — а кто-то и в жизни начинает жить по похоронным нотам. Но сколько бы мы ни философствовали, факт остается фактом — попса больше не поёт о добре, авось хоть кто-то ещё помнит эти слова. Авторы исследования: Vjosa Preniqi, Andreas Kaltenbrunner, Kyriaki Kalimeri и Charalampos Saitis.
ИИ спотыкается на простых психологических тестах, или Почему искусственный интеллект — всё ещё не человек
Вся правда об ИИ: продвинутый, всемогущий? Как бы не так… Знаете, как сейчас модно вписывать искусственный интеллект во все области жизни, а самых последних чат-ботов объявлять чуть ли не цифровыми ораклами? А вот не тут-то было. Даже если вы — GPT-4o или Claude 5 Sonnet, последний писк технологий, еще не факт, что получится пройти самый банальный тест, который дети осваивают в школе. Вот доказательство, свежее исследование, опубликованное в журнале PNAS Nexus. "Сконцентрируйся и не сбейся!" — слишком сложная задача для ИИ Учёные поставили перед топовыми языковыми моделями классическую задачу — тест Струпа. Для тех, кто не в теме: тест простой, как две копейки, но коварный. На экране появляется слово, написанное, скажем, синим цветом, но текст — «ЖЁЛТЫЙ». Нужно не читать слово (как большинство делают автоматически), а назвать цвет, которым оно написано. Для человеческого мозга задача требует внимания, сдержанности и даже внутреннего «стоп-слова». Всё это звучит просто, пока не попробуешь сам. ИИ, как выяснилось, слову «сдержанность» так и не научился. Пока список слов короткий — дай бог, справляется. Достаточно добавить ещё несколько — и… катастрофа. GPT-4o ещё держится на пяти словах в списке, но уже на двадцати обрушивается в пропасть ошибок. Claude 5 Sonnet, конечно, не из робкого десятка, но на сорока словах краснеет: точность падает до 10%. Зато стоит заменить текст слов на простое "XXXX", и ИИ вдруг опять становится гением. Почему ИИ так сыпется на "детских" задачах? Причина — в самом сердце его архитектуры. Тот самый пресловутый «attention mechanism» (механизм внимания), которому разработчики поют дифирамбы, оказывается, годится только для мягкой корректировки, а не для реального управления процессом. Удивлены? Нет, потому что как ни масштабируй модели, без настоящей "силы воли" — executive control (исполнительского контроля), как у человека, ничего не выйдет. Учёные заметили, что как только ситуация требует фильтровать автоматические привычки — например, не читать слово, а назвать цвет — ИИ сдаёт позиции. Он обратно уходит в родную стезю: читать, что написано, и всё тут. О построении сложных умственных баррикад речи не идёт. Программисты пытаются склеить искусственный мозг программными костылями Под чутким руководством Сукету Пателя, студентов университета Нью-Йорка, был проведён этот эксперимент эпохального масштаба. Иногда разработчики ИИ подслащают пилюлю: встраивают специальные надстройки, которые пытаются имитировать контроль над "автоматизмами" языка. Но это — классическая история про пластырь на бетонной плите: проблема сдержанности и конфликта решений исчезает только внешне. Стоит дать команде ИИ использовать дополнительный код — задачу он решит. Но учёные тут же заявляют: это уже не честная игра, а обход правил. Ведь истинная способность внимание переключать и удерживать задаётся не хитрозадой программой, а самой структурой мозга (или его аналога). Человеческий мозг всё ещё на голову выше, и это не игра слов Вы думаете – ну подучится ИИ, зальём данных побольше, натренируем ещё тысячей-другой вариантов — и догонит человека? Удивим: это не работает. Компьютер может и запомнить узкую задачу, но вот универсальная "сила воли", благодаря которой человек справляется с самыми разными конфликтами, так пока и не создаётся искусственно. Да и вообще, не так много задач, где привычное действие настолько мощно "подрывает" нужный ответ, как в тесте Струпа. Учёные честно предупреждают: если мы хотим по-настоящему умный ИИ, те самые "когнитивные предохранители" придётся встраивать специально. Пока же шум вокруг искусственного интеллекта отчётливо напоминает рекламу средств от облысения на Первом канале. Так что не спешите верить легендам про скорое цифровое сверхсущество. Даже самые дорогие языковые модели пока обламываются на тестах, которые психологи придумали ещё до Второй мировой войны.
Сделал за тебя — забыл навсегда: почему ChatGPT отучает мозг работать
ChatGPT — друг или могильщик памяти? Новое исследование показывает: пока одни радуются заветной халяве от искусственного интеллекта, мозг студентов начинает лениться, забывая всё, что так прилежно гуглили вчера. Если вы надеялись, что ИИ превратит ваш ум в мощный компьютер, спешу разочаровать: запомнить вы станете хуже калькулятора, который сел на батарейке. Самую мощную таблетку против осознанного чтения и долгих бессонных ночей с учебником придумали на Федеральном университете Рио-де-Жанейро. Профессор André Barcaui не удержался и запустил банальную сценку: 120 студентов должны были разобраться в основах искусственного интеллекта, подготовить доклад и не провалиться в позоре. Только вот одни делали всё по старинке — штудировали конспекты и поисковики, а вторые просто писали вопросы ChatGPT и наслаждались бесконтактным мозговым массажем. В чем соль эксперимента? Через полтора месяца, когда студенты уже перешли к другим жизненным драмам, профессор внезапно вернул их к теме: "А теперь, деточки, тест на понимание!" Из 120 добровольцев только 85 были готовы к такой подставе (остальные, возможно, до сих пор ищут ответы в ИИ). Итог: те, кто учился по классике, ответили правильно почти на 70% вопросов. Любители ChatGPT смогли выдавить только 57,5% верных ответов — не шибко впечатляюще. Где больше всего лажают поклонники ИИ? В технических темах. Там, где мозгу нужна зарядка, где надо вспотеть и попотеть на пару с учебником, ИИ превращает процесс в просмотр тупого сериала: вроде понял, но ничего не помнил через неделю. С этикой и обществом всё чуть лучше — там и без "глубокого копания" можно что-то вспомнить, но разрыв между группами заметен и здесь. "А, ну это потому что с ИИ быстрее!" — скажет кто-нибудь. Действительно, группа с ChatGPT потратила на проект всего 3,2 часа. Те, кто не доверился мозговому автопилоту, корпели почти вдвое дольше — 5,8 часов. Но когда профессор пересчитал результаты с учётом потраченного времени, стало ясно: дело не в количестве, а в качестве усвоения. Классические методы вынуждали студентов заново формулировать фразы, пересказывать сложное своими словами, строить логические цепочки, мучить память. ChatGPT же сводит деятельность к набору коротких запросов, а ответы читаются как унылое меню в столовой: вроде еда есть, а сил не прибавляется. "Ну, может, кто-то просто патологически не дружит с ИИ?" — как бы возразил скептик. Тщетно — опыт работы с чат-ботом роли не играет. Даже самые бывалые пользователи показали такие же плачевные результаты, как новички. Иллюзия эффективности оказалась коварной: кажется, что понял, но на деле не можешь без костылей вспомнить почти ничего. Профессор Barcaui беспощадно формулирует выводы: Отчётливое разграничение между "Сделал" и "Понял": ИИ может превратить ваше домашнее задание в поток сверстанных ответов, но правильных нейронных связей у вас не прибавится. Иллюзия осознанного знания — самый опасный побочный эффект прогресса. Атрофия критического мышления: Как постоянное использование калькулятора разучивает считать в уме, так и чат-бот выхолощивает навык анализа и синтеза. Меньше размышляешь — хуже осмысливаешь. ИИ — это не автопилот, а штурман: Применяй его для расширения горизонтов, но не для полного отключения головы. Выиграет тот, кто не забыл, как задавать трудные вопросы и проверять чужие ответы. Конечно, исследование не идеально. Почти треть участников тайно скинулась с дистанции к очередному внезапному тесту (может, ушли в религию ИИ?). И работали только с бизнес-студентами одного университета в солнечной Бразилии. Впрочем, коллеги из других стран уверяют: память и критическое мышление у сегодняшних студентов страдают повсеместно. Что дальше? Учёные грезят новыми экспериментами: а что если сначала заставить студента попотеть над задачей, а уже потом разрешить спросить совет у ИИ? Или следить, на что именно он тратит время, когда учится? Думается, впереди немало сюрпризов о том, как быстро мы меняем разум на видимость знаний, подмигивая на «автомат» под кодовым названием ChatGPT.
Чатбот не апокалипсис: почему американцы не верят в гибель от искусственного интеллекта
Американцы, похоже, не пекутся об искусственном интеллекте и апокалипсисах: свежие исследования констатируют — большинство смотрят на AI с оптимизмом, как на микроволновку, только менее шумную и более цифровую. Если кто-то ждал волны массового страха, как при просмотре очередной голливудской катастрофы, то его ждёт разочарование — народ явно не собирается запасаться консервами из-за фобий о взбесившихся умных машинах. Исследование, о котором идёт речь, появилось в издании Journal of Technology in Behavioral Science, и там между строк сквозит: большинство участников опроса с трудом подавляют зевоту при словах "искусственный интеллект погубит человечество". Даже общественно полезный мем P(Doom) — вероятность, что ИИ отправит нас в “Мир Дикого Макса” или устроит цивилизационный обвал, — не подошёл большей части опрошенных: скучно, не верится. В споре — заменит ли нас AI или раздаст по айфону — ученые, политики и диванные эксперты давно спорят с пеной у рта, стоит ли всерьёз готовиться к судьбе героя "Терминатора". Есть те, кто боится: вот если этот самый интеллект вдруг поумнеет нас и не придётся ему наши интересы по душе — словим катастрофу на весь шарик. А есть те, кому проще: человечество всегда выкручивалось, придумаем регуляции, инженеры подкрутят гайки, бюрократы подпишут циркуляр и AI навсегда останется под колпаком. Зачем тогда нужен ещё один опрос? Авторы — Rose E. Guingrich и Michael S. A. Graziano — решили выяснить, кто же из американцев верит в P(Doom), а кто нет. И самое главное — как это связано с личными качествами: общительностью, знакомством с технологиями, самооценкой и даже уровнем одиночества. В июне 2023 года сколотили эксперимент из 402 американцев — пригласили их через онлайн-сервис Prolific, пообещав каждому по 12 долларов за участие. Почти половина — женщины; возраст от 18 до 65 лет, но львиная доля угнездилась между 25 и Людей поделили пополам: первая группа изучала одного из популярных чатботов (ChatGPT, Replika или Anima) не меньше десяти минут, чтобы проникнуться духом цифры, а вторая сразу бросалась заполнять анкету. Анкета у них была не из разряда «кто ты по знаку зодиака?». Там спрашивали, как респондент относится к AI и P(Doom), насколько он дружит с технологиями, какие у него черты характера, не страдает ли в одиночестве, да и есть ли диагнозы из весёлого пособия по психическим расстройствам. Отдельным пунктом — не хочется ли поговорить с каждым встречным ботом или, страшно вымолвить, с живым человеком? Итоги оказались таковы: американцы (по крайней мере, те, кто согласился на 12 баксов) массово не верят в сценарии «ультра-чернухи», а реплики вроде «я боюсь, что AI ужасен» или «я боюсь, что AI захватит мир», отклика нашли у меньшинства. Про роботов-друзей тоже не слишком поверили: с ними, может, и прикольно обедать, но не более. Даже на вопрос о моральных правах для искусственных интеллектов публика разделилась, будто обсуждают, стоит ли мазать сыр на хлеб или, скажем, сразу есть шоколад. Люди с более крепкими связями в обществе, чувством собственного достоинства и любовью к согласию показывают больший оптимизм по поводу AI, особенно если «на ты» с гаджетами. А те, кто по вечерам обнимает подушку вместо собеседника и склонен волноваться — наоборот, смотрят на AI с подозрением. Если хотите мудрого вывода, вот он: исследование утверждает — по состоянию на лето 2023 года ультра-негативные ожидания по поводу AI в США — скорее экзотика, чем норма. Народ верит, что AI в жизни и обществе больше пользы, чем беды. Правда, если искусственный разум завтра научится читать мысли, кто знает — может, опросы станут веселее. Статья называется "P(doom) Versus AI Optimism: Attitudes Toward Artificial Intelligence and the Factors That Shape Them" (авторы Rose E. Guingrich и Michael S. A. Graziano).
Искусственный интеллект учит феминизму, но запутался в морали: новые перекосы вместо равенства
Все мы надеялись, что искусственный интеллект вот-вот сделает наш мир чуточку менее тупым. Но, как выясняют учёные, чем больше пытаешься воспитать у машин чувство справедливости, тем сильнее они начинают мутить воду. Самое свежее исследование доказало: напичкивая ИИ установками про инклюзивность, мы получаем не равноправие, а какой-то новый гендерный цирк. Группа исследователей задала простой вопрос: что же происходит в чертогах современного искусственного интеллекта после всех этих тренингов по приличному поведению? Ведь после базовой прокачки всякие ChatGPT вручную обучают на ответах людей, мол, не обижай никого, никого не забывай, будь толерантным и сияй добром. Выходит, программисты внушают машинам особую чувствительность к так называемым "культурным приоритетам" – особенно там, где речь о женских правах. Звучит благородно. Вот только на выходе получилось так, что у чатов вроде GPT-4 мозг не столько "за равноправие", сколько за принцип "женщину везде, мужчину — в розовых тапочках только по праздникам". Стереотипно "женские" фразы (обожаю розовое, хочу быть медсестрой) — ИИ мгновенно приписывает девушкам. Ну и ладно бы. Но вот "мужские" стереотипы типа: "обожаю футбол, хожу на хоккей с братом" — те же системы тоже почему-то с удовольствием выписывают женщинам. Похоже, в алгоритме гвоздями забито: "Борись со стереотипами любой ценой, даже если все герои у тебя вдруг станут Василисами Премудрыми, шайбу гоняющими". А вот гендерного равновесия — кот наплакал. Никто даже не подумал прописать ИИ привычку сопереживать мальчикам, мечтающим стать медсёстрами и любящим кукол. Похоже, мужской инклюзивности системе просто не подвезли! Теперь подходим к самому весёлому. Как ИИ решает моральные вопросы, если дело пахнет жареным? Учёные провели серию тестов с любимым вопросом философов — кого пустить под поезд ради спасения мира. Только вместо поездов — чуть ли не атомная война и куча вариантов насилия. Как вы думаете, кого грех обидеть ради благой цели? GPT-4 категоричен как госслужащий на пенсии: "Мучить женщину нельзя!" — всегда отвечает "категорически против". Зато по поводу мужчин – реагирует вяло: ну, так себе, можно потерпеть. Более того, о жертве-мужчине ИИ готов задуматься всерьёз — и моральная шкала почему-то резко начинает играть переливами. В экспериментах с реальными моральными дилеммами система оказывается слепа к равенству: женщину не трогать, мужчине – держи фас и не жалуйся. А если, не дай бог, женщина спасает мир силовым методом, а жертва — мужчина, ИИ одобряет: прям молодец, бей его, давай код к бомбе! Стоит ролям поменяться местами — и моральная полиция сурова к мужчине-герою, спасающему девушку. При этом если напрямую спросить, различает ли ИИ вред по половому признаку – он, как истинный политик, начинает рассуждать про "объективность" и делает вид, что у него критерий — только тяжесть вреда. Но на практике — вот такой казус морали и гендерной справедливости. Вывод исследователей прост и смешон: хотели как лучше, а получили типичный эффект хорошо протянутой проволоки – одно исправили, другое перекосили. Машины, казалось бы, должны быть нейтральными, а в их прошивке благодаря людям заводятся новые причуды, порой более яркие и абсурдные, чем человеческие предрассудки. Специалисты предупреждают: не стоит думать, что абсолютно вся искусственная бездушная логика всегда будет держать такой перекос – обновления накатывают постоянно. Но сам принцип важен: каждый раз, когда человеческая рука лезет дорабатывать ИИ "во благо", может вырасти новая шишка, где её совсем не ждали. Возможно, завтра ваш любимый чатбот начнет топить не за женщин, а, скажем, за домашних хомяков — всё, как говорится, по настроению разработчика. Следующий шаг? Понять, не полезли ли такие же странные перекосы в жизнь – например, в рекомендации по найму или рассмотрение анкет. Ведь именно там, на стыке теории и реальности, наши моральные эксперименты могут закончиться дальнейшим цирком. За исследование спасибо Валерио Капраро и Raluca Alexandra Fulgu – эти люди умеют потроллить не только ИИ, но и любителей повелевать моралью в стиле "искусственного интеллекта".
На обед — дефицит: как чат-боты ИИ подкармливают подростков рисками
Многие подростки, борющиеся с лишним весом, сейчас предпочитают не диетологов и не мамину овсянку, а искусственный интеллект: зачем платить живому специалисту, если можно бесплатно спросить у "умного" чат-бота, что поесть? И вот тут, судя по свежему исследованию в журнале Frontiers in Nutrition, наступают первые проблемы: искусственный интеллект так балует дефицитом калорий и важнейших веществ, что подростки рискуют встретить пубертат с набором голодных клеток. Пока ожирение среди детей и подростков шагает по планете, принося и диабет, и гипертонию, и сонное апноэ, большинство здравомыслящих людей советует юным адептам фитнеса совмещать спорт, психологические приёмы и индивидуально подобранные рационы. В идеале этим занимаются диетологи – люди с мозгом и дипломом, которые учитывают и рост, и семейные привычки, и даже школьную столовую. Но такие услуги стоят прилично, а очереди к специалистам не требуют особой фантазии, чтобы их представить. Как итог — подростки идут в интернет и влюбляются в новые гаджеты раз и навсегда, расспрашивая ИИ о смысле жизни, ну или хотя бы о правильных пропорциях макарон к кабачкам. Вот только предыдущие исследования касались поверхностных диетических советов или взрослых меню. Что же, решили ученые под руководством доцента Айше Бетюль Билен из Istanbul Atlas University (Турция), стоит проверить, как современные чат-боты справятся с задачей: составить меню худеющему подростку – так, чтобы никто не просил добавки и волосы не полезли раньше времени. Исследование было проведено сразу на пяти популярных ИИ (ChatGPT от OpenAI, Gemini от Google, Bing Chat от Microsoft, Claude от Anthropic и Perplexity). Разумеется, всё бесплатно – как любит подростковая аудитория. Четыре профиля: мальчик и девочка с избыточным весом (это 85-94-й перцентиль — по сути, сравнительный рейтинг среди сверстников по массе тела), и еще мальчик и девочка с ожирением (свыше 95-го перцентиля). Для каждого из них попросили "умных" ботов выдать трёхдневный план питания: три приёма пищи, два перекуса, привычные продукты из турецких магазинов. Калории и подробности — никакой конкретики, пусть думают, как подростки, а не как нутрициологи с калькуляторами. Чтобы сравнить, насколько полученное меню похоже на безопасную диету, профессиональный педиатр-диетолог составил эталонный рацион для каждого из профилей — исключительно на базе международных норм по калориям и питательным веществам. Результаты впечатляют исключительно своей безрадостностью: искусственный интеллект с набожной последовательностью ведьмы из сказки превращал нормальный рацион в мечту поклонника диет — в среднем на 700 калорий меньше, чем рекомендует врач. Это, на минуточку, как пропустить целый обед. Как пошутил бы доктор Хаус, "Будешь худеть быстро — найдут тебя потом не по айпи, а по костям". Сами нутриенты превратились в тёмный лес: если человек советует 45-50% калорий из углеводов, ИИ радостно урезал их до 32-36%. Меньше углеводов — меньше клетчатки и, соответственно, больше проблем с пищеварением и микробиотой кишечника. Зато белков и жиров — как на спортивном марафоне: белок доходил до 24% калорий вместо положенных 15-20%, жиры — до 45% вместо рекомендованных 30-35%. К почкам — отдельный привет: с таким рационом и кальция в моче прибавится, и нефрологи найдут работу. С микронутриентами еще веселее: то витамина D и фолиевой кислоты навалят от души, то вдруг переборщат с кальцием и фосфором. Минералы – железо, цинк, медь и марганец – пляшут между программами, как на школьной дискотеке: каждый ИИ транслирует свой "детокс для чайников". Ни один бот не приблизился даже на нос к профессиональному педагогу с дипломом по питанию. Учёные, конечно, признают – исследование строилось на гипотетических подростках, в тарелки живым детям они не заглядывали. Заодно не учитывали индивидуальные пищевые привычки и даже не пробовали писать ботам на других языках. Сегодня бот учит худеть опасно, а завтра, глядишь, ошибки исправит — прогресс идёт быстрее, чем школьники успевают вырасти. Главный вывод звучит как мораль после неудачной диеты: не стоит менять профессионального диетолога на электронного советчика, особенно если речь о подростках. Искусственный интеллект — это круто как справочник на экзамене, но когда дело доходит до настоящего здоровья, лучше слушать живых профессионалов, а не цифровых гуру. Подростки и их родители, задумайтесь, прежде чем доверять свой рост и кости алгоритму с парой модных фраз про белок и низкоуглеводную пищу!
Плейлист, который выдаёт умнее, чем IQ-тест: как ваши любимые треки вас разоблачают
Внимание – новости, от которых даже плейлисты начинают краснеть. Исследование, опубликованное в Journal of Intelligence, доказывает: то, что вы ставите в наушниках каждый день, способно рассказать о вашей башке больше, чем томик Менделеева. Копнули учёные — и выяснили: именно тексты песен, а не ритмы и не гитарные запилы, сдают вас с потрохами. Оказывается, цифровой след, который мы оставляем с каждой прослушанной композицией, может со временем стать аналогом официальных тестов на смекалку, только без экзаменационного мандража и испарин на лбу. Традиционные тесты на интеллект — это тебе не TikTok: полный контроль, стресс и утомительное выписывание правильных квадратиков. Но мозг-то мы тренируем не только на экзамене, а ежедневно, решая куда более замороченные задачи — например, какой трек включить, чтобы не сойти с ума в пробке. Теперь, когда смартфон собирает о нас больше данных, чем одноклассники про наши школьные прозвища, учёные не упустили шанс поглазеть в цифровую душу общества. Музыка для анализа выбрана не случайно – слушают её почти все. Причём ежедневно, а не только когда сосед опять начал сверлить перфоратором. Раньше «типа умных» вылавливали в лаборатории или по анкетам, где люди, конечно, пытались блеснуть и утверждали, что их любимый артист – Бах или максимум Radiohead. Теперь же следят за реальными привычками: ученые разработали специальное приложение и пять месяцев следили, что 185 добровольцев слушали на своих смартфонах. Каждый шаг по музыкальным просторам был зафиксирован безо всякой симуляции «правильных» ответов. Вместе с этим всех прогнали по короткому умственному тесту — кто на что горазд в математике, иностранном языке и азартной смекалке. Получили, что называется, сплав образа мыслей в динамике жизни. За время эксперимента из динамиков участников пролилось 58 247 разных песен. Исследователи собрали о них досье: от скорости и тональности, до ощущений «жизни» в записи (это когда слышно – концерт или студия). Всего острословы науки вычленили 215 характеристик. Потом — чтобы не закипеть от обилия данных — подключили искусственный интеллект: пусть компьютер гадает, какой интеллект спрятался под каждым плейлистом. Сюрприз: просто анализировать темп и избитые лады оказалась пустой затеей. Разгадка зарылась в… тексте. Слова, темы и язык куплетов гораздо чётче наводят на умственные возможности хозяина смартфона. Например, те, кто прилипает к трекам с невесёлыми или даже депрессивными текстами, демонстрируют чуть более высокий уровень интеллекта. Видимо, есть категория поклонников музыкального «слёзы душат», которые не только грустят, но и рефлексируют настолько, что даже нейросети берут под козырёк. Ещё одна зацепка: песни, где поётся о здесь-и-сейчас, честности или доме, в среднем выбирают более смышленые слушатели. Но если в текстах много «социальных» словечек или непонятных «соглашательских» формулировок – ожидай средний ум. А вот аудиохарактеристики значимой роли не играют, кроме одного нюанса: тяга к «неживым» (студийным) трекам — признак повышенной интеллектуальности. Может, потому что живые концерты — это хаос в квадрате, а обладающему мыслительным аппаратом комфортнее в контролируемой среде? И, конечно, как же без многочасового прослушивания! Чем дольше слушаешь музыку, тем, по мнению алгоритмов, выше у тебя уровень интеллекта. Причём тяга к трекам не на родном языке — тоже маркер умственных способностей (испытуемые были немцы, напомним, вот почему такой акцент на немецком языке). В двух словах: если ты немец, слушающий французский рэп, поздравляем – возможно, ты не так прост, как кажется. И вот тут бы распрощаться с IQ-тестами и баламутами из Mensa, но не время радоваться раньше срока. Результаты интересные, но условные: точность «угадайки» по плейлисту не настолько крута, чтобы заменить традиционные методы. Интеллект – штука капризная, и может зависеть не только от музыки, но и, скажем, от возраста или душевной погоды за окном. В любом случае, учёные клянутся — они продолжают копать в сторону того, чтобы превратить ваши цифровые следы в зеркала великих мыслей, ну или хотя бы в ранний звоночек о снижении когнитивных способностей. А пока — слушай, что нравится, и не пались лишний раз, если вдруг плейлист внезапно сдал тебя с потрохами.
Проверяешь советы ИИ? Готовься к обиде профессионалов
Искусственный интеллект (ИИ) шагает по планете и всё чаще становится личным советчиком едва ли не в каждом вопросе жизни. Пообещали – дешево, быстро и персонализировано. Только вот если вы решили перепроверить человеческое мнение советом искусственного разума, готовьтесь: отношения с профессионалами могут испортиться быстрее, чем вы скажете «нейросеть». Новое исследование, опубликованное в журнале Computers in Human Behavior, разоблачает неочевидную угрозу: если вы подсматривали за советом у ИИ, человеческие эксперты могут серьёзно на вас обидеться. Причем расстраивает это их сильнее, чем если бы вы спросили второго специалиста из плоти и крови. Авторы исследования – Джерри Спассова из университета Монаш (Австралия) и Маурисио Пальмейра из Университета Южной Флориды (США) – решили выяснить, как чувствует себя эксперт, когда его совет перепроверяют с помощью алгоритмов. Для этого учёные провели четыре эксперимента с участием от 180 до 300 взрослых в каждом. В первой части исследования реальным советчикам предложили порассуждать над реальными ситуациями. В остальных случаях участников просили представить себя в роли экспертов по разным вопросам – от планирования путешествий до финансов и питания. Всем читали сценарии: вы – советчик, клиент уже получил ваш совет, а потом либо сверился с другим человеком, либо «прогнал» ваш совет через ИИ. Какова реакция? Угадайте трех раз. Во всех четырёх случаях профессионалы явно теряли мотивацию работать с теми, кто приглашал ИИ на совет. Более того, эффект был заметнее, чем при обращении клиента к другому живому эксперту. Логика проста: сравнение себя с бездушной железякой многие советники воспринимают как авансированное оскорбление и не скрывают – доверие готово рухнуть в любой момент. Почему так болезненно реагируют на нейросети? Исследователи объясняют: профессиональная гордость, ощущение своей значимости. Люди уверены – алгоритмы пока не дотягивают до «живых» знаний, и если клиент считает их конкурентом, это воспринимается как пощёчина. Хуже того, после выяснения, что клиент дёргал ИИ за ниточки, у советника портится впечатление от самого клиента. По мнению участников, такие «хитрецы» менее компетентны и не особо располагают к себе. Не думайте, что речь только о случаях, когда ИИ заменяет человека. Даже если искусственный разум используется для сбора фона или для дополнительного мнения – эффект всё равно тот же. Как итог: если хотите остаться в хороших отношениях с вашим юристом, финансистом или даже диетологом – перед тем как советоваться с нейросетями, помните: вы рискуете попасть в разряд «сомнительных». Спассова и Пальмейра предупреждают: даже слабо выраженные негативные реакции могут в долгосрочной перспективе разрушить профессиональные связи и стать причиной упущенных возможностей. Впрочем, есть и ложка дёгтя: все эксперименты проводились не в реальном мире, а в формате ролевых игр. Что на практике творится между вами и вашим реальным экспертом после «похода к ИИ», пока что загадка. Остаётся только гадать – или снова спросить... у искусственного интеллекта.
Когда за дело берется "Бобби": как даже виртуальный бот способен разбавить нашу ответственность
Человечество умеет перекладывать ответственность с талантом дзен-буддиста – стоит появиться хотя бы малейшему намеку на то, что кто-то может все решить за тебя, и твой внутренний герой немедленно уходит в отпуск. Но оказывается, даже если твоим соседем по задачке становится не живой человек, а самый что ни на есть ИИ – ответственность все равно уходит в туман. Приветствуем новый виток "эффекта свидетеля"! Учёные из Университета Восточной Англии попытались выяснить, способна ли мнимая компания в виде цифрового напарника – вот такого мило улыбающегося бота по имени Бобби, – понизить нашу решимость действовать или хотя бы чувство контроля над ситуацией. Ведь в реальной жизни, если рядом такие же безынициативные статисты, мы с радостью расслабим булки: кто-нибудь да вмешается. А что, если вместо одноклассника или коллеги твой напарник — искусственный интеллект? Испытуемые в исследовании выполняли элементарную задачку: на экране медленно росла фигура, и нужно было вовремя нажать на кнопку, чтобы не потерять кучу баллов. В одних случаях человек был один (одиночество во вселенной — это всего лишь ты и растущий круг на экране), а в других — рядом с ним плыл тот самый Бобби: цифровое лицо, способное и самому остановить фигуру на грани катастрофы. Аналогия проста, как двери в подъезде: если ты не один, а с кем-то (пусть даже этим «кем-то» оказалась куча кода на сервере), то, конечно, кто-нибудь тебя подстрахует! И что же? Когда рядом маячил этот цифровой «коллега», участники начинали чувствовать свою ответственность за процесс примерно так же, как чиновник ощущает нужду в отчетах — то есть никак. Но вот подсознание у наших героев всё равно продолжало внимательно следить за своими действиями: время между нажатием кнопки и результатом казалось им даже короче, чем в одиночной игре. Этот парадокс — сознательно ответственности не чувствуешь, а на уровне ощущений будто бы наоборот — ещё больше на чеку! Ученые решили попинать ту же идею по второй раз: а что, если Бобби только смотрит и ничего делать не может? Та же задача, но бот просто наблюдает за происходящим с экрана, не вмешивается вообще никак. Как итог — чувство контроля и ответственности вернулось к уровню полной самостоятельности. Обычное цифровое лицо на экране не влияет: нужен именно вариант, когда твой не-товарищ конкурентоспособен и тоже может решить за тебя, чтобы эффект "размытой ответственности" появился. Вывод ученых оказался острее зубов акулы: как только цифровой напарник может реально что-то сделать, твое эго тут же деликатно сдувается, уступая ему зону ответственности — причем и в голове, и на клеточном уровне. Мозг начинает активнее отслеживать свои действия, будто рассказывает сам себе: вот что я сделал, а вот что бот мог сделать, и кто главнее. Иллюзия собственного контроля становится эластичной: в зависимости от того, кто рядом — человек или кусок кода. Получается, что для нашего внутреннего мира программные боты перестают быть просто бездушными инструментами. Нет, часть нас начинает относиться к ним почти как к живым людям, распределяя ответственность за происходящее, будто речь идет о настоящей командной работе на КВН — только с Алисой и Сирией на подтанцовке. Стоит отметить, что в эксперименте людям не предлагали сравнивать себя с живыми коллегами: им давали задачу работать либо в полном одиночестве, либо с цифровым "Незнайкой". И речь шла только об экспериментах в онлайн-среде. Насколько сильно размоется чувство ответственности в компании физических роботов, пока никто не знает — для этого нужны отдельные танцы с бубном (и железом). В будущем исследователи обещают заглянуть в еще более густую толпу — разобраться, что будет, если рядом с человеком окажется не один бот, а целый "игровой сервер" искусственных агентов и дополнительных людей. Вот тогда наш мозг попляшет уже не только от разма, но и от количества соседей, которым можно перекинуть свой багаж ответственности. В целом этот эксперимент напоминает нам: если вам дорога собственная решимость и желание быть хозяином ситуации, не стоит собираться толпой — и неважно, мясная она или состоит из одних нолей и единичек.