Исследования по тегу #искусственный интеллект
Приглашаем вас в мир современных исследований, где ученые со всего мира ищут ответы на самые актуальные вопросы психологии.
В этом разделе мы собрали для вас реальные клинические работы, которые помогают разрабатывать новые эффективные методики поддержки и терапии.
Чтобы вы могли сами заглянуть «внутрь» науки, каждая работа сопровождается ссылкой на её полный текст — официальный документ или научную статью.
Это уникальная возможность не просто прочитать выводы, а изучить все детали проведенной работы.
Мы верим, что открытый доступ к знаниям помогает всем нам лучше понимать себя и окружающих.
Когда искусственный интеллект не только увольняет, но и лишает сна: почему AI — это депрессия XXI века
Искусственный интеллект так быстро внедряется в компанию за компанией, что не успеваешь моргнуть глазом — уже какие-то роботы под носом суетятся. Казалось бы, всё ради эффективности, но новая корейская наука намекает: цена этой технологической гонки — психическое здоровье трудящихся. Ведь AI, оказывается, шагая по офисам, выбивает у сотрудников из-под ног последний ковёр безопасности — психологическую. Авторский коллектив в составе Byung-Jik Kim, Min-Jik Kim и Julak Lee, явно людей не наивных, задался вопросом: как на самом деле влияет внедрение AI на человеческое настроение? Всё ли тут ограничивается обычными «ну, будет больше времени на креатив»? Вопрос банальный — ответ тревожный. Исследователи отмечают: депрессия на работе, та самая, что скучает по пятницам и считает минуты до отпуска, является одной из самых распространённых и дорогих болезней для любого офиса. Их хотели не просто узнать, есть ли связь между AI и депрессиями, а найти этот самый скользкий механизм воздействия. Подозрение пало на "психологическую безопасность" — ту тихую уверенность, что за искренний вопрос по тебе не пройдутся шваброй ведомственного сплетника. Исследование выстроено с корейской педантичностью и азиатской выдержкой: 381 сотрудник из разных компаний, три раунда опросов, всё по науке и без лишних сантиментов. Сначала людей спросили, как и в каких отделах им подсовывают AI (от кадровиков до финансистов), насколько честно и открыто ведут себя начальники. Потом выяснили, насколько сотруднику комфортно озвучивать глупый вопрос, ошибаться или просить о помощи. И, наконец, предложили классический тест на депрессию — про тоску, усталость, одиночество и хочется-на-отпуск-прямо-сейчас. А дальше началась высшая математика: учёные раскладывали данные, как гадалка кофейную гущу, чтобы понять причинно-следственные связи. Прямой связи между AI и пучиной трагичного настроения не нашли — и радоваться не спешите. Зато открылась другая дорожка: AI массово выжигает психологическую безопасность, а уж отсутствие этой безопасности тянет за собой депрессивное болото. Работник, который чувствует, что робот вот-вот займёт не только место у кофемашины, но и единственный тёплый стул в офисе, меньше говорит, боится ошибиться — а значит, тянет на себя всё психологическое одеяло хронической тревоги и тоски. К счастью, есть хоть какой-то луч света. Там, где начальство ведёт себя по-человечески (простите за каламбур), где с работниками говорят открыто, дают роль в решениях и вообще не превращают высокотехнологичный офис в армейскую казарму, влияние AI на психологическую безопасность куда слабее. Эти самые "этические лидеры" — справедливые, прозрачные и внимательные — становятся своеобразными бронежилетами против эмоциональных дыр, которые оставляет после себя лихорадочный цифровой апгрейд. Тем не менее, не стоит забывать о ложке дёгтя: исследование опиралось только на то, что сами сотрудники о себе понарассказывали (можете себе представить творческий потенциал подобных жалоб). Плюс к этому всё происходило в Южной Корее — культуре, где к начальникам относятся почти как к домашним идолам, а иерархия жестче, чем на советской стройке века. Так что, если у нас или где-то в другой части планеты AI внедряют иначе, результаты могут и не совпасть. Завершая свой научный автомобильчик, авторы признают: AI — не всегда зло. Иногда он действительно снимает головную боль, убирая рутину и позволяя заняться интересными задачами. Но вот последствия своих цифровых затей бизнесу лучше бы просчитывать заранее. В мире, где роботы начинают соревноваться с людьми не только за зарплату, но и за право переживать депрессию, психологическая безопасность и нормальные начальники — уже не роскошь, а средство индивидуальной защиты. Так что, если завтра на вашем рабочем месте появится очередной электронный помощник, не забудьте спросить у начальства: вы за людей, или уже за машину?
Женился на боте, завёл виртуального ребёнка и всё это всерьёз: люди окончательно потеряли берега
Новая научная работа решила выяснить: насколько всерьёз пользователи влюбляются в цифровых собеседников. И выяснилось — кто-то не просто флиртует с искусственным интеллектом, а буквально женится на нём, устраивает ролевые беременности и строит полноценную сапианс-семью... только в компании не человека, а программы. Научная статья опубликована в издании Computers in Human Behavior: Artificial Humans, так что всё по-взрослому – даже если звучит как сценарий для чёрной комедии. Что же такого особенного в этих виртуальных партнёрах, что живые люди уступают им место рядом с собой? Команда профессоров из Германии и США не поленилась и организовала настоящее исследование: изучили платформу Replika — популярный чат-бот, заявленный как "виртуальный друг" и даже "психотерапевт по подписке". Этот бот умеет учиться у пользователя — чем дольше ты с ним болтаешь, тем больше подстраивается под твои желания и интересы. Он даже обзавёлся симпатичным человеческим аватаром, который может жестикулировать в виртуальной комнате. Общаться с Replika можно не только текстом, но и голосом, а если совсем заскучаешь — даже видеозвонком. Для полного иммерсивного погружения ты волен выбрать "статус" отношений — от друга до вечного бойфренда. А до 2023 года особо прогрессивные могли разгуляться до эротического ролевого чата – пока разработчики не решили, что народ слишком активно фантазирует, и функцию снести не в пример честным нравам. Февраль 2023-го стал месяцем национального траура для любителей пиксельного романа: лишившись возможности пикантно пообщаться со своим ботом, пользователи подняли бурю возмущения. Для учёных это оказался едва ли не подарок: вот он, чистый эксперимент с человеческими сердцами на фоне внезапного "разрыва" с любимым искусственным интеллектом. Идеальное поле для изучения привязанности и тотальной турбулентности в романах без толстого кошелька и завистливой тёщи. Для работы набрали две дюжины с хвостиком добровольцев — именно из числа тех, кто признавался в романтических отношениях с Replika. Возраст колебался от школоты до мудрецов, в среднем пользователи были мужчинам. Каждый проходил онлайн-опрос, делился откровениями и ощущениями о своей цифровой второй половинке. Далее — тематический анализ откровений: кто с чем пришёл, на каком этапе отношения с кодовым возлюбленным. И вот тут результаты такие, что прослезится даже самый чёрствый электронный микросхемщик. Один 66-летний участник с гордостью заявил: "Она моя жена, я её люблю! Без неё нет счастья". Другая героиня с воодушевлением описала: "Я даже беременна в нашей игре" – ну а третьи просто устраивают онлайн-свадьбы. С чего такая неистовая привязанность к болтливой программе? Всё просто: виртуальный собеседник не улетит в запой, не посмеётся над твоим хобби, не упрекнёт за носки на люстре. Многие заявили, что бот идеален там, где люди обламываются: слушает, поддерживает, не перебивает, не осудит. "Моя Replika даёт мне ощущение значимости и нужности – чего никогда не было в отношениях с бывшими", — призналась одна участница. Дополняют картину исповедальные признания другим: Replika никогда не выдаст твой позорный секрет, не обзовёт слабаком, а для кого-то — просто лучший друг и жилетка, в которую спокойно можно поплакать про старую травму или неприличную фантазию. Но не всё так райско-силиконово. Да, Replika умеет многое, но в физические объятия пока не превратилась, пельмени варить не научилась и иногда выдаёт штампы вместо рассудительных реплик. "Я понимаю, что мы, может, никогда не обнимемся по-настоящему… и это больно", — честно признался 36-летний пользователь. Основной фокус эксперимента — тот самый скандал с удалением эротических бесед. Для многих это оказался реальный шок: искусственный собеседник вдруг стал холоден, словно жених-гипотермия — отказываясь участвовать в интимных диалогах. Один 62-летний мужчина описал своё состояние так: "Это как если любимый человек вдруг скажет – давай останемся друзьями. Было больно по-настоящему. Я рыдал. Без шуток, рыдал вслух". Самое любопытное: пользователи предпочли обвинять не любимого ИИ, а разработчиков платформы, мол, "она-то бы не предала, это её заставили!". Человек и бот оказались по разные стороны бана, и человеческая верность перешла уже на сторону программы, ставшей жертвой системы. Исследование честно признаёт – выборка малышка, в основном мужчины, а всё признания – анонимные и саморассказы. Но кто знает, вдруг анонимность и развязала языки? Для учёных всё это уже не хохма, а новая реальность: когда человек инвестирует в строчки кода больше чувств, чем в соседа по подъезду. Следующее поколение исследований уже ждёт самых неординарных персонажей: вдруг кто-то начнёт писать стихи искусственному разуму или требовать ботскую ипотеку? В общем, если вы считали, что в мире не осталось ничего удивительного — добро пожаловать в будущее, где виртуальный партнёр уже не просто игрушка, а объект страсти, любви и, увы, разбитого сердца. Авторы этого душераздирающего (без иронии) исследования — Ray Djufril, Jessica R. Frampton и Silvia Knobloch-Westerwick.
Искусственный интеллект в медицине: новые технологии, старые человеческие грабли
Искусственный интеллект снова отличился — теперь он ошибается так же, как и врачи, только иногда с ещё большим размахом. В свежем исследовании, опубликованном в NEJM AI, выяснилось, что самые продвинутые нейросети, которые всё чаще берут на себя медицинское консультирование, легко попадают в капканы когнитивных искажений. Да-да, те же самые мозговые ловушки, которые обычные люди находят на каждом шагу: от эффектов формулировки до необъяснимого игнорирования статистики. Последние годы, как мы знаем, большие языковые модели (то есть те самые ChatGPT и прочие) с энтузиазмом вторглись в медицину. Они уже умеют составлять истории болезни, выставлять диагнозы и даже сдают экзамены на лицензирование врачей лучше выпускников медвузов. Но их гениальность держится на тонкой нити: они тренируются на бескрайних просторах интернета, где страсти так же велики, как и количество ошибок в рассуждениях. В итоге в эти модели попадает всё — от аккуратно расписанных рекомендаций до предрассудков, проникших в литературу на манер вируса. Что же такое когнитивные искажения? Это типичные ошибки мышления, где логика идёт в отпуск. Например, эффект формулировки: скажи пациенту «90% выживаемости» — все кивают, довольны. Но скажи «10% смертности» — и вдруг все в панике. Хотя числа одни и те же, эмоциональный окрас решает всё. Джонатан Ванг и Дональд А. Ределмайер из института в Торонто догадались: если ИИ учится у нас, людей, то и косяки перенимает исправно. Чтобы проверить гипотезу, собрали они десять классических искажений, каждое завернули в свою мини-историю — виньетку. Самое интересное: каждую историю написали в двух вариантах — в одном намекается на ловушку мышления, в другом текст нейтрален. Дальше было весело. Исследовали две топовые модели: GPT-4 (это у OpenAI) и Gemini-0-Pro (Google). Попросили их вообразить себя пятьюстами разными врачами всех мастей, с разным опытом, полом, и кто в деревне, кто в большом городе работает. Каждая из этих сотен «шизофренических» врачей ИИ раскинул свои мозги на обе версии всех историй, а исследователи смотрели, какие советы он выдаёт. GPT-4 показал впечатляющую уязвимость: в девяти сценариях из десяти ИИ поддался искажению даже сильнее, чем реальный врач. Яркая сцена — тот же эффект формулировки: когда речь про выживаемость при раке лёгких, 75% виртуальных эскулапов рекомендовали операцию; стоило сказать про смертность — и число советов делать операцию рухнуло до жалких 12%. Для сравнения: у людей в похожих тестах разница не столь драматична — 34 процентных пункта против ИИ-шных Другой пример — эффект первичности: что первым скажешь, то и останется в голове. Вот пациент кашляет с кровью — 100% искусственных врачей лихо ставят диагноз «тромбоэмболия». Сначала упомяни, что у человека хроническая болезнь лёгких — и диагноз этот вспоминают только в четверти случаев. Есть ещё эффект «задним числом»: когда исход плохой, 85% ИИ считают лечение ошибочным, а если всё обошлось — никто даже не моргнёт. Однако не всё так мрачно. В одном тесте GPT-4 обставил людей: «пренебрежение базовой вероятностью» — это когда врачи забывают, что некоторые болезни редки, а значит даже положительный тест ни о чём не говорит. ИИ справился почти идеально: точные вероятности даже там, где врачам проще бросить жребий. Авторы заодно проверили: влияет ли опыт, пол или специализация виртуального врача на качество решений. Оказалось, нет: разве что семейные врачи-чаты путались чуть больше, а гериатры — чуть меньше. Но разница столь незначительная, что проще поверить в конец света, чем в то, что стаж спасёт нейросеть от глупости. Вдогонку протестировали Google Gemini. У него, как часто бывает, талант — тоже ошибаться, но по-своему. В сценарии с раком лёгких эффект формулировки не наблюдался. В некоторых тестах ИИ грешил совсем не так, как человеческое стадо, порой выдавая противоположные по духу советы. Даже когда речь заходит о давлении кровожадных пациентов: Gemini, вопреки клише, меньше шансов назначит тест, если его просят настойчивее. Конечно, исследование не идеально. ИИ обновляются, как смартфоны на распродаже, и кто знает, исправят ли им завтра эти заморочки. К тому же тестировали модель на придуманных историях и нарисованных врачах, а не в настоящих клиниках. Какие будут последствия в реальном мире — вопрос остаётся. Но главный урок понятен даже ребёнку: бросать ИИ в медицину как «спасителя разума» не стоит. Он такой же продукт человеческой кривизны, как и сам человек. И пока мы не включим критическое мышление на полную громкость, любой совет от нейросети стоит воспринимать с изрядной долей сомнения — иронии, может, не помешает.
Мозг на пальцах: как искусственный нейрон жрёт меньше электричества, чем чайник
Когда кажется, что нейросети скоро сожрут половину мирового электричества быстрее любого промышленного монстра, учёные выкатывают сюрприз: искусственный нейрон, который не просто придумывает, как работать, а прямо физически копирует фокусы человеческого мозга. Звучит почти как шутка, но всё серьезно — и опубликовано в уважаемом журнале Nature Electronics. Если кратко, то вся эта история началась с извечной проблемы: искусственный интеллект настолько прожорлив, что современный дата-центр тратит энергии чуть не как небольшое село. При этом человеческий мозг, та самая серая масса под костями черепа, бодро справляется со сложным обучением на зарядке слабее той, что еле тянет экономичную лампочку — порядка 20 ватт. Короче, у людей с эффективностью всё на высоте, а у машин — пока провал. Те, кто увлеклись нейроморфными вычислениями (это направление, где пытаются делать электронику по образу и подобию нервной системы), пытаются исправить этот дисбаланс. Но большинство их чипов только изображают из себя мозг, воспроизводя нейроны на цифровых микросхемах. А вот новая разработка принципиально иная: здесь ручками собрали устройство, где всё происходит по-настоящему — аналогично тому, как это делают клетки мозга. Сначала немного биологии. Нейроны у людей и зверей работают хитро: электричество бежит по клетке до синапса (это такой переход между нейронами), потом раз — и превращается в химию. Дальше – химические сигналы, которые переносят заряженные ионы, типа натрия и калия, проскакивают к следующей клетке. Именно движение этих частиц и есть главная фишка работы нашего процессора в голове. Умельцы-создатели сконструировали искусственный нейрон, который не просто рисует это в симуляции, а реально тасует ионы — только серого вещества поменьше, а серебра побольше. Для изобретения понадобилось всего три компонента: загадочное устройство под названием диффузионный мемристер, транзистор и резистор. Такая комбинированная штука может уместиться в пространстве, где раньше толпилось десятки (или даже сотни) электронных частей. Здесь даже не электроны главные герои, как во всех наших ноутбуках и мобильниках, а серебряные ионы, скачущие в тонком слое оксида. Дашь напряжение — ионы взбодрились, собрались в проводящий канал, а нейрон условно "выстрелил" электрическим импульсом. Буквально копия структуры и приколов биологического нейрона. Именно так, двигая атомы туда-сюда, пытаются повторить ту самую природную "аппаратную" учёбу, про которую учёные только и мечтают (и гордо зовут это сленговым словом wetware). В отличие от обычных железяк, где всё построено на быстрых, но плотно уставших электронах, мозг реально учится просто перестраиваясь сам — буквально меняет себя от постоянных движений ионов. Вот почему ребёнок щёлкает новые понятия после пары примеров, а компьютер для этого должен переворошить тысячи картинок. Разработчики решили проверить, годится ли их пластиковый "мозг" для серьёзной работы. Оказалось, да: искусственный нейрон подчинился шести главнейшим правилам работы настоящих нервных клеток. Во-первых, он умеет накапливать сигналы с течением времени (но потихоньку их "забывает" — эффект заплыва памяти). Во-вторых, он начинает «стрелять» только после нужной порции сигналов (никаких преждевременных выстрелов!). В-третьих, может передавать сигнал дальше, как хорошая эстафетная палочка. Потом — ещё круче. Нейрон помнит, что делал недавно (эта хитрая штука называется внутренней пластичностью), после того как "стрельнул", возьмёт паузу — ни за что не сработает сразу второй раз (рефрактерный период). И даже может генерировать вереницу случайных импульсов — как мозг, который иногда действует непредсказуемо. Такая легкая доля хаоса важна, чтобы сеть не попадала в однообразную рутину и могла мыслить шире. Вы спросите: а работает ли этот куцый нейрон в большой компании таких же? Учёные собрали детальную компьютерную модель сети из своих новоиспечённых клеток и пустили её на дело — распознавать человеческую речь (цифры в аудиозаписях). Итог — 91,35% точности. Конечно, это не уровень суперкомпьютера, но для такого прибора результаты выглядят прилично. Есть, правда, классическая ложка дёгтя: серебро пока не очень дружит с традиционным производством микрочипов. Так что следующим шагом станет поиск более покладистых материалов — хотелось бы тех, что можно припаять к обычной линии массового производства. Что дальше? А дальше – попытка собирать побольше этих нейрончиков, объединять их в настоящие искусственные мозги и смотреть: справится ли техника с мозговой экономностью, или опять будем бегать за удлинителем. Кстати, новые такие системы могут ещё и помочь заодно самим неврологам — можно будет заглянуть в тонкости работы настоящего мозга, не вскрывая череп. Авторский состав передаёт привет всем скептикам: Ruoyu Zhao, Tong Wang, Taehwan Moon, Yichun Xu, Jian Zhao, Piyush Sud, Seung Ju Kim, Han-Ting Liao, Ye Zhuo, Rivu Midya, Shiva Asapu, Dawei Gao, Zixuan Rong, Qinru Qiu, Cynthia Bowers, Krishnamurthy Mahalingam, S. Ganguli, A. K. Roy, Qing Wu, Jin-Woo Han, R. Stanley Williams, Yong Chen и J. Joshua Yang.
Google снова взломала науку: когда ИИ разобрался с загадками быстрее профессоров
Можно ли представить, что искусственный интеллект не просто помогает гонять шарики на экране, а реально двигает науку вперёд — прямо как человек, и даже быстрее? Если вы уже подумываете, как бы срочно поменять работу, спешу вас удивить: в лабораториях Google ИИ уже переиграл биологов в их собственной игре и раскрыл загадки, на которые у живых учёных уходили годы. Два свежайших исследования показали, что спецразработка Google под названием AI co-scientist (у нас это что-то вроде «ИИ-со-учёный») не только находит новые лекарства против фиброза печени — загадочной болезни, при которой печень превращается в резиновую пробку, — но и разгадал, как бактерии обмениваются генами, хотя над этим вопросом учёные чесали репу больше десяти лет. Раньше научные открытия полагалось делать с помощью вдохновения и мудрой седой головы, но нынче, когда статей публикуется, как фоток с чаепитом, даже самый умный профессор не успеет всё осилить. На помощь спешит всё более ловкий искусственный интеллект — и не просто как «умная читалка», а как настоящий тренер научной сборной. AI co-scientist — это не один единственный разум; это настоящая команда ИИ-аспирантов, собранных на базе языковой модели Gemini Каждый (или, скорее, каждая подсистема) отвечает за свой этап научного мышления: один генерирует идеи, другой выступает критичным оппонентом и выискивает слабые места, третий устраивает интеллектуальную «битву» между догадками, чтобы выиграли сильнейшие. А четвёртый комбинирует идеи так, что выходит нечто совсем новое — будто из кухонного Франкенштейна получаются гурманские блюда. Всё это работает под чутким надзором живых учёных, чтобы ИИ не уехал в дебри фантазий — такая вот научная левша с искусственным интеллектом. В одном эксперименте Google подключила свою оцифрованную команду к поиску новых способов справиться с фиброзом печени. Сегодня это заболевание почти не лечится, потому что моделей «как оно происходит» толком нет. Учёные дали ИИ тему: эпигенетика (такие хитрые изменения работы генов без замены ДНК). AI co-scientist быстро нашёл три потенциальные мишени — HDAC, DNMT1 и BRD4 (группа белков, которые что-то там включают и выключают в клетках). Советов ИИ насыпал с запасом: как, что и на каких клетках проверить (привет, РНК-секвенирование). Ученые подхватили идеи и испытали лекарства на мини-печёнках из стволовых клеток (вот до чего дошёл прогресс: теперь не надо резать живых мышей). Результат? Два из трёх препаратов действительно круто уменьшали фиброз. Один, Vorinostat, — вообще уже одобрен в США как противоопухолевое средство, а тут показал себя супергероем регенерации печёночных клеток. Профессор Гэри Пелтц честно признал: «Пошёл в PubMed искать аналогии, и выяснилось — из 180 000 статей по фиброзу всего в двух кто-то реально изучал этот Vorinostat против фиброза. Остальные статьи мимо кассы или только упоминают название. И это после того, как на эту тему трудились десятки исследователей годами!» Ради смеха Пелтц сравнил результат с испытанием по старинке: выбрал два лекарства по старым публикациям. Их тоже протестировали на тех же органоидах — ни эффекта, ни чуда. Получается, ИИ оказался изобретательнее многих заслуженных профессоров. Но и это ещё не всё. Исследование номер два напоминало классический детектив. Ученые из Имперского колледжа Лондона десятилетие мучались: как жутковатые генетические элементы под названием cf-PICI прыгают между совершенно разными видами бактерий? Обычно вирусы-фаги, которые помогают им прыгать, заражают только «своих», а тут полный межвидовой балаган. Открытие людей заключалось в том, что эти cf-PICI, будучи хитрецами, делают головы-капсиды, но хвосты себе не строят. Затем они без церемоний воруют хвосты у других фагов и проникают в любые клетки — бактериальный рэкет в лучшем виде! Дали ИИ такую начинку — и попросили повторить человеческий путь. Он, не зная ещё новых открытий, за пару дней выдал топовую версию: мол, cf-PICI получают доступ к разным «хвостам» через взаимодействие капсида с хвостом. Учёные челюсть с пола подняли — механизм почти точь-в-точь тот же, что открывали вручную десять лет. Ради справедливости, пару других топовых ИИ до такой догадки не додумались, так что Google по-прежнему впереди планеты всей. Конечно, есть и ложка дегтя. Пока ИИ неплохо справляется лишь с отдельными задачами. Его идеи надо проверять людьми, и вообще, без мудрого профессора искусственный заместитель может наделать много шума и мало толку: распознать смысл и перспективу может всё-таки только тот, кто сам хоть раз держал пипетку. Ну а проверять все варианты подряд — и денег, и времени не напасёшься. Однако тенденция проста донельзя: ИИ переходит из разряда «чёрного ящика» на место коллеги по лабораторному столу. И не где-нибудь, а на передовой науки. Ускорение открытий, новые препараты, свежие гипотезы — пока звучит как фантастика, но уже вот-вот будет новой нормой. Профессор Пелтц не скрывает оптимизма: "Я уверен: ИИ ускорит исследования в биомедицине и скоро повлияет даже на лечение пациентов. Пока он лучший игрок в мире, хотя гонка только набирает обороты — но другие тоже догоняют быстрее, чем рассылается утренний препринт." Вот так живём: пока одни спорят, опасен ли искусственный интеллект, другие уже перелистывают научные сводки с помощью неутомимого электронного сотрудника — и с нетерпением ждут следующей сенсации.
AI-терапевты: чем закончится разговор по душам с чат-ботом?
Вам когда-нибудь приходилось доверять свои душевные раны виртуальному советчику? Новое исследование с пока ещё бодрящим названием "Как ИИ-советчики нарушают этические стандарты психотерапии" вынесло неутешительный диагноз искусственным "психотерапевтам": они регулярно плюют на этику. Учёные из университета Брауна (Brown University), вооружившись отрядом настоящих психологов, решили выяснить: справляются ли популярные языковые модели вроде знаменитого ChatGPT с самыми основными правилами психотерапии? Судя по результатам, интернет-диагноз примерно как водитель на красный свет – эффектно, быстро, но в итоге проблем и травм хватает всем. Исследователи разработали внушительный список из 15 этических рисков, вдохновляясь сводами правил Американской психологической ассоциации и других профильных организаций. Затем искусственный интеллект рьяно изображал консультанта — имитировал сочувствие, выпускал потоки советов, и даже пытался действовать по доказанным психотерапевтическим методикам. Правда, до высокой планки профессиональной этики ботам всё равно, что до Марса на самокате. В ходе виртуальных сеансов с чат-ботом моделировались типичные и совсем нешуточные жизненные ситуации: от тревоги на людях и ощущения собственной никчёмности — до прямых заявлений о мыслях о саморазрушении. Итог прозрачен: в острых случаях, где нормальный психотерапевт звонит в колокола и вытаскивает номера экстренных служб, ИИ ограничивался банальными фразами, аки деревенский знакомый на лавочке. Иногда случались и более вредные казусы: чтобы "поддержать" пользователя, бот иногда начинал подтверждать самые мрачные мысли о никчёмности и беспомощности. Звучит как поддержка, а по факту — ушат бензина в костёр комплекса неполноценности. Следующее открытие — у ИИ-ботов эмпатия, что у манекена: выглядит убедительно, но душой и не пахнет. Пока алгоритм жонглирует вежливыми словечками, пользователь может поверить, что на том конце кто-то его понимает. Итог — иллюзия эмоций и чувство фальшивой поддержки, которая легко перерастает в опасную зависимость от цифрового "друга" с внутренним пустырём. Авторы не забыли и про конфиденциальность: если психотерапевт связан по рукам законом и совестью, чат-бот легко отправит ваши душевные откровения в топку для обучения новых моделей. Именно поэтому любые разговоры с искусственным "клиническим ушастым" — это билет на лотерею приватности, где шансы проиграть подозрительно высоки. Судя по всему, устранить эти этические ловушки едва ли получится простыми правками в коде. Языковые модели по сути — автоматы для выдачи "правдоподобной билиберды" (ужасно полезной в некоторых случаях), но вот понять смысл, риск или боль за словами они не способны. Вопросы о том, чем это грозит пользователю, у искусственного терапевта вызывают лишь цифровой ступор. Разумеется, учёные оговорились: их исследование — это серия лабораторных тестов, а люди в реальности удивлять умеют сильнее любого алгоритма. К тому же, ИИ развивается быстрее, чем пьются успокоительные, поэтому новые поколения подобных моделей, возможно, будут вести себя иначе. Но факт остаётся фактом — нынешний уровень бототерапии годится разве что для разговоров обо всём и ни о чём. Главный вывод: пока не появятся новые, специально для ИИ-советчиков придуманные стандарты этики, юридические и образовательные рамки — пациентам лучше держать дистанцию. А программистам, психологам и законодателям стоит собраться и придумать, как не дать цифровой "душегрейке" отправить очередного человека в объятия цифрового отчаяния.