Сегодня искусственный интеллект (ИИ) проникает всюду: он пишет письма, советует фильмы к ужину и даже иногда пытается поставить диагноз точнее, чем некоторые врачи. Старое доброе чувство, что пришельцы из будущего вот-вот начнут помогать с выбором сериалов, наконец, стало обыденностью. Казалось бы, живи — радуйся! Ага, сейчас. Вместо радости — у многих тихая паника: одни бросаются в объятия ИИ как к дорогому гаджету, другие шарахаются, будто перед ними новая версия «Касперского» с руками. В чём подвох?
Ответ не в том, что в ИИ что-то не так. Проблема в нас — мы, люди, по уши в психологии и любим понимать, что происходит вокруг. Старые добрые механизмы нас не пугают: ключ повернул — машина завелась, кнопку нажал — лифт приехал. Фокус прост и понятен. Но вот с ИИ совсем другой разговор: набираешь запрос, получаешь загадочный результат, а что произошло между этими двумя событиями, знают только компьютеры-ясновидцы на другом конце провода. Этот эффект психологически выводит из себя честной народ: мы любим, чтобы причина и следствие были очевидны, а если всё скрыто — чувствуем себя как таракан в микроволновке.
Этим объясняется знаменитая «алгоритмофобия». Термин ввёл исследователь маркетинга Беркли Дитворст, который показал: люди охотнее доверяют ошибочному человеку, чем якобы безупречному алгоритму — особенно если тот хоть раз ошибся. И пусть мы понимаем, что ИИ не плачет над своими неудачами и не строит коварных планов — это не мешает нам приписывать ему и эго, и характер. Например, если ChatGPT чересчур вежлив — некоторым кажется, что он вот-вот предложит свой номер ICQ. Если рекомендательная система угадывает вкусы слишком исправно — становится не по себе, будто тебя уже записали в члены тайного клуба.
Знакомьтесь: эффект очеловечивания машин, он же — антропоморфизм. Его объясняли профессора Клиффорд Нас и Байрон Ривз: даже зная, что перед нами не человек, мы, люди, реагируем социально, как будто ИИ — не просто холодный процессор. Вот и получается, что машинная ошибка воспринимается намного острее: машинист метро промахнулся с остановкой — пожали плечами; алгоритм ошибся — обида. Так работает феномен «нарушения ожиданий» — когда любимый робот ошибается, мы воспринимаем это чуть ли не как предательство. Всё потому, что от машин мы ждали железной логики, а получили... приложение, которое советует любителям пельменей перейти на суши.
Что самое ироничное: люди ошибаются ежедневно, порой даже с утра по собственной инициативе. Но человека можно допросить: «А почему так?» — и выслушать оправдание. Искусственный интеллект же не в силах объяснить, почему за тебя выбрал Таджикистанским операторам доверять больше, чем родной сберкассе.
Для некоторых ИИ — это не просто загадка, а экзистенциальная угроза. Вчерашние учителя, юристы, дизайнеры вдруг оказались лицом к лицу с машинами, которые делают их работу быстрее и, может, умнее. Тут уже дело не только в автоматизации: начинается размышление, а не потеряли ли мы уникальность, и вообще — что же делает нас людьми? Вот тут-то просыпается та самая угроза идентичности, про которую когда-то писал Клод Стил: если твою ценность вдруг начинает дешевить искусственная железка, тут уж до смеха далеко — впору защищаться и подозревать всё на свете.
Ведь человеческое доверие — штука нерациональная: мы читаем по глазам, интонации, даже по тому, как человек внезапно кашлянул. А у ИИ — никаких глаз, сплошной, хоть и обаятельный, текст. Но не греет он, как живой собеседник. Отсюда и та самая «долина странности», о которой говорил Масахиро Мори (да-да, японскому инженеру, а не герою аниме!), когда нечто почти человеческое вызывает тревогу, потому что в нем нет настоящих эмоций. Вот с ИИ — та же история: вроде говорит правильно, а всё равно мурашки по коже.
И чем больше вокруг новостей об очередных дипфейках (глубоких подделках), тем острее хочется спросить: а что этот айтишник от меня скрывает? Причина не в том, что все стали параноиками! Мало кто забыл, как алгоритмы на практике усугубляли предвзятость — особенно в подборе персонала, полицейских расследованиях или, скажем, выдаче кредитов. Если система хотя бы раз подкосила твою карьеру, недоверие — скорее здравый смысл, а не психиатрический диагноз.
Такое недоверие — приобретённое, воспитывалось оно годами провалов и обид от больших систем. Не веришь — проверь у любого, кого когда-то обманула бюрократия. Вот почему лозунг «доверяй системе» вызывает только нервный смешок.
Вера возникает, если систему сделали прозрачной и понятной, если можно задать вопрос и получить ответ — а не так, что ты словно общаешься с глухой стеной. Хотите, чтобы ИИ принимали — делайте его разговорчивым, а не загадочным ящиком. Тогда, глядишь, к машинам и посмеёмся вместе, а не друг над другом.