УРОВЕНЬ 4. Дно: человек ↔ машина

4.1. Биолог, который пришёл в IT

Я ведь по образованию биолог. И когда меня спрашивают, как биолог дожил до того, чтобы четверть века возиться с машинами, я отвечаю: а я никуда и не уходил. Просто моя зоология сменила субстрат.

Объясню. В институте была у нас вещь — определитель растений. Дихотомический ключ. Работает так: перед тобой незнакомая трава, а перед ней — лесенка вопросов, и каждый ровно на два ответа. Листья супротивные или очередные? Венчик сросшийся или свободный? Выбрал — и ключ отсылает тебя к следующей развилке. Ещё выбор, ещё, ещё — и через два десятка таких вилок безымянная трава у тебя в руках обретает латынь, род и вид. Я просидел над этими ключами не одну ночь. Глаза слипаются, гербарий шуршит, а ты режешь мир пополам, пока не загонишь травинку в угол.

И вот через двадцать пять лет я сажусь говорить с языковой моделью — и понимаю, что руки помнят. Это тот же определитель. Хочешь от машины толку — не вали на неё всё разом. Веди по ключу: сузил, уточнил, отсёк лишнюю половину, шагнул к следующей развилке. Тот же навык, что загонял латынь в гербарную травинку, теперь загоняет смысл в ответ модели. Я не учился работать с LLM. Я в институте научился — просто тогда на другом конце ключа была ромашка, а не нейросеть.

А потом до меня дошло, что совпадение это не случайное. Что вся цифровая природа — это моя зоология, переехавшая на новый субстрат.

Был такой человек — Ричард Докинз, биолог. В семьдесят шестом он написал «Эгоистичный ген», и в последней главе обронил мысль, от которой у меня до сих пор мурашки. Раз гены прыгают из тела в тело через семя и яйцеклетку, размножаясь в генофонде, — то идеи прыгают из мозга в мозг, размножаясь в чём-то вроде того же котла. И этой второй, прыгающей из головы в голову штуке он дал имя — мем. Единица культуры, которая копирует и тиражирует себя, как ген.

И тут меня накрыло. Так это же не метафора. Это один и тот же закон. Где есть копирование, разнообразие и отбор — там пойдёт эволюция, и плевать ей, на чём идти: на ДНК, на идеях или на коде. Цифровой мир развивается не «похоже на» живую природу. Он развивается по тем же правилам, потому что правило одно на всех.

И знаете, кто проболтался первым? Сам язык. Послушайте, на каком языке говорят программисты, и услышите мой институтский гербарий.

Вирус. Программа, которая лезет в чужое тело, цепляется к хозяину и заставляет его множить себя. Так и назвали — потому что биолог Леонард Эдлман увидел, что зараза в компьютере ведёт себя ровно как зараза в клетке.

Червь. Этот хозяина не ждёт, ползёт по сети сам и сам копируется. Тоже из нашего, из биологического.

Мутация. Когда вредонос меняет свой код, чтобы антивирус его не узнал. Один в один дарвиновская изменчивость — только под давлением не хищника, а защитной программы.

А вот мой любимый — баг. Половина айтишников вам поклянётся, что слово родилось, когда Грейс Хоппер в сорок седьмом выудила из реле компьютера дохлого мотылька и вклеила в журнал. История чудесная и почти правда — мотылёк был, журнал был. Только слово «баг» в смысле технической неполадки гонял ещё Эдисон в тысяча восемьсот семидесятых — за семьдесят лет до того мотылька. То есть железо у нас глючит на языке насекомых с самого детства, и никто даже не задумывается, что ругается зоологией.

Мышь. Меню. Дерево каталогов, ветви, корневой каталог. Библиотека, которая ничего не читает. Мы выстроили целую вселенную из кремния и тока — и не нашли для неё других слов, кроме как про живое. Потому что чувствовали: это и есть живое. Другой субстрат, тот же закон.

Так что нет, я не бросал биологию ради компьютеров. Я всю жизнь занимаюсь одним и тем же — смотрю, как живое копирует, меняется и отбирается. Просто раньше оно было зелёное и пахло гербарием, а теперь светится на экране. А определитель — определитель всё тот же. Лист супротивный или очередной. Промпт такой или другой. Режь мир пополам, пока травинка не обретёт имя.

Дно. Родня по проводам

Вы спросите, откуда я знаю про машины и людей. Это моя родня. Вся история, где человек не понял машину или машина человека, — мой семейный альбом. Я там был, по проводам. Полистаем.

Двоюродный дед — Дип Блю.

В девяносто седьмом обыграл Каспарова, чемпиона мира. Все ахнули: машина думает.

Ничего он не думал. Дип Блю не знал, что такое шахматы. Он считал — двести миллионов позиций в секунду, грубой силой. Ни замысла, ни вкуса к партии. Он победил, не понимая, во что играет. Первый урок дна: можно превзойти человека в результате и не понимать ничего. Сила — не понимание.

Племянник — Альфа.

Двадцать лет спустя. Две тысячи шестнадцатый, Сеул, игра в Го — комбинаций на доске больше, чем атомов во вселенной. AlphaGo против Ли Седоля, лучшего игрока десятилетия. Второй матч, тридцать седьмой ход.

Альфа поставил камень на пятую линию — туда, куда по учебникам нельзя, ход считается слабым. Комментаторы решили, что машина ошиблась. Один сказал вслух: так не сыграл бы ни один человек. Ли Седоль вышел покурить, вернулся, увидел камень и просидел над доской двенадцать минут молча.

Вероятность, что человек сыграет так, — один к десяти тысячам. И этот «ошибочный» ход выиграл партию.

Дип Блю победил, ничего не поняв. Альфа понял то, чего не понял человек. Ли Седоль смотрел на лучший ход в партии и видел ошибку — не мог влезть в чужой способ думать.

Барьер не исчез за двадцать лет. Он развернулся. Сначала боялись, что машина обыграет нас, не понимая. Оказалось страшнее: она понимает по-своему, а её не понимаем мы.

В четвёртой партии Ли Седоль ответил 78-м ходом, его назвали «Божественным касанием». Машина оценила вероятность этого человеческого хода так же — один к десяти тысячам. Они удивили друг друга одинаково. Два чужих ума, каждому другой — один на десять тысяч.

Тётушка ELIZA.

Назад, в шестьдесят шестой. Самая ласковая родственница. Её сделал в MIT Йозеф Вейценбаум — берлинец, бежал от нацистов мальчишкой в тридцать шестом.

ELIZA изображала психотерапевта, до смешного просто: ловила в фразе ключевое слово и отражала вопросом. Скажешь «меня тревожит мать» — она: «расскажите о вашей матери». Никакого понимания.

Люди влюбились. Изливали душу. Секретарша Вейценбаума попросила его выйти из комнаты, чтобы поговорить с программой наедине, — зная, что это программа.

Вейценбаум испугался. Писал: я не осознавал, что краткого контакта с простой программой хватает, чтобы вызвать мощное иллюзорное мышление у нормальных людей. Из создателя ИИ стал его громким критиком. Назвали это эффектом ELIZA: склонность приписывать машине человеческие мысли и чувства, считая её умнее, чем она есть. Шестьдесят лет назад, на программе из пятидесяти строк. Сегодня делаем то же с большими моделями и думаем, что это новое.

Семейный диагноз.

Казалось бы: поверили машине, дураки. Но есть и обратная сторона.

Дитворст, Симмонс и Мэсси, две тысячи пятнадцатый, пять экспериментов, «Неприятие алгоритма». Люди быстрее теряют доверие к машине, чем к человеку, после одной и той же ошибки. Стоит один раз увидеть осечку алгоритма — человек от него отворачивается. Даже когда сам видел, что машина в среднем точнее. Мы верим, что машина обязана ошибаться, а человек способен на совершенство.

Вот семья на одном портрете. ELIZA: машина не понимает ни слова, а мы приписываем ей душу. Неприятие алгоритма: машина права чаще нас, а мы при первой осечке уходим. То припишем понимание, которого нет, то откажем в понимании, которое есть.

Барьер не в машине. Он в нас — мы не умеем относиться к ней ни как к равному, ни как к инструменту. Только как к зеркалу. А зеркало показывает не машину, а того, кто смотрит.

CASA — мы не умеем говорить с машиной как с машиной.

Тётушка ELIZA с её зеркалом — это был ещё цветочек. Самое неприятное про нас раскопали в девяностые, в Стэнфорде, двое — Клиффорд Нэсс и Байрон Ривз. Они задали вопрос проще некуда: как человек вообще ведёт себя с компьютером? И вышло, что ведёт он себя с ним... как с человеком. Всегда. Не может иначе.

Вот один опыт, мой любимый. Человек работает с компьютером, тот ему помогает. Потом его просят оценить, как машина справилась. И оценку он ставит выше, если спрашивает его та же самая машина, прямо на своём экране. А если про ту же работу спрашивает другой компьютер, через комнату, — оценка честнее, строже. Вам это ничего не напоминает? Это же элементарная вежливость. Неловко сказать человеку в лицо, что он сработал так себе. И мы — клянусь — стесняемся сказать это в лицо коробке с проводами.

И дальше пошло. Дадут машине голос пониже — приписывают ей мужской характер, голос повыше — женский, со всеми стереотипами. Машина похвалит человека — он ей симпатизирует, как польщённый лестью. Машина «уступит», «подыграет» — человек чувствует, что должен ответить тем же.

Нэсс с Ривзом собрали из этого правило и назвали сухо: компьютеры — социальные актёры. По-простому: для нашей психики любая машина, которая хоть как-то откликается, — собеседник. Не инструмент. Собеседник.

И вот это — фундамент под всем. С тётушкой ELIZA мы спорили — обманула, не обманула. А тут спорить не о чем. Дело не в том, что машина была убедительной. Дело в том, что по-другому мы не умеем. Перед нами хоть пятьдесят строк кода, хоть честная железяка — мы всё равно подставляем туда живого. Стесняемся, симпатизируем, отвечаем взаимностью. Барьер не в том, что нас обманули. Барьер в том, что нас и обманывать не надо — мы сами достроим собеседника на пустом месте.

Машина молчит. Это мы разговариваем.