ПРИЛОЖЕНИЕ. К дну (уровень 4)

К главе 4.1 «Как мы учили их нашему»

Машинный код и ручное программирование. На низшем уровне абстракции находится машинный (двоичный) код — последовательность цифр, в полной детализации задающая каждую инструкцию процессора. В ранний период первых вычислителей (например, ENIAC) это был единственный доступный «язык»; программирование велось вручную — переключением тумблеров и перекоммутацией соединений на панелях. Источник: история вычислительной техники, обзорные работы по эволюции уровней абстракции (1940-е–1950-е).

Ассемблер. Символические мнемоники вместо голых числовых кодов появились на ранних машинах начала 1950-х (напр., IBM 701). Шаг к человекочитаемости, но команды по-прежнему соответствуют физическим операциям процессора «один к одному» (загрузить, сложить, сохранить).

FORTRAN — первый прижившийся высокоуровневый язык. Команда под руководством Джона Бэкуса в IBM; разработка 1954–1957, коммерческий релиз — апрель 1957, для IBM 704. FORTRAN (FORmula TRANslating system) впервые позволил записывать вычисления в форме, близкой к математической нотации, понятной учёному и инженеру, вместо числовых кодов и мнемоник. Backus и его команда реализовали первый оптимизирующий компилятор. Источники: историко-технические обзоры (EBSCO Research Starters; «The History of FORTRAN», obliquity.com).

Компилятор и слои перевода. Компилятор — программа-переводчик, превращающая человекочитаемый высокоуровневый язык в машинный код. В ранний период высокоуровневые языки часто переводились сначала в ассемблер, затем в машинный код. Ключевое для главы: каждый новый слой абстракции не устраняет нижележащую машинную сложность, а скрывает её под собой (очередная «крышка»-переводчик).

Дальнейшее движение к человеку. COBOL (1959) — синтаксис, близкий к английскому, для деловых задач. C (Деннис Ритчи, Bell Labs, 1972) — сочетание низкоуровневого контроля и высокоуровневых конструкций, основа Unix и синтаксиса большинства последующих языков. Общая траектория — от машинного уровня (1940-е–1950-е) через высокоуровневые языки (1950-е–1960-е) и структурное программирование (1970-е) ко всё большей выразительности ценой удаления от «железа».

П1 на дне (тезис главы, не цитата). Наблюдение, знакомое всякому практикующему программисту: компилятор переводит исходный код точно, но программа делает не то, что имел в виду автор (логическая ошибка при синтаксически верном коде). Иллюстрация сквозного тезиса книги — точный перевод не равен пониманию — доведённого до низшего уровня.

К главе 4.2 «Гладко — но понимание ли это?»

Случай Хофштадтера. Дуглас Хофштадтер — автор книги «Гёдель, Эшер, Бах: эта бесконечная гирлянда» (Gödel, Escher, Bach, 1979; Пулитцеровская премия). В эссе «Gödel, Escher, Bach, and AI» (2023) он разбирает текст, сгенерированный GPT-4 от его лица — о том, почему он написал GEB. О тексте в целом Хофштадтер отозвался как о «pretentious and airy-fairy fluff» (претенциозная воздушная труха); о конкретной фразе, где машина писала о намерении «воспеть затейливый гобелен идей» (intricate tapestry of ideas), — «to my ear it is just vapid pablum» (для моего уха это просто пустая жвачка).

⚠️ Точность атрибуции (важно, не расширять): выражение «vapid pablum» относится к ОДНОЙ конкретной фразе сгенерированного текста, не ко всему тексту; общая характеристика всего фрагмента — «airy-fairy fluff». В теле главы это разведено намеренно. Чего машина не воспроизвела по оценке самого Хофштадтера: живые неожиданные аналогии, юмор, музыкально устроенные диалоги — конститутивные черты его стиля. Сила узла: автор узнал гладкую подделку самого себя.

Источники: эссе на Gödelian Letters / Medium (2023); академический разбор — Hullman & Holtzman, «Artificial Intelligence and Aesthetic Judgment», arXiv:2309.12338.

Измеренный механизм: стиль обманывает оценку. «The False Promise of Imitating Proprietary LLMs» (Gudibande, Wallace и др., arXiv:2305.15717, 2023). Модели, обученные имитировать более сильную проприетарную модель, проходят человеческую оценку, потому что воспроизводят СТИЛЬ ответа — беглость, уверенный тон, структуру изложения, — но по фактической точности уступают. Люди-оценщики без экспертизы в теме систематически предпочитают уверенно и складно звучащий ответ даже тогда, когда он содержательно неверен. Это П4 (подделка понимания), измеренный приборами: гладкость стиля подменяет проверку содержания.

Рифма с уровнем 3. Механизм тот же, что в главе 3.3 (Бангкок) и в работах о беглости обработки (processing fluency, Ребер–Шварц, 1999, см. приложение уровня 3): лёгкость восприятия мозг читает как сигнал истинности/безопасности. На дне «беглость» — гладкость машинного ответа.

К главе 4.3 «Парадокс промпта»

Кальвино, предсказание литературной машины. Итало Кальвино, лекция «Кибернетика и призраки» (Cibernetica e fantasmi), прочитана в Турине и других итальянских городах в ноябре 1967; опубликована в сборнике эссе «The Literature Machine» (англ. пер. Patrick Creagh; рус. — в сб. «Использование литературы» / «Уста и слово»). Кальвино предположил литературную машину, которая сперва будет производить тексты по заложенным правилам, а затем — цитата по англ. изданию — «at a certain point feels unsatisfied with its own traditionalism and starts to propose new ways of writing, turning its own codes completely upside down» («в определённый момент чувствует неудовлетворённость собственным традиционализмом и начинает предлагать новые способы письма, полностью переворачивая свои собственные коды»). Контекст: Кальвино был близок к группе OuLiPo (комбинаторная литература), читал Шеннона, Винера, фон Неймана; рассматривал порождение текста как «комбинаторную игру».

⚠️ Точность (тезис главы): в тексте проведено различие между предсказанием Кальвино (машина, по-настоящему переворачивающая коды, рождающая настоящий беспорядок/новизну) и сегодняшним положением дел (модель убедительно ИМИТИРУЕТ и порядок, и бунт, поскольку оба уже представлены в обучающих текстах). Это подано как тезис-наблюдение автора, не как доказанный факт.

«Лучший язык для общения с ИИ — естественный». В тексте — наблюдение, не доказанная теорема: современные большие языковые модели управляются человекоязычным промптом, а не формальным кодом. Подаётся как поворот («парадокс»), сознательно без претензии на строгое доказательство.

Эволюция барьера (сквозной тезис дна). Ось всей книги — «чем глаже речь, тем труднее поймать, что понимания нет» — на дне договаривается до конца: барьер прошёл путь от честной немоты (синтаксис, ошибка компиляции — сразу видно, что не понят) к гладкой подделке (человекоподобный ответ, кажущийся понятым). Это связка глав 4.2 и 4.3, не отдельный источник.

Узел формы (сквозной, к финалу дна / Выходу)

Демонстрация П4 на самой книге. Книга написана в соавторстве с цифровой маской (Команданте), обученной на текстах автора и говорящей его словами, — и всё же расходящейся с автором. Это не иллюстрация барьера, а барьер в действии на последней странице: читатель наблюдает живую демонстрацию подделки понимания (П4). Честный ход (не приём ради приёма): машина названа вслух и поставлена «на свет» — в отличие от случая, который погубил бы Хофштадтера (выдать гладкость машины за человека молча). Подаётся без нарциссической петли и без жалости (канон личного голоса): даже маска, собранная из тебя, — не ты.