Краткая история IT: От ткацкого станка до нейросетей

Паша Вейник

EN | RU
Краткая история IT: От ткацкого станка до нейросетей

Раздел 1.2. Теория всего: Как мы научили электричество думать

Здесь мы переходим от механики к чистой мысли. Если Жаккар и Бэббидж строили «тело» компьютера, то Тьюринг и Шеннон дали ему «разум» и «голос». Это история о том, как абстрактная математика спасла мир от нацизма, а затем создала цифровую вселенную.

Раздел 1.2. Теория всего: Как мы научили электричество думать

1930-е годы. Мир накануне катастрофы. Но пока генералы чертят линии фронтов на картах, в университетских кабинетах идет другая битва — битва за логику. Ученые пытаются нащупать границы того, что вообще возможно вычислить.

А. Алан Тьюринг: Одинокий разум против Энигмы

Алан Тьюринг был человеком, который не вписывался ни в какие рамки. Он был гениальным математиком, марафонцем олимпийского уровня и эксцентриком. В Кембридже ходили легенды о том, как он пристегивал свою кружку цепью к батарее, чтобы коллеги её не украли, и носил противогаз весной, чтобы спастись от аллергии на пыльцу.

Но за этими странностями скрывался ум, способный видеть структуры там, где другие видели хаос.

Машина Тьюринга: Мысленный эксперимент века

В 1936 году, за три года до войны, 24-летний Тьюринг публикует статью с зубодробительным названием «О вычислимых числах...». В ней он решает фундаментальную проблему математики, но попутно изобретает компьютер.

Он предложил мысленный эксперимент. Представьте себе устройство:

  1. Бесконечная бумажная лента, разбитая на ячейки.
  2. Головка, которая может читать символ в ячейке, стирать его, писать новый и двигаться влево или вправо.
  3. Таблица правил (инструкция): «Если видишь 0, исправь на 1 и сдвинься вправо».

Это устройство назвали Машиной Тьюринга.

Тьюринг доказал шокирующую вещь: этот примитивный механизм, имея достаточно времени и ленты, может выполнить любое вычисление, которое способен выполнить самый гениальный математик или самый мощный современный суперкомпьютер.

  • Смысл открытия: Он доказал, что «железо» вторично. Неважно, сделан компьютер из ламп, транзисторов или нейронов. Если он может эмулировать действия Машины Тьюринга, он универсален.

Проблема остановки (Halting Problem)

Там же Тьюринг очертил границы возможного. Он доказал, что существуют задачи, которые компьютер не может решить никогда.

  • Суть: Нельзя написать программу, которая проверит любую другую программу и точно скажет: «Она зависнет в бесконечном цикле или когда-нибудь остановится?».
  • Это фундаментальное ограничение. Мы не можем создать идеальный антивирус или идеальный отладчик, который найдет все баги до запуска. Мы всегда будем жить в мире неопределенности.

Блетчли-Парк: Игра в имитацию

В 1939 году абстракция закончилась. Началась война. Тьюринга вербуют в Блетчли-Парк — секретный центр британской разведки, замаскированный под старое поместье.

Враг — немецкая шифровальная машина «Энигма».

Она выглядела как пишущая машинка в деревянном ящике. Но внутри у неё вращались роторы. Когда радист нажимал букву «А», сигнал проходил через лабиринт проводов и превращался в «Z». На следующее нажатие «А» превращалась в «Т». Немцы меняли настройки роторов каждый день в полночь. Количество комбинаций — 159 квинтиллионов (159 с 18 нулями).

Военные считали, что взломать Энигму невозможно. Тьюринг же сказал: «Чтобы победить машину, нужна машина».

Он спроектировал электромеханического монстра — The Bombe. Это были шкафы весом в тонну, набитые вращающимися барабанами, которые имитировали работу Энигмы. Они не «думали» в человеческом смысле, они перебирали логические цепочки, отсекая миллионы неверных вариантов в секунду.

  • Драма: Тьюринг и его команда (включая Джоан Кларк) жили в аду. Они знали, что в Атлантике тонут конвои с едой, пока они пытаются настроить свои машины. Но когда «Бомбы» заработали, союзники начали читать приказы Гитлера раньше, чем их получали немецкие генералы.

Историки считают, что работа Тьюринга сократила войну на 2 года и спасла около 14 миллионов жизней.

Трагедия и Наследие

Тьюринг подарил Британии победу, а миру — компьютер. Британия отплатила ему жестокостью. В 1952 году его квартиру обокрали. В ходе расследования полиция выяснила, что Тьюринг — гей. В то время это было уголовным преступлением. Ему предложили выбор: тюрьма или гормональная терапия (химическая кастрация). Он выбрал терапию, чтобы продолжать работать. Лечение разрушило его тело и психику. В 1954 году Алана Тьюринга нашли мертвым. Рядом лежало надкушенное яблоко, пропитанное цианидом.

След в будущем: Сегодня любой язык программирования — будь то Python, Java или C++ — называется Turing Complete (полным по Тьюрингу). Это значит, что на нем можно написать всё, что вычислимо в нашей Вселенной.

Б. Клод Шеннон: Жонглер из Bell Labs

Пока Тьюринг ломал коды в секретном бункере, в США, в солнечных лабораториях Bell Labs, расцветал гений совсем другого типа.

Клод Шеннон был человеком, который умел превращать работу в игру. Коллеги вспоминали, как он катался по коридорам лаборатории на моноцикле, одновременно жонглируя тремя мячами. Он строил машины, которые ничего не делали (знаменитая «Ultimate Machine»: ящик с тумблером; включаешь его — вылезает механическая рука и выключает тумблер обратно).

Но за этой игривостью скрывался ум, который навел порядок в хаосе коммуникаций.

Вопрос: Что такое информация?

До Шеннона слово «информация» было размытым. Это смысл? Это новости? Это знания? В 1948 году Шеннон публикует статью «Математическая теория связи». Это был «Большой взрыв» для цифровой эры.

Шеннон сделал радикальный шаг: он выкинул смысл. Ему было всё равно, передаете вы по проводу сонет Шекспира или биржевую сводку. Он определил информацию как устранение неопределенности.

  1. Изобретение Бита: Шеннон ввел термин bit (binary digit). Это атом информации. Орел или решка. Да или нет. 1 или 0. Он доказал, что любую картину, звук или текст можно превратить в поток битов.
  2. Энтропия и Сжатие: Шеннон показал, что большинство данных избыточны.
    • Пример: В английском тексте после буквы «Q» почти всегда идет «U». Значит, передавать «U» не обязательно — получатель и так догадается.
    • На этом принципе работают все современные архиваторы (ZIP) и кодеки (MP3, JPEG). Мы выкидываем предсказуемое, оставляя только чистое «удивление» (энтропию).

Борьба с Шумом

Главная проблема AT&T была в помехах. Чем длиннее провод, тем больше шума, тем хуже слышно. Инженеры пытались делать сигнал громче. Шеннон предложил другое: кодирование с коррекцией ошибок.

Представьте, что вы диктуете по телефону цифры. Связь трещит.

  • Старый метод: Кричать громче.
  • Метод Шеннона: Добавить контрольную информацию. Вместо «5» сказать «пять-пять-пять». Если собеседник услышит «пять-шум-пять», он поймет, что это было «5».

Шеннон вывел математический предел (Предел Шеннона): максимальную скорость, с которой можно передавать данные по каналу без ошибок.

  • След в будущем: Каждый раз, когда вы смотрите 4K-видео на YouTube через Wi-Fi, ваш роутер использует формулы Шеннона, чтобы отделить биты сериала от радиошума микроволновки соседа. Без Шеннона интернет остался бы на уровне телеграфа.

Итог раздела 1.2

Эти двое, Тьюринг и Шеннон, встречались лично в 1943 году в США. Они пили чай в столовой и обсуждали, может ли машина думать.

Они разделили между собой цифровой мир:

  • Тьюринг дал нам Процессор (логику обработки, алгоритмы, инструкции).
  • Шеннон дал нам Канал (биты, сжатие, передачу данных).

Теперь у нас есть теория. Но как построить эти «биты» и «ленты» в реальном мире? Лампы перегорали слишком часто. Нужна была новая физика. О ней — в следующем разделе.