Мы построили цифровой мир, но забыли инструкции: как человечество стало рабом машин, которых боится трогать
Старые банковские системы работают на коде, который никто не рискует трогать
В офисах Кремниевой долины ходит устойчивая байка. Исходный код глобальных платёжных систем или диспетчерских вышек воздушного сообщения настолько древний и запутанный, что действующие программисты обходят его стороной. Они надстраивают этажи поверх существующего фундамента — подобно зодчим Средневековья, которые возводили соборы на остатках римских святилищ, уже не разбирая чертежей предшественников.
Инженерия уступила место ритуалу. Человечество вкатилось в эру технологического долга. Каждый день глобальная экономика катится по рельсам, чьи оригинальные инструкции стёрло время.
Современный мир покоится на том, что компьютерщики именуют «легаси-кодом». Речь о миллионах строк, написанных в 1970–80-х — зачастую на языке COBOL. Тогда память исчисляли килобайтами. Сегодня те же самые алгоритмы перегоняют банковские транзакции, хранят данные соцстрахования и управляют электростанциями.
Документация утеряна. Авторы — на пенсии или в могиле. Нынешние разработчики, словно жрецы забытого культа, шепчут обновления-заклинания, цепенея от мысли: один неверный символ — и мировая финансовая ткань пойдёт трещинами. Мы больше не хозяева своих инструментов. Мы смотрители цифровых мощей, чьё внутреннее устройство превратилось в археологическую шараду.
Чёрная дыра под капотом ИИ
Если древний код ускользает от понимания из-за возраста, то новейший искусственный интеллект непостижим по своей природе. С расцветом глубокого обучения инженеры перестали отдавать машинам точные команды. Вместо этого они возводят конструкции — нейросети — и скармливают им горы данных, позволяя «выучиваться» самостоятельно. Результат — чёрный ящик пугающей эффективности.
Алгоритм выявляет раковую клетку точнее онколога-практика. Но объяснить ход своих умозаключений он не способен. Специалисты бьются над «интерпретируемостью» — пытаются препарировать собственные творения и восстановить внутреннюю логику. Впервые создатель глядит на своё детище с тем же изумлением, с каким первобытный человек встречал грозовой разряд.
Цифровой синдром карго-культа
Термин «карго-культ» возник на тихоокеанских островах после Второй мировой. Аборигены видели, как с неба падают ящики с провизией. Вскоре они начали сооружать макеты взлётных полос и деревянные наушники — в надежде вернуть «божественные самолёты» и их дары. Форму копировали, функция оставалась загадкой. Ту же модель человечество тиражирует планетарно.
Подавляющее большинство пользователей — и заметная доля управленцев — жонглирует протоколами TCP/IP, асимметричным шифрованием и полупроводниковой физикой, не имея ни малейшего представления, как воссоздать это с чистого листа. Сотри электромагнитный импульс все цифровые библиотеки — и мы застынем перед мёртвыми экранами, словно шаманы у подножия каменных изваяний. Система держится на повторении заученных движений. Глубинное понимание физической сути ускользает.
К чему приводит такая непрозрачность? К системной хрупкости. Цивилизация, способная лишь обслуживать унаследованные механизмы, но не в силах заново изобрести или починить их фундамент, обречена на сперва застой, а затем — увядание. Исследователь сложности Самуэль Арбесман предостерегает: человечество подошло к «краю постижимого». Текущие системы переплелись настолько тесно, что удержать их целиком в одной голове уже невозможно.
Человечество больше не венчает пирамиду совокупного знания. Оно дрейфует по океану магических артефактов, которые само же разучилось производить. Технология перестала быть продолжением интеллекта. Она превратилась в автономную среду, во вторую натуру — и на попытки её обуздать мы отвечаем всё более отвлечёнными ритуалами.
