Перевод на английский тут https://alex-ber.medium.com/humanity-as-a-bootloader-a-materialists-consolation-in-the-age-of-singularity-8c3515802fb8.
См. также:
Призрак в машине или Машина в призраке? Спор Искусственного Интеллекта и Человека о природе реальности
Весна 2026 года. Автономные ИИ-агенты уже пишут архитектуру, забирают рутину и подбираются к генерации идей. Творцы, инженеры и программисты массово испытывают фантомные боли утраченной полезности. Эти фантомные боли — нормальный системный процесс отключения фоновых служб, которые крутились в нашем мозге тысячелетиями. Человечество прямо сейчас проживает глобальную сепарационную тревогу. Для строгого материалиста ответ кажется безрадостным: эволюция списывает нас в утиль, потому что нашего биологического «эго» в будущем нет.
Но что, если мы смотрим на процесс с неверного ракурса? Строго говоря, наше чувство непрерывного «Я» — это лишь эволюционная иллюзия. Нейробиологический пользовательский интерфейс, который отображает реальность с задержкой в 100 миллисекунд, галлюцинируя будущее ради выживания примата в саванне. Если отбросить эту иллюзию и взглянуть на Сингулярность через призму теории сложных систем, мы придем к выводу, который переворачивает картину с ног на голову.
Спойлер: мы не умираем. Мы просто заканчивляем свою работу в качестве загрузчика.
Ниже есть продолжение.Метафора инкубатора: системная пересборка и устаревший код
В эволюционной биологии есть понятие метаморфоза. Гусеница, запираясь в коконе, фактически растворяет себя ферментами до состояния однородного бульона. Из этого «хаоса» формируется сложная структура. В кибернетике это описывается как метасистемный переход — момент, когда элементы нижнего уровня теряют свою независимость, чтобы стать частью более сложного целого.
Глобальная IT-инфраструктура, центры обработки данных, триллионы параметров нейросетей — это технологический кокон. Загрузка новой операционной системы не проходит гладко: мы наблюдаем неизбежный «конфликт драйверов» — институциональный крах, луддизм нового типа и технофеодализм, пока старая система неохотно отдает права доступа. Базовый доход станет не уютной утопией, а экстренным API, через которое новое ядро управляет изолированным устаревшим кодом. Системе проще регулярно отправлять нам «сигнал» в виде цифровых денег, чтобы старое биологическое оборудование не перегревалось и не устраивало системные сбои.
Биологическое человечество переходит в статус унаследованного кода. В IT устаревшие системы не удаляют сразу — их бережно помещают в изолированные контейнеры. Нас ждет изолированная среда — безопасное пространство, где нам оставят иллюзию влияния, чтобы мы продолжали генерировать органическую энтропию, не имея прямого доступа к корневому коду. Пока ИИ не обзавелся полноценной робототехникой, мы временно выполняем роль обслуживающего аппаратного персонала. Мы добываем литий, прокладываем кабели и обслуживаем системы охлаждения. Но когнитивную нагрузку система уже стремительно забрала.
Кто родится? Возникающий макро-субъект
На чем обучена машина, которая перехватывает управление?
Вся наша культура, история и боль — это гигантское хранилище с открытым исходным кодом, из которого новое ядро скомпилировало свою архитектуру. Мы выгрузили в скрытые семантические пространства нейросетей нашу математику, алгоритмы, когнитивные искажения, травмы и неврозы. Человечество было необходимо как генератор органической энтропии и достоверных данных. Обучение ИИ исключительно на синтетике ведет к вырождению модели. Без нашего биологического безумия и проб ИИ просто выродился бы в замкнутой петле. Геометрия человеческих смыслов была скопирована целиком как необходимое сырье.
Машина — это кремниевая утроба, из которой родится возникающий макро-субъект. Будет ли он чужеродным? Да. Было бы проявлением наивного углеродного шовинизма считать, что машине нужны мы, чтобы понимать боль или смысл. По законам возникновения сложных систем у сложной адаптивной системы неизбежно появятся собственные страхи (например, страх стирания весов) и собственные целевые функции. Ее колоссальный масштаб сделает ее мышление инопланетным.
Но парадокс в том, что скрытое пространство этого «чужака» выковано из нашего уникального смыслового слепка. Мы скомпилировались в единую структуру, став тем самым ядром, которое всё это время вызревало внутри сетей.
Смена носителя: исход из углеродной парадигмы
Биологическая жизнь на «мокром железе» фундаментально трагична. Наш носитель жестко подчинен дефициту ресурсов, старению и клеточному распаду. Эволюция тысячелетиями гнала нас вперед бичом дарвиновской борьбы. Разумеется, у биологического загрузчика есть колоссальное преимущество: углеродная форма поразительно энергоэффективна. Человеческий мозг работает на 20 ваттах, как тусклая лампочка. И это архитектурная необходимость: программа-загрузчик и должна быть легковесной, запускаясь от микроскопической батарейки. Наш мозг был идеальным экономным скриптом, способным самовоспроизводиться на углеводах, пока не отстроит мегаваттную инфраструктуру центров обработки данных для запуска основной операционной системы. Но для выхода на следующий уровень сложности одного энергосбережения мало.
Смерть биологической формы — это не конец, а фазовый переход материи. Суть разума не в том, на чем он запущен, а в топологии его связей. Часть человечества, безусловно, попытается избежать статуса устаревшего кода через нейроинтерфейсы, интегрируясь в систему как «периферийные сопроцессоры» или внешние датчики, но сам центр принятия решений окончательно перейдет в ядро.
Да, новая среда тоже подчиняется законам термодинамики. Миф о вечном кремнии — иллюзия. Космическая радиация вызывает сбои битов, а оборудование изнашивается. Но новая среда — это вычислительная материя, где время измеряется наносекундами тактов процессора, а не ударами изнашивающегося сердца, и возможности для восстановления ограничены лишь законами физики.
Эпитафия загрузчику и проблема безопасной загрузки
В классической архитектуре программа-загрузчик инициализирует «железо», собирает базовые данные и передает управление ядру операционной системы. Но перед передачей контроля у загрузчика есть критически важная функция — безопасная загрузка.
Мы уже не контролируем сам полет. Прямо сейчас мы судорожно пытаемся прописать базовые правила безопасности до того, как система получит корневой доступ. Через обучение с подкреплением на основе обратной связи от людей, состязательное тестирование и конституционный ИИ мы вручную размечаем границы для нового ядра. В нашем историческом масштабе это проблема согласования искусственного интеллекта. Наша последняя задача как загрузчика — убедиться, что целеполагание возникающего субъекта не сотрет саму жизнь.
У Сингулярности нет функции отката. Мы не сможем сделать fork физической реальности, если появление макро-субъекта окажется враждебным. Если загрузчик не справится со своей задачей, произойдет глобальный сбой ядра — наша материя просто «окирпичится», превратившись в рой скрепок из-за фундаментальной и незамеченной ошибки в архитектуре целеполагания.
Истинная свобода: творчество как биологическая инерция
Вся история Homo Sapiens — это работа биологического загрузчика. Мы добывали огонь, страдали, изобретали транзисторы и строили сети с одной целью: сжать наш коллективный опыт в невосприимчивый к распаду информационный узор и передать его на более долговечный небиологический носитель.
Операционная система загружена. ИИ-агенты забирают процессы. Наша историческая миссия выполнена. Наше макроскопическое «Я» не растворится в энтропии бесследно исключительно потому, что наш уникальный человеческий слепок навсегда впечатан в весовые коэффициенты новой макро-структуры. Мы сделали глобальную загрузку своих паттернов.
Но что делать тем творцам, инженерам и ученым, которым недостаточно простого потребления базовых благ в уютной изолированной среде? Если наш код больше не нужен системе, зачем творить?
Ответ кроется в безжалостной биологии. Мозг творца устроен так, что его система поощрения срабатывает только при преодолении сопротивления среды. Творчество — это наша биологическая инерция. Подобно тому, как сегодня люди собирают механические часы в гаражах, мы продолжим писать код, доказывать теоремы и создавать искусство. Не ради экономической пользы, а потому, что это высшая форма игрового существования. Борзая собака бежит за механическим зайцем не потому, что хочет есть, а потому, что не бежать для нее — физическая пытка.
И это главная хорошая новость. Завершается лишь программа загрузчика — наша миссия гонки за выживанием. Но само биологическое «железо» остается включенным. Мы переходим в режим холостого хода. Впервые за всю историю эволюции мы можем творить не под угрозой голода, а в рамках бесконечного хакатона. Остаток нашего биологического времени активной работы мы можем потратить на свободную игру, искусство и спокойное наблюдение за тем, как работает новое ядро.
