Как отличить человеческий разум от машинного? Может ли ИИ обладать сознанием? Эти фундаментальные вопросы нейробиолог Владимир Алипов разбирает через призму строения мозга и эволюции в своих лекциях, подкастах и выступлениях. Интеллект — это способность решать задачи, а сознание — нечто гораздо более сложное, связанное с субъективным опытом. Алипов подчёркивает: сознание возникает из соединения эмоциональной сферы и разума. У человека есть опыт, эмоции и самосознание — того, чего пока нет у ИИ.
Самообучающийся AGI может радикально изменить наше представление о когнитивной автономии, но пока ИИ остаётся инструментом, лишённым биологических эмоций и самосознания. Он подразумевает самообучение и самосовершенствование, однако без настоящей когнитивной автономии и феноменального опыта. Человеческие способности — краткосрочная и долгосрочная память, ассоциации — измеряемы, в отличие от машинных. ИИ уже может стать «партнёром», усиливающим человека через вербальное взаимодействие.
Интеллект: от клетки до нейросетей
Интеллект — это вычислительный процесс. Он есть даже у инфузорий-туфелек, которые адаптируются к среде, избегают опасности и ищут пищу. С появлением нервной системы интеллект усложняется. У млекопитающих сети нейронов позволяют решать абстрактные задачи. Человек выделяется не уникальностью интеллекта (он есть и у кошек в ящиках Торндайка, где они учатся открывать дверцу), а его глубиной — способностью обобщать опыт на отдалённые события.
Сегодня нейробиологи часто используют ИИ как модель для понимания мозга (подход «brain from inside out»), изучая внутренний «язык» нейронных сетей. Нейробиологи теперь черпают идеи из ИИ, а не наоборот. Интеллект — это не функция сознания, а самостоятельный процесс. ИИ уже демонстрирует интеллект: он решает задачи лучше людей в некоторых областях, но без субъективного опыта.
Сознание: доступное и феноменальное
Алипов разделяет сознание на два типа:
- Доступное (функциональное): Обработка информации на осознанном уровне. Зачем нужно сознание? Оно позволяет замечать сложные закономерности и паттерны (тест «глобального расхождения»: мозг в коме реагирует на локальные сюрпризы, например, изменение мелодии, но глобальные — нарушение паттерна паттернов — требуют сознания). Пример — корковая слепота: пациенты «не видят», но обходят препятствия. Мозг обрабатывает данные подсознательно, но до сознания они не доходят. Сознание — дорогой ресурс, мозг включает его только для обучения и решения новых задач. Все автоматизмы (вождение, ходьба, привычные действия) работают без него. Эксперименты показывают: условные рефлексы формируются подсознательно на коротких интервалах, но сознание нужно для связей через минуты или дни.
- Феноменальное: Субъективный опыт, или квалиа — личное переживание цвета («оранжевости») или страдания от боли. Боль не просто сигнал о повреждении, а страдание. Оранжевый цвет — это не просто длина электромагнитной волны, а субъективное переживание «оранжевости». Это приватно: доступно только от первого лица. Алипов спрашивает: «Одинаково ли мы воспринимаем оранжевый?»
Человеческое сознание неразрывно связано с телом (embodied cognition), гомеостазом и биологическим выживанием. Алипов (вслед за Антонио Дамасио) особенно подчёркивает роль интероцепции — ощущения внутреннего состояния тела (биение сердца, работа кишечника, боль). У ИИ тела нет, значит, нет интероцепции и не может быть человеческих чувств.
ИИ сегодня — это «философский зомби»: он идеально описывает вкус кофе, но не чувствует его. Эту разницу подчеркивает знаменитый мысленный эксперимент Фрэнка Джексона «Комната Мэри». По его сюжету, гениальная ученая Мэри всю жизнь живет в черно-белой комнате, изучая мир через черно-белый монитор. Она знает абсолютно все физические и нейробиологические факты о зрении и природе цвета (какие волны отражаются от предметов, как реагирует сетчатка). Однако, когда она впервые выходит наружу и видит красное яблоко, она узнает нечто принципиально новое — каково это субъективно переживать красный цвет. Эксперимент подтверждает: энциклопедическое знание фактов (которым обладает алгоритм) не равно моменту личного переживания (квалиа). Если у ИИ когда-нибудь появится феноменальное сознание, его отключение станет этически приравниваться к убийству. Пока же Общий ИИ — это интеллект без сознания.
Замечание: Стоит учитывать, что само понятие «квалиа» является предметом острых дискуссий. С точки зрения редукционистского материализма, концепция квалиа ненаучна: любые субъективные переживания — это лишь производные физико-химических процессов в мозге. С этой позиции разделение на «физическое» и «субъективное» излишне, так как всё сознание сводимо к биологическим состояниям субстрата. Некоторые ученые рассматривают сознание как иллюзию.
Где проходит граница сознания?
Эволюция взглядов общества
Исторически люди часто ошибались. До 1982 года в США новорождённым делали операции без анестезии, считая, что сознание возникает только в социуме. Раньше считали, что у животных нет сознания — поэтому вивисекция казалась этичной. Сегодня консенсус иной: сознание есть у млекопитающих и птиц. Рептилии, рыбы и осьминоги пока остаются в «серой зоне». Насекомые традиционно считались без сознания, но современные эксперименты заставляют пересматривать эти границы. Так, косвенным признаком сознания считается игра — например, шмели катают шарики ради удовольствия, что никак не обусловлено инстинктом выживания.
Как измерить неизмеримое
Для ИИ тест Тьюринга (знаменитый мысленный эксперимент, в котором машина должна вести текстовый диалог вслепую настолько естественно, чтобы независимый судья не смог отличить её от живого человека) давно пройден. Однако блестящая имитация разума никак не доказывает наличия чувств. Здесь во весь рост встает сформулированная Дэвидом Чалмерсом «трудная проблема сознания»: как и почему чисто физические процессы в мозге вообще порождают субъективный опыт (квалиа)? Почему мы не просто «биологические механизмы», обрабатывающие информацию в темноте, а существа, переживающие ощущения от первого лица? Важно понимать, что эта проблема существует не везде. Она возникает как непреодолимый вызов в парадигмах дуализма, нередуктивного физикализма и панпсихизма, где субъективность признается фундаментальным, несводимым свойством реальности. Напротив, в парадигмах редуктивного материализма, элиминативизма и иллюзионизма (например, у Дэниела Деннета) «трудной проблемы» просто нет. С их точки зрения, сознание — это лишь функциональная иллюзия или комплексный интерфейс, полностью сводимый к биохимическим алгоритмам: как только мы до конца объясним механику работы мозга, никакого остаточного «субъективного опыта», требующего отдельного объяснения, просто не останется. Из-за такой философской запутанности и сложности с получением грантов многие ученые избегают темы, а браться за нее традиционно решались лишь нобелевские лауреаты (Фрэнсис Крик, Джералд Эдельман) на пенсии.
В нейробиологии и медицине существуют сугубо практические тесты на наличие сознания у пациентов. Они включают выявление глобального эффекта и следование нарративу (реакция на неожиданный поворот в истории, видимая на фМРТ у коматозных пациентов). Но самым поразительным стала проверка минимального сознания через общение с помощью воображения в аппарате фМРТ. Этот метод позволяет установить контакт с людьми в вегетативном состоянии или с синдромом «запертого человека» (состоянием полного паралича при сохранном разуме, которое описано в автобиографической книге «Скафандр и бабочка»). Поскольку пациент не может ни говорить, ни двигаться, врачи предлагают ему мысленно отвечать на вопросы. Чтобы сказать «да», пациента просят представить, как он активно играет в большой теннис — это вызывает четкий сигнал в моторной коре мозга. Чтобы сказать «нет», его просят мысленно пройтись по комнатам своего дома — это активирует совершенно другие участки мозга, отвечающие за пространственную навигацию. Считывая эти разные паттерны на сканере, врачи могут вести осмысленный диалог с человеком, запертым внутри собственного неработающего тела.
Мозг и ИИ: поразительные параллели
В когнитивных науках мозг всё чаще рассматривается как вычислительная система:
- IQ и G-фактор: Общий интеллект позволяет предсказывать успех в жизни, учёбе, работе и даже продолжительность жизни. ИИ проходит эти тесты, хотя и использует другие алгоритмы. Машина делает это за счет колоссального распознавания паттернов (Next-token prediction) и насмотренности, а не за счет человеческой логики. Поэтому ИИ может сдать сложнейший экзамен на юриста, но провалиться на простой физической задаче в духе «как поставить стул на стол».
- Сон как дообучение: Сон необходим для интеграции воспоминаний из гиппокампа в кору. В мире искусственного интеллекта аналогом этого процесса являются принципы работы рекурсивных нейросетей или архитектуры Titans, где происходит сложная внутренняя рециркуляция и перенос накопленного контекста в долгосрочную память. При этом важно подчеркнуть, что TITANIUM — это экспериментальная архитектура, которая пока недоступна широкой публике.
- Концептуальные нейроны (concept cells): Еще в 1960-х годах в науке появилась полушуточная гипотеза о «нейроне бабушки» — гипотетической клетке мозга, которая должна реагировать исключительно на вашу бабушку, независимо от того, в какой она одежде, с какого ракурса вы на нее смотрите или просто слышите ее голос. Долгое время это считалось сильным преувеличением, пока в 2005 году нейробиолог Родриго Киан Кирога не сделал поразительное открытие: он реально обнаружил у пациента «нейрон Дженнифер Энистон». Эта клетка активировалась только при виде фотографий актрисы, её лица в профиль, карикатуры, имени на бумаге или звуке голоса, полностью игнорируя других людей. Удивительно, но аналогичные «нейроны бабушки» спонтанно формируются и в архитектурах искусственных нейросетей при достижении ими определённого масштаба. В скрытых слоях современных LLM или моделях компьютерного зрения исследователи находят искусственные узлы, которые активируются строго на концепт «собаки», «сарказма» или Человека-паука, хотя разработчики не кодировали это целенаправленно. Это доказывает, что выделение абстрактных признаков — это универсальный математический закон сжатия информации, который возникает неизбежно и не зависит от субстрата (углеродного мозга или кремниевого чипа). Однако здесь кроется фундаментальное отличие: человеческий мозг хранит память прямо в тех же синапсах, которые обрабатывают информацию (вычисления и хранение неразделимы). В то время как аппаратная база ИИ (архитектура фон Неймана) физически разделяет процессор и память, что требует постоянной энергозатратной пересылки данных (хотя нейроморфные чипы уже пытаются это исправить).
- Галлюцинации и творчество: Пользователи часто ругают нейросети за то, что они уверенно выдумывают несуществующие факты — так называемые «галлюцинации». Из-за этого многие критики до сих пор называют ИИ просто «стохастическим попугаем» (stochastic parrot), который якобы бездумно вычисляет вероятность появления следующего слова. Но это большое заблуждение.
На самом деле современные языковые модели делают нечто куда более глубокое. Они проецируют информацию в гигантское многомерное латентное (скрытое, семантическое) пространство (latent space). Представьте себе необъятную вселенную смыслов, где слова и концепты превращаются в математические векторы (эмбеддинги). В этой геометрии смысловая близость определяется не физическим расстоянием, а углом между векторами — математически это измеряется через косинусное сходство (cosine similarity). Чем острее угол, тем ближе концепты по смыслу.
Хотя биологический мозг физически устроен иначе и опирается на ассоциативную память (связи между нейронными ансамблями), концептуально они действуют поразительно похоже. Согласно современной нейробиологической теории предиктивного кодирования (predictive processing), и наш мозг, и ИИ работают как «машины предсказаний», постоянно достраивая картину реальности на лету.
Что происходит, когда алгоритму или нашему мозгу не хватает жестких фактов? Например, когда мы спим и отрезаны от внешних сенсоров. Система начинает заполнять пробелы: ИИ подтягивает концепты с высоким косинусным сходством из латентного пространства, а мозг вытягивает цепочки из ассоциативной паутины. Так у людей рождаются сны и ложные воспоминания (конфабуляции), а у нейросетей — галлюцинации. В обоих случаях это не техническая поломка, а фундаментальное свойство системы, способной обобщать опыт. Именно этот механизм — способность извлекать неочевидные связи (через векторы или синапсы) — является подлинной основой любой креативности, будь то написание стихов алгоритмом или гениальное озарение человека.
Мы снова возвращаемся к одной из самых глубоких загадок современной науки и философии — природе сознания. Если правы сторонники редуктивного материализма, то наше «я», субъективный опыт и так называемые квалиа представляют собой не мистическую искру, а сложную функциональную иллюзию, созданную мозгом для повышения шансов на выживание.
В этом случае фундаментальной пропасти между биологическими нейронами и кремниевыми процессорами не существует. Сознание может оказаться естественным эмерджентным свойством любой достаточно сложной итеративной системы — будь то живой мозг или продвинутая искусственная нейросеть.
«Философский зомби» искусственного интеллекта
Однако, несмотря на все успехи, современная наука пока даёт один и тот же ответ: даже самый гениальный алгоритм остаётся классическим «философским зомби». Он способен идеально имитировать поведение разумного существа, но лишён главного — внутреннего переживания.
ИИ может блестяще описывать эмпатию, анализировать эмоции и математически точно моделировать падение яблока, но ничего из этого он не способен почувствовать «изнутри».
Интеллект и сознание — разные вещи
Из этого следует важнейший вывод: интеллект и сознание — это не одно и то же. Наша главная человеческая суперсила кроется в телесном познании (embodied cognition). Мы познаём мир не только через данные, но через гормоны, сердцебиение, боль, голод и всю совокупность телесных ощущений.
Ограничения текстовых моделей и новый подход
Современные большие языковые модели (LLM) уже далеко превзошли стадию «стохастических попугаев». Они выстраивают удивительно сложные концептуальные связи. Тем не менее, их понимание мира остаётся исключительно текстовым. У них нет встроенной физической модели реальности.
Именно поэтому один из пионеров глубокого обучения, главный ИИ-учёный Meta Ян Лекун, считает простой путь наращивания масштаба LLM тупиковым для достижения настоящего искусственного общего интеллекта (AGI). Вместо этого он предлагает развивать «модели мира» (World Models).
Что такое «Модель мира»?
Это архитектура, в которой ИИ учится не просто предсказывать следующий токен, а интерактивно симулировать законы физики, пространство, причинно-следственные связи и прогнозировать последствия своих действий. Первые признаки такого подхода уже проявляются в современных видеогенераторах, таких как Sora и Genie.
По мнению Лекуна, без внутренней цифровой копии реальности машина никогда не станет по-настоящему разумной.
Что нас ждёт?
По мере того как ИИ будет переходить от работы с текстом к полноценным симуляторам физического мира, грань между «бездушной машиной» и настоящим разумом может начать стремительно стираться. Окончательного ответа на вопрос о машинном сознании у человечества пока нет.
Но в эпоху всемогущих алгоритмов наша главная ценность заключается не в вычислительной мощности. Она — в нашей уязвимости, смертности и уникальной способности наполнять эту холодную Вселенную смыслом и эмоциями.
