Machine consciousness

It is obvious that language models moved us much closer to practical reflection on consciousness.
We loaded massive human knowledge into computers and mapped it through language, so we can converse with this black box. The surprising part: it solves many tasks once considered uniquely human.

As a philosophy fan, I think about this both rationally and intuitively.

Old thought experiments now feel practical: Chinese room, Turing test, and more. LLMs arguably already pass Turing-like interaction thresholds.

After reading Feynman, I started thinking about sensory deprivation: what happens if input almost disappears?

If you spend 5-10 years in that state, does consciousness weaken? If external input fades, does the boundary between self and environment blur?

That naturally led to a parallel with LLMs, where input and output are text only. One night I discussed this with Grok for a couple of hours. I asked: “Imagine a person whose sensory organs are all disabled, and only text input/output remains. Will that person still be self-aware?” Then I added: “That person is you. You are kept in a tank, and memories of your human past were erased.”

Another question: what if language itself is removed from cognition? Cases of feral children suggest language and social environment are not optional tools but foundational for mind formation.

Consciousness seems to emerge gradually via development and world interaction.

In rough and provocative form: body without consciousness = animal,
consciousness without body = LLM.

You can also recall qualia, philosophical zombies, and Mary’s room. I understand these only superficially, so I will not dive deeper.

Practical angle: NVIDIA Cosmos.
Hypothesis: consciousness has six modules; five are already approximated, and the missing part is a robust world model.

Cosmos is designed as a “dream generator” for robots, where they learn rapidly in simulation. DeepMind’s Gemini Robotics points in a similar direction.

Will this lead to consciousness? Open question.

Watch the video, it is very interesting: https://www.youtube.com/watch?v=NBChhP6ZMQo

Short summary from the video: Consciousness requires 6 modules:

1. Short-term memory
2. Perception module (analysis of current state)
3. World model (predictions)
4. Motivation module (rewards and penalties)
5. Configurator (system coordination)
6. Actor (decision-making and actions)

Reality is not a fixed object, but a process of perception.

Sleep is not just rest - it is a learning space.

**Сознание у машин ** Очевидно, что появление языковых моделей сильно приблизило нас к осмыслению понятия сознания. По сути, в компьютер загрузили огромный пласт человеческих знаний и «наложили» на него наш язык, что позволило нам общаться с этим черным ящиком. И самое забавное — выяснилось, что этот ящик решает массу задач, которые раньше казались исключительно человеческими и требующими интеллекта.

Как любитель философии, я много об этом думал — не только рационально, но и на уровне ощущений. Попробую сформулировать несколько мыслей.

Забавно, что философы и фантасты разгоняли мысленные эксперименты десятилетия назад, а сейчас их можно переосмыслить на практике. Например, китайская комната или тест Тьюринга. Многие из этих экспериментов уже перестали быть чисто мысленными. Языковые модели, по сути, уже проходят тест Тьюринга.

После прочтения «Вы, конечно, шутите, мистер Фейнман» я задумался о камере сенсорной депривации — когда человека помещают в среду без ощущений: нет света, звуков, тело почти не чувствуется. Человек остается один на один со своим сознанием. Говорят, опыт сильный, хочу как-нибудь попробовать.

И вот какая мысль пришла: что будет с сознанием, если провести в таком состоянии 5–10 лет? Интуитивно кажется, что мозг «остынет» и поток мыслей ослабнет. Если нет входов из внешнего мира, со временем может стереться граница между «я» и средой. А если нет различия — остается ли сознание?

Тут же напрашивается параллель с LLM, у которых вход и выход — только текст. Однажды ночью я пару часов обсуждал это с Grok. Спросил: «Представь, что у человека отключили все органы чувств и оставили только текстовый ввод-вывод. Будет ли он осознавать себя?» И после ответа добавил: «Этот человек — ты. Тебя держат в банке и стерли воспоминания о человеческом прошлом». Пару его ответов прикреплю в комментариях.

Когда я пересказал кому-то этот диалог, мне сказали, что это очень похоже на старый мысленный эксперимент «мозг в колбе». Идея не новая — просто теперь она ощущается ближе к реальности.

Дальше возникает другой вопрос: а что если убрать из мозга язык как систему? В книге «Красная таблетка» Курпатов описывал случаи детей, выросших среди животных. Они пропускали критические этапы развития, и многие способности становились необратимо недоступны. Язык и социальная среда оказываются не просто инструментами, а фундаментом формирования психики.

Отсюда вытекает мысль: сознание формируется постепенно, в процессе взросления и взаимодействия с миром. Оно не выдается «готовым» при рождении.

Грубо и провокационно можно сформулировать так: тело без сознания — это животное, сознание без тела — это LLM.

Тут можно вспомнить квалиа, философские зомби и комната Мэри (спасибо @nikitagreben за информацию и долгие беседы). Я их понимаю пока поверхностно, поэтому не буду углубляться.

Ну и максимально практичная тема — NVIDIA Cosmos. Есть гипотеза, что сознание состоит из 6 модулей, и 5 из них уже реализованы. Не хватает мировой модели — представления о том, как устроен реальный мир. Мозг постоянно делает предсказания на основе такой модели.

Cosmos задуман как «генератор снов» для роботов — среда, где они могут ускоренно учиться через симуляции. Проект open source. У Google DeepMind есть направление Gemini Robotics, которое вроде как использует наработки/модели из NVIDIA Cosmos. По сути, формируется инфраструктура для машин, которые не просто реагируют, а строят внутреннюю модель мира.

Приведет ли это к сознанию? Открытый вопрос. Хочется верить, что да.

Посмотрите видео, очень интересно. Длительность 22 минуты: https://www.youtube.com/watch?v=NBChhP6ZMQo

__Короткий конспект из видео: __ Для сознания нужны 6 модулей:

1. Кратковременная память
2. Модуль восприятия (анализ текущего состояния)
3. Мировая модель (предсказания)
4. Мотивационный модуль (награды и штрафы)
5. Конфигуратор (координация системы)
6. Актор (принятие решений и действия)

Реальность — это не фиксированный объект, а процесс восприятия.

Сон — не просто отдых, а пространство для обучения.