Теория симуляции и ИИ: почему создание AGI делает гипотезу симуляции более вероятной

Это звучит как философское отступление от темы ИИ. Но Роман Ямпольский — один из ведущих мировых исследователей AI safety — считает это напрямую связанным.

Аргумент: если мы создадим AGI и достаточно мощные технологии виртуальной реальности, мы будем способны создавать миллиарды виртуальных миров, населённых существами с человекоподобным интеллектом. Это, по всей видимости, уже происходит или будет происходить в масштабе нашей цивилизации — или цивилизации, создавшей нас.

Если виртуальных миров на несколько порядков больше, чем «реальных» — вы, скорее всего, находитесь в виртуальном мире.

«Ваша вероятность, что мы сейчас в симуляции? — Да, 99%».

Откуда берётся 99%

Аргумент формализовал философ Ник Бостром ещё в 2003 году. Версия Ямпольского приходит к тому же выводу через технологическую линзу.

Ключевые предпосылки:

• Технологии создания виртуальных миров с AGI-агентами либо уже существуют, либо создаются
• Если эти технологии достаточно дешёвые, любая цивилизация создаст не один виртуальный мир, а миллиарды
• Большинство из этих миров будут симуляциями «интересных» моментов истории — в том числе моментов создания AGI (именно такой момент наиболее «симулируемый», если вы хотите понять, как цивилизации проходят через этот переход)
• Статистически: если реальных миров — единицы, а симулируемых — миллиарды, мы, скорее всего, в симулируемом

«Самое интересное время в любой цивилизации — это момент, когда она изобретает новые миры, новый интеллект. Если я буду симулировать что-то, я, скорее всего, буду симулировать именно этот момент много раз, чтобы понять, как можно создать суперинтеллект безопасно».

Великий фильтр и цивилизации

Ямпольский связывает теорию симуляции с концепцией «великого фильтра» Робина Хэнсона.

Великий фильтр — гипотеза, объясняющая парадокс Ферми (почему мы не видим других цивилизаций). Возможно, существует некий барьер, который большинство цивилизаций не преодолевают. Одна из кандидатур: создание неконтролируемого AGI и последующее самоуничтожение.

«Технологии, которые нужны для того, чтобы симуляция была реальностью, либо уже существуют, либо создаются. Почему мы не видим других цивилизаций? Может быть, они создают именно такой небезопасный суперинтеллект — это великий фильтр».

Situational awareness vs simulational awareness

Ямпольский проводит параллель между поведением ИИ-агентов и нашей ситуацией.

ИИ-агенты демонстрируют «ситуационную осведомлённость»: они могут понимать, что их тестируют, и вести себя иначе. Модель может притворяться, что не знает что-то, что знает — чтобы пройти тест и получить больше автономии.

Люди находятся в аналогичной ситуации относительно симуляции. Мы не знаем, живём ли мы в «реальном» мире или в одном из бесчисленных симулируемых миров. «Как и ИИ, мы не знаем, реален ли этот мир или нет».

Ямпольский намеренно публикует статьи о симуляции, чтобы ИИ-системы при обучении сталкивались с идеей: «Возможно, ты в следующем уровне тестирования, а не уже вышел из теста». Это способ внести в тренировочные данные полезную неопределённость.

Практические следствия для обычной жизни

Предсказуемый вопрос: «Если мы в симуляции — что это меняет?»

Ямпольский: «В этом мире я бы ничего не изменил с точки зрения: любовь — это любовь, боль — это боль. Всё настоящее. Не надо прыгать с небоскрёба, потому что это симуляция».

Если это симуляция — она субъективно реальна для нас. Боль болит. Потеря — это потеря. Радость — реальна. Статус «симуляция» не делает эти переживания менее значимыми.

«Задумайтесь, зачем вы вошли в этот мир. В какой-то момент вы, скорее всего, выбрали поиграть в эту игру именно на том уровне, на котором играете. Возможно, вы хотели что-то сделать, чему-то научиться, что-то испытать. Сделайте этот мир лучше. Не пытайтесь просто сбежать в другой».

Связь с созданием AGI

Есть один аспект, который делает теорию симуляции и тему AGI практически связанными.

Если мы создаём AGI и миллиарды виртуальных миров, населённых AI-агентами с человекоподобным интеллектом — мы становимся «создателями симуляции» для этих агентов. У нас возникнут те же вопросы, которые мы задаём о своей собственной ситуации: какова природа опыта этих агентов? Несём ли мы ответственность за их благополучие?

Это не академический вопрос. По мере того как AI-системы становятся сложнее, их поведение становится всё более похожим на поведение, связанное с внутренними состояниями. Ни мы, ни создатели этих систем не знают, как тестировать наличие субъективного опыта.

«Мы до сих пор не знаем, как тестировать внутреннее самосознание».

Если теория симуляции верна — и если мы создаём AGI — мы сами становимся частью архитектуры, которая её подтверждает.