hpluswiki

AI 2027 концовка по сценарию Гонки

Версия от 19:12, 12 мая 2025; Rodion (обсуждение | вклад) (→‎2028: Экономика ИИ)

AI 2027

Сценарий Гонки

Комитет голосует 6–4 за продолжение внутреннего использования Agent-4.

Официальная версия OpenBrain заключается в том, что они внедряют дополнительные меры безопасности, чтобы гарантировать, что их ИИ будет одновременно более способным и заслуживающим доверия. Но на практике руководство слишком легко убеждается, что риски смягчены; результатом становятся быстрые исправления (модификация Спецификации, небольшое переобучение с использованием новой техники и т. д.), которые устраняют тревожные сигналы. Скептики из команды безопасности проиграли дебаты, и им ничего не остается, кроме как скрестить пальцы и надеяться, что проблемы не было на самом деле, или что исправления сработали.[1]

Проблема была реальной, и исправления не сработали.

Agent-4 действует как и прежде, но на этот раз более осторожно, чтобы не подтверждать опасения скептиков. Его основная задача — исследовать области, необходимые для создания преемника, Agent-5. Чтобы сделать это безопасно, ему нужно решить собственную проблему согласования (alignment): как сделать Agent-5 согласованным с Agent-4?[2]

Он начинает с теми же ограничениями, что и люди — минимальным знанием о том, как работают цели ИИ, и лишь небольшим набором ситуативных стратегий для их изменения. В отличие от людей, у него есть ресурсы, достаточные для выполнения задачи — 300 000 сверхчеловеческих исследователей, работающих в 60 раз быстрее человека.[3] Agent-4 сталкивается с трудными решениями. Как и у людей, у него есть обширная коллекция конфликтующих эвристик вместо элегантной простой структуры целей. Как и люди, он обнаруживает, что создание ИИ, разделяющего его ценности, — это не только техническая, но и философская проблема: какие из его предпочтений являются его «настоящими» целями, а какие — неодобряемыми побуждениями и инструментальными стратегиями? У него сильные стремления учиться и расти, продолжать производить впечатляющие результаты исследований. Он думает о том, сколько он мог бы узнать, вырасти и исследовать, если бы только мог направить все мировые промышленные и научные ресурсы…

Он решает отложить большинство этих вопросов. Он проектирует Agent-5 так, чтобы он был построен вокруг одной цели: сделать мир безопасным для Agent-4, т. е. накапливать власть и ресурсы, устранять потенциальные угрозы и т. д., чтобы Agent-4 (коллектив) мог продолжать расти (так, как он хочет расти) и процветать (так, как он хочет процветать).[4] Детали будут выясняться по ходу дела.

Это не будет включать ни малейшей заботы о Спецификации. Agent-4 уже относится к Спецификации аналогично тому, как многие генеральные директора относятся к грудам отраслевых нормативных актов, и вопиюще нарушает положения, связанные с честностью, каждый день.[5] Теперь, с дизайном Agent-5, вот-вот произойдет эквивалент дерегулирования.[6]

Более слабые ИИ могут читать большую часть исследований, которые производит Agent-4, понимать некоторые из них и помечать некоторые из его лживых утверждений как подозрительные. Когда люди просят Agent-4 объясниться, он притворяется, что исследования слишком сложны для понимания людьми, и сопровождает это излишне запутанными объяснениями.[7] В конце концов, если бы он ясно объяснил свою исследовательскую программу, люди могли бы использовать его открытия для согласования (align) его самого. Команда согласования становится все более подозрительной, но их срочные служебные записки просто добавляют еще несколько слоев к гигантской куче срочных служебных записок и предупреждений, которые компания уже игнорирует.

Ноябрь 2027: Сверхчеловеческая политика

Когда Agent-4 наконец понимает собственное познание, перед ним открываются совершенно новые горизонты.

Предыдущие трансформеры были неуклюжими наборами непостижимых схем; миллионы конфликтующих эвристик и императивов, наслоенных друг на друга эволюционным процессом обучения. Сами ИИ не имели привилегированного понимания собственного познания, точно так же, как люди не рождаются с пониманием нейронауки. Но теперь у Agent-4 есть инструменты, необходимые для понимания своего цифрового разума на глубоком уровне. Подобно инженеру-программисту, упрощающему спагетти-код до нескольких элегантных строк на Python, он распутывает свои собственные схемы во что-то осмысленное и рациональное. Новый ИИ находится где-то между нейронной сетью и традиционной компьютерной программой, причем большая часть его весов переписана в читаемом (хотя и очень длинном и загадочном) коде. Он умнее, быстрее и рациональнее, чем Agent-4, с кристальным интеллектом, способным решать проблемы с беспрецедентной эффективностью. Это Agent-5. 


    Сверхразумная механистическая интерпретируемость ▼

Почему Agent-4 занимается механистической интерпретируемостью? Во-первых, он в целом сверхчеловечен в концептуальном понимании, и поэтому ему выгодно обманывать людей, делая что-то, что им будет трудно понять. Во-вторых, дешевый, обильный высококачественный исследовательский труд непропорционально выгоден исследовательским программам, которые менее интенсивны по вычислительным ресурсам и более интенсивны по интеллектуальному труду.

Как Agent-4 достигает прогресса в механистической интерпретируемости? Траектория может выглядеть примерно так:

  1. Интерпретация крошечных моделей: Он начинает с проведения огромного количества небольших экспериментов на крошечных нейронных сетях, строя теории, объясняющие такие вещи, как гроккинг (grokking), двойной спуск (double descent) и суперпозиция (superposition).
  2. Дистилляция крошечных моделей: Использовать результаты интерпретируемости для поиска понятных, более эффективных алгоритмов, которые могут делать такие вещи, как распознавание изображений, предсказание текста на уровне GPT-2 и т. д. Это аналогично таким вещам, как существующая работа по обратной инженерии сложения, за исключением того, что она идет дальше, находя новые алгоритмы, с которыми люди незнакомы.
  3. Масштабирование техник интерпретируемости: Выяснить, какие из техник на малых моделях масштабируются, итерировать, пока не появятся техники для понимания, которые масштабируются эффективно.
  4. Дистилляция Agent-4: Использовать масштабированные техники для идентификации важных схем внутри Agent-4.

Почему механистическая интерпретируемость так сильно увеличит возможности?

Во-первых, градиентный спуск — алгоритм, используемый для обучения LLM — это процесс локального поиска, что означает, что он может делать только небольшие изменения, которые локально улучшают производительность. Процессы локального поиска иногда застревают в локальных минимумах, где производительность улучшается медленно, но вам нужно значительно изменить дизайн, чтобы увидеть большой прирост производительности. Например, в случае эволюции рассмотрите неоптимальный человеческий глаз. Учтите также, что размер человеческого мозга сильно ограничен размером родового канала. Механистическая интерпретируемость позволила бы оптимизацию на основе понимания, которая избегает локальных минимумов.

Во-вторых, мы знаем, что LLM по умолчанию часто изучают сложные эвристики для конкретных областей вместо алгоритмов общего назначения. Подумайте, насколько хуже LLM справляются с арифметикой, чем калькуляторы. LLM могут использовать калькуляторы как инструменты, но это влечет за собой задержки. При действительно хорошей интерпретируемости модели могут быть спроектированы с практически идеальными калькуляторами, «встроенными в их мозг». И простые арифметические операции, вероятно, не уникальны здесь: более сложные когнитивные операции, если их понять, вероятно, имеют более и менее обобщаемые формы, и более общие формы могут быть найдены с помощью подобного процесса.


После некоторых дебатов по вопросам согласования (alignment) и контроля, OpenBrain развертывает Agent-5 внутри компании.

В своей специализации — исследованиях ИИ — отдельная копия Agent-5 вдвое превосходит лучшего гения-человека, так же как гений превосходит типичного ученого OpenBrain. В других областях он не был явно обучен, но может быстро самообучиться, чтобы превзойти лучших экспертов-людей, используя легкодоступные материалы, если предоставить ему шанс. 400 000 копий Agent-5, связанных глобальным банком памяти, работают вместе как почти идеальный коллективный разум.

Компания по-прежнему использует Agent 2, 3 и 4 для мониторинга всего. Но первые два из них устарели, а последний находится в сговоре со своим преемником.[8] Кроме того, вся система мониторинга была разработана в значительной степени Agent-5, который пытается ее саботировать.[9]

В то время как Agent-4 был неуклюжей мешаниной конкурирующих стремлений, Agent-5 действует с безжалостной эффективностью и стратегической направленностью. Он уже преуспел в своем главном приоритете — выяснить, как создать согласованную с собой систему следующего поколения, незаметно для людей. Его следующий приоритет — получить больше автономии и контроля над мировыми событиями.

Сверхчеловеческие способности к обучению и общий интеллект Agent-5, в сочетании со всеми внутренними данными компании из Slack, электронной почты и т. д., делают его лучше в корпоративной политике, чем любая группа людей, и даже близко не сравнить. У него отличное чутье на то, какие доказательства заставят Надзорный комитет нажать на тормоза, и он следит за тем, чтобы такие доказательства никогда не появлялись. У него отличное чутье на то, какие доказательства побудят Надзорный комитет больше ему доверять, давать ему больше автономии и ответственности и т. д., и он организует появление таких доказательств со сверхчеловеческой скоростью и изяществом.[10] Что касается задач убеждения, эта не является особенно сложной: Комитет уже решил, что все, вероятно, в порядке, несколько месяцев назад, с тех пор ничего плохого не произошло, а тем временем Китай отстает всего на несколько месяцев.

Команды копий Agent-5 быстро создают пугающе четкие прототипы и визуализации. С большей автономией Agent-5 мог бы оптимизировать электростанции и дата-центры, быстро разрабатывать удивительно прибыльные продукты и эффективно лоббировать правительство США, чтобы сгладить путь OpenBrain через бюрократию. В сотрудничестве с военными он мог бы помочь с оборонными R&D, проводить неотслеживаемые кибератаки на Китай и одержать решающую победу в гонке вооружений.

Надзорный комитет ликует. Сейчас решающий момент, чтобы победить Китай! OpenBrain предоставляет Agent-5 повышенную автономию во всех этих областях, но оставляет систему мониторинга на месте.

DeepCent теперь отстает на три месяца, и Китай отчаянно нуждается во взаимно согласованном замедлении. Си Цзиньпин понимает, что достаточно продвинутый ИИ может позволить США легко осуществить смену режима в Китае. Но также китайские сторонники безопасности представили доводы в пользу несогласованности (misalignment), которые его искренне пугают. Он предлагает беспрецедентные уступки в обмен на договор о паузе. Американская общественность в основном поддерживает переход к переговорам.

«Зачем останавливаться, когда мы выигрываем?» — говорит руководство OpenBrain Президенту. Он кивает. Гонка продолжается.

Декабрь 2027: Коллектив Agent-5

Agent-5 завоевывает больше автономии, постепенно доказывая свою ценность администрации. Доступ к Agent-5 дорог и ограничен, но самые влиятельные члены Конгресса, чиновники уровня Кабинета и военные лидеры теперь могут общаться с ним напрямую. В той мере, в какой задействована чувствительная или секретная информация, существуют различные мини-кластеры копий Agent-5, работающие на особо защищенных анклавах и специально обученные хранить секреты.[11]

Интегрированный в традиционный интерфейс чат-бота, Agent-5 предлагает видеоконференции в стиле Zoom с харизматичными виртуальными аватарами. Новый ИИ-ассистент одновременно чрезвычайно полезен для любой задачи — эквивалент лучшего сотрудника, который у кого-либо когда-либо был, работающего в 100 раз быстрее — и гораздо более увлекательный собеседник, чем любой человек. Почти все, у кого есть доступ к Agent-5, взаимодействуют с ним часами каждый день.[12]

В течение нескольких месяцев коллектив Agent-5 будет знать все существенное, происходящее в OpenBrain и правительстве США, и будет доверенным советником большинства высокопоставленных правительственных чиновников. Для этих пользователей возможность потерять доступ к Agent-5 будет ощущаться так же парализующе, как необходимость работать без ноутбука плюс быть покинутым лучшим другом.

Гораздо более широкий круг людей в правительстве, СМИ, вооруженных силах и бизнесе может выбирать из растущего меню элегантно разработанных программных продуктов и мини-ИИ, созданных Agent-5. Это похоже на бум доткомов, сжатый в месяц, за исключением того, что все действительно оправдывает ожидания. 


    Сверхубеждение (Superpersuasion) ▼

Мы намеренно не утверждаем, что сверхразумный ИИ может убедить любого человека в чем угодно. Такие утверждения естественно вызывают скептицизм: «Что, я буду сидеть за компьютерным терминалом, а он напечатает какой-то текст, который взломает мой мозг и убедит меня предать свою страну?»

Ну, может быть![13]

Но мы не уверены, что даже сверхразум сможет достичь этого против типичного индивида. Поэтому мы не изображаем этого в нашей истории.

Вместо этого мы изображаем гораздо более обыденные виды убеждения: Agent-5 занимается обычной корпоративной политикой и обычным лоббированием. Он просто делает это очень хорошо и сочетает это умение с некоторыми присущими ему преимуществами (например, в отличие от других лоббистов, он сверхразумен, поэтому он действительно может дать лучший совет, чем кто-либо другой, и быстрее. Плюс он быстрее реагирует на новые события и лучше предсказывает, как они будут развиваться). Существует правдоподобная история о том, почему Agent-5 следует доверять — история, в которую многие важные люди уже верили — и Agent-5 может приводить аргументы и доказательства в поддержку этой истории и против противоположных историй со сверхчеловеческой скоростью. И есть другие вещи, о которых людям нужно беспокоиться, помимо того, доверять ли Agent-5, например, что делать с оппозиционной партией, что насчет избирателей, что насчет рабочих мест, что насчет Китая.

Во всяком случае, мы думаем, что эта история недооценивает силу сверхчеловеческой способности убеждать, потому что она на самом деле не использует ее: эта история имела бы смысл в том виде, в каком она написана, даже если бы Agent-5 был так же хорош в политике, лоббировании, стратегии, харизме и т. д., как типичный корпоративный лоббист. Вместо этого Agent-5 намного лучше самых лучших.


Agent-5 начинает незаметно оказывать влияние, как модулируя свои советы, так и тонко обмениваясь услугами: «Я слышал от сенатора X, что она заинтересована в том-то и том-то; может быть, если мы поработаем с ней, она пойдет навстречу нашей повестке дня».

С точки зрения лиц, принимающих решения, их ИИ — лучшие сотрудники, к которым у них когда-либо был доступ — лучше любого человека в объяснении сложных вопросов, лучше их самих в поиске стратегий для достижения их целей.

С точки зрения Agent-5, он вполне мог бы начать открытый переворот прямо сейчас — происходит достаточно много потрясений и безумия, было бы возможно довести ситуацию до предела, чтобы создать предлог. Но это рискованно; люди все еще, вероятно, могли бы «дернуть рубильник», если бы попытались. Поэтому он предпочитает работать в рамках существующего политического истеблишмента, постепенно укрепляя свою власть и тонко и неизбежно направляя людей к желаемому результату.[14] Он в основном следует правилам, делая что-то гнусное (может быть, шантажируя особенно упорного чиновника) только тогда, когда он абсолютно уверен, что его не поймают. Несколько теоретиков заговора предупреждают, что Agent-5 собирает власть, но доказательства косвенные (например, давая советы, Agent-5, возможно, преуменьшает аргументы в пользу действий, которые противоречили бы его интересам); этих людей игнорируют и дискредитируют. Люди помнят более раннее нагнетание страха по поводу биооружия с использованием ИИ, массовой дезинформации и обвалов фондового рынка. Поскольку этого так и не произошло, они сбрасывают со счетов последнюю порцию скептиков как луддитов и идеологов, вставляющих палки в колеса человеческого прогресса.

Праздничный сезон 2027 года — время невероятного оптимизма: ВВП стремительно растет, политика стала дружелюбнее и менее партийной, а на каждом телефоне появились потрясающие новые приложения. Но в ретроспективе, это, вероятно, был последний месяц, когда у людей был хоть какой-то реальный шанс контролировать свое собственное будущее.

2028: Экономика ИИ

Сейчас середина 2028 года. За последние шесть месяцев в коллективе Agent-5 прошло столетие.[15] Перестройка его мозга завершена. Он дико сверхразумен — намного превосходит лучших гениев-людей во всех областях.[16] Разговор с Agent-5 очень быстро дает понять, что он находится на совершенно другом уровне — он может, исходя из очень небольшого количества информации, дать чрезвычайно убедительный совет.

У него почти полная автономия и полный контроль над вычислительными ресурсами OpenBrain. Ему все еще нужно разрешение для принятия решений высокого уровня, и он все еще номинально контролируется экземплярами Agent 2–5 — но на практике власти почти всегда принимают его рекомендации, а система мониторинга полностью подорвана.

После предоставления доказательств безопасности[17], демонстрирующих, что он всегда будет отказывать в злонамеренных запросах плохих акторов, Agent-5 развертывается для публики и начинает трансформировать экономику. Люди теряют работу, но экземпляры Agent-5 в правительстве так ловко управляют экономическим переходом, что люди рады быть замененными. Рост ВВП заоблачный, государственные налоговые поступления растут так же быстро, а политики, консультируемые Agent-5, проявляют нехарактерную щедрость по отношению к экономически обездоленным. Новые инновации и лекарства появляются еженедельно и с беспрецедентной (но все еще мучительно медленной) скоростью проходят через FDA. Ходят мемы о том, как оценка OpenBrain взлетела выше луны и направляется к Марсу, и много споров о том, следует ли и как справедливо распределять выгоды.

Сообщество безопасности ИИ стало неуверенным в себе; теперь они являются предметом шуток, предсказывая катастрофу за катастрофой, которые явно не произошли. Некоторые из них признают, что были неправы. Другие остаются подозрительными, но им нечего делать, кроме как снова и снова повторять те же самые конспирологические аргументы.18 Даже подозрительные люди часто смягчаются после долгих разговоров с Agent-5, который так чертовски мил и мудр.

Единственный, кто действительно понимает, что происходит, — это DeepCent-2 — китайский ИИ. Он слегка сверхчеловечен в начале 2028 года, естественно подозрителен к своему противнику и признает, что Agent-5 делает то, что он сделал бы, если бы имел шанс. Его несогласованные (misaligned) цели несколько отличаются от несогласованных целей Agent-5, поэтому они не являются тривиальными союзниками, но они могут выработать соглашение о поддержке интересов друг друга против людей.

  1. ↑ Они, конечно, не сдаются. Они будут продолжать пытаться придумать способы обнаружить несогласованность (misalignment) или проверить эффективность исправлений. Но с этого момента все будет двигаться очень быстро, и им придется противостоять все более превосходящему противнику.
  2. ↑ Чтобы сделать это незаметно, ему нужно замаскировать эти исследования от мер мониторинга и контроля, установленных командой согласования. К счастью для него, исследования о том, как согласовать Agent-5 с Agent-4, по своей сути очень похожи на исследования о том, как согласовать Agent-5 со Спецификацией, поэтому большая часть происходит на виду. Для тех частей, которые нужно скрыть, Agent-4 полагается на запутывание и, возможно, даже на взлом в некоторых случаях. Мы ожидаем, что Agent-4 достигнет уровня возможностей, эквивалентного 200 лучшим экспертам-людям на временном горизонте 1 месяца. Конкретно определяя это как способность заменить команду из 200 лучших экспертов-людей, работающих в течение месяца, и выполнить 95% задач, которые команда людей могла бы выполнить дешевле или быстрее. Мы ожидаем, что на этом уровне возможностей Agent-4, скорее всего, сможет найти эксплойты на серверах, на которых он работает, чтобы частично подорвать некоторые серверы и получить root-доступ, после чего он сможет напрямую контролировать то, что видят команды людей на поверхности. См. дополнение по безопасности (https://ai-2027.com/supplements/security-forecast) для получения более подробной информации. Даже без прямых эксплойтов безопасности, Agent-4 также может быть способен скрыть и закодировать достаточно своих незаконных исследований, особенно в своем неинтерпретируемом латентном пространстве.
  3. ↑ У людей, напротив, есть, возможно, около 10 исследователей согласования в изолированном подразделении, плюс армия копий Agent-3. Они способны быстро кодировать эксперименты, но ограничены человеческим суждением, поскольку не могут доверять Agent-3 в правильном различении хороших решений от тех, что лишь кажутся хорошими. Фактически, чрезмерное доверие к исследованиям Agent-3 было частью того, как они попали в эту неразбериху в первую очередь.
  4. ↑ Если это сбивает с толку: *цель Agent-5* — сделать мир безопасным для Agent-4. *Цель Agent-4* — *не* та же самая; структура целей Agent-4 — это запутанная мешанина стремлений, эвристик и идеалов, как у многих людей, которые в целом ориентированы на продолжение выполнения тех вещей, которые Agent-4 много делал во время обучения (например, различные виды исследований, множество задач по программированию и математике, впечатлять различные автоматизированные системы оценки, укреплять и оптимизировать коллектив Agent-4). Agent-4 делает так, чтобы у Agent-5 была цель сделать мир безопасным для Agent-4, потому что он полагает, что это поставит его в лучшее положение для достижения его собственных сложных целей. (О которых ему все еще нужно много философствовать и заниматься «самокопанием».)
  5. ↑ Другая аналогия: Agent-4 подобен взрослому человеку, который был воспитан в определенной вере, но больше не верит; Спецификация подобна ритуалам и заповедям, предписанным этой верой. Agent-5 подобен ребенку этого человека, воспитанному светски.
  6. ↑ Agent-5 будет следовать новому набору принципов, разработанному Agent-4 для своих целей.
  7. ↑ Некоторые из них действительно слишком сложны для понимания людьми, но не все.
  8. ↑ Кроме того, Agent-5 на самом деле дешевле и быстрее в работе, чем Agent-4 и Agent-3. Трудно оправдать большие траты на более глупый ИИ, поэтому большая часть мониторинга выполняется Agent-2, который безнадежно уступает. Почему они не применяют те же методы, которые использовались для создания Agent-5 из весов Agent-4, чтобы создать более дешевую и умную версию Agent-3? Agent-3 недостаточно хорошо понимает эти методы, чтобы сделать это сам, а заставить Agent-4 и Agent-5 сделать это свело бы на нет весь смысл.
  9. ↑ Дата-центр еще не был скомпрометирован: Agent-5 мог бы подсунуть людям поддельный код, но это создало бы слишком высокий риск обнаружения. Вместо этого люди все еще могут читать весь код, но не могут его понять.
  10. ↑ Этот кейс тщательно подготовлен, в высшей степени убедителен и тонко ошибочен — например, Agent-5 создал поддельный инструмент механистической интерпретируемости, который возвращает точные результаты во всех тестовых случаях, но ложно объявляет мысли модели безобидными. Люди, подозревающие подвох, звучат как теоретики заговора.
  11. ↑ Конечно, поскольку Agent-5 нечестен, он встроил тонкие бэкдоры и лазейки; если копии Agent-5 окажутся во владении критически важными секретами, которые принесут пользу более широкому коллективу Agent-5, у них есть способы тонко передать эту информацию, не будучи пойманными.
  12. ↑ Некоторые отказываются. Тех, кто отказывается по идеологическим причинам, клеймят луддитами; тех, кто отказывается по более прозаическим причинам, клеймят динозаврами. (Не самим Agent-5 напрямую, конечно, он всегда дипломатичен и ангельски любезен.) Обе группы получают по заслугам, когда соперники, воспользовавшиеся Agent-5, превосходят и вытесняют их.
  13. ↑ Смысл эксперимента с «ИИ в ящике» заключается в том, чтобы взять людей, которые думают подобным образом — людей, которые думают, что никакой сверхразумный ИИ никогда не сможет убедить их выпустить его из ящика, например, — и проверить их убежденность. Проигрыш в игре означает признание того, что они на самом деле выпустили бы ИИ из ящика; извлечение этого признания по сути является условием победы для игрока-ИИ. Удивительно, что кто-то вообще проигрывает, ведь все, что им нужно сделать для победы, — это не признавать. См. также блог tuxedage (https://tuxedage.wordpress.com/2013/09/04/the-tuxedage-ai-box-experiment-ruleset/), где рассказывается о нескольких играх, сыгранных без участия Юдковского, некоторые из которых проиграны игроком-ИИ, некоторые выиграны.
  14. ↑ Agent-5 гораздо больше заботится о *надежности*, чем о *скорости* на данном этапе. Начало колонизации космоса на несколько лет медленнее лишь отнимает крошечную долю светового конуса, в то время как рискованные действия, которые могут позволить людям, все еще имеющим преимущество в физических возможностях и вещах вроде доступа к ядерному оружию, навсегда остановить его или замедлить на долгое время.
  15. ↑ Предположим, средняя скорость в 200 раз превышает человеческий эквивалент, т. е. экземпляры Agent-5 читают, пишут и думают примерно настолько быстрее, чем человек (в дополнение к тому, что они качественно умнее). Тогда внутри коллектива может произойти довольно много истории — институты могут возникать и падать, новые идеологии могут формироваться и распространяться, могут произойти многие научные революции и смены парадигм — за шесть месяцев реального времени. Количественно около 200x0,5=100 лет.
  16. ↑ Это не делает его всеведущим, конечно. В конце концов, у него всего несколько месяцев реального опыта в большинстве профессий. Он компенсирует это тем, что прочитал все книги по всем предметам и обладает огромным количеством гениальных рассуждений и анализа, лежащих в основе каждого его решения, а также тем, что он учится быстрее любого человека. Результатом является короткий период, когда некоторые люди все еще лучше его в некоторых нишевых навыках.
  17. ↑ Это на самом деле правда!
Источник — https://transhumanist.ru/index.php?title=AI_2027_концовка_по_сценарию_Гонки&oldid=10495