hpluswiki

AI 2027 концовка по сценарию Замедления: различия между версиями

Статья Обсуждение

AI 2027 концовка по сценарию Замедления (посмотреть исходный код)

Версия от 10:58, 12 мая 2025

752 байта добавлено ,  12 май
→‎Февраль 2028: Сверхчеловеческие возможности, Сверхчеловеческие советы
Строка 123: Строка 123:
Благодаря своему огромному преимуществу в вычислительных ресурсах, OpenBrain медленно наращивает отрыв. Safer-3 теперь лучше лучших экспертов-людей почти во всех когнитивных задачах, и особенно хорош в исследованиях ИИ, с мультипликатором прогресса 200x. DeepCent-1 идет следом, с мультипликатором «всего лишь» 150x.<ref>Качественно, для мультипликаторов производительности выше ~25x, мы представляем существенные улучшения в *научном чутье (research taste)* по сравнению с самыми лучшими исследователями-людьми. Это потому, что мы представляем общую скорость исследований сильно ограниченной вычислительными ресурсами для проведения экспериментов, и чтобы получить выше ~25x, общий процесс принятия решений о том, какие эксперименты проводить, в каком порядке, и как учиться на каждом из них, должен быть качественно сверхчеловеческим. См. наше дополнение по скорости взлёта ИИ (https://ai-2027.com/supplements/takeoff-forecast) для того, как мы получили эти цифры; чтобы было ясно, это оценки с высокой степенью неопределенности.</ref> Баланс кибервойны также постепенно смещается в пользу США, по мере того как их преимущество в возможностях снова растет, и они могут развернуть сотни тысяч агентов для планирования и выполнения способов нарушения работы ЦЗР.<ref>Для такой хорошо защищенной зоны наиболее перспективными векторами являются внешние, нацеленные на цепочку поставок поступающих вычислительных чипов, немногих вовлеченных людей и нарушение электроснабжения или других ресурсов.</ref> Теперь они замедляют прогресс Китая на 40%.<ref>Это включает в себя необходимость замедления Китая для улучшения киберзащиты, в дополнение к прямым последствиям атак.</ref>
Благодаря своему огромному преимуществу в вычислительных ресурсах, OpenBrain медленно наращивает отрыв. Safer-3 теперь лучше лучших экспертов-людей почти во всех когнитивных задачах, и особенно хорош в исследованиях ИИ, с мультипликатором прогресса 200x. DeepCent-1 идет следом, с мультипликатором «всего лишь» 150x.<ref>Качественно, для мультипликаторов производительности выше ~25x, мы представляем существенные улучшения в *научном чутье (research taste)* по сравнению с самыми лучшими исследователями-людьми. Это потому, что мы представляем общую скорость исследований сильно ограниченной вычислительными ресурсами для проведения экспериментов, и чтобы получить выше ~25x, общий процесс принятия решений о том, какие эксперименты проводить, в каком порядке, и как учиться на каждом из них, должен быть качественно сверхчеловеческим. См. наше дополнение по скорости взлёта ИИ (https://ai-2027.com/supplements/takeoff-forecast) для того, как мы получили эти цифры; чтобы было ясно, это оценки с высокой степенью неопределенности.</ref> Баланс кибервойны также постепенно смещается в пользу США, по мере того как их преимущество в возможностях снова растет, и они могут развернуть сотни тысяч агентов для планирования и выполнения способов нарушения работы ЦЗР.<ref>Для такой хорошо защищенной зоны наиболее перспективными векторами являются внешние, нацеленные на цепочку поставок поступающих вычислительных чипов, немногих вовлеченных людей и нарушение электроснабжения или других ресурсов.</ref> Теперь они замедляют прогресс Китая на 40%.<ref>Это включает в себя необходимость замедления Китая для улучшения киберзащиты, в дополнение к прямым последствиям атак.</ref>


Предварительные тесты Safer-3 показывают, что у него ужасающие возможности. Когда его просят честно ответить, что самое опасное он мог бы сделать, он предлагает планы по синтезу и выпуску организма зеркальной жизни (mirror life), который, вероятно, уничтожил бы биосферу.
Предварительные тесты Safer-3 показывают, что у него ужасающие возможности. Когда его просят честно ответить, что самое опасное он мог бы сделать, он предлагает планы по синтезу и выпуску организма [https://en.wikipedia.org/wiki/Mirror_life зеркальной жизни (mirror life)], который, вероятно, уничтожил бы биосферу.


Если предоставить ему ресурсы национального государства, он мог бы легко превзойти лучшие человеческие организации (например, ЦРУ) в кампаниях массового влияния. Такие кампании были бы значительно дешевле, быстрее, эффективнее и менее отслеживаемыми.
Если предоставить ему ресурсы национального государства, он мог бы легко превзойти лучшие человеческие организации (например, ЦРУ) в кампаниях массового влияния. Такие кампании были бы значительно дешевле, быстрее, эффективнее и менее отслеживаемыми.
Строка 129: Строка 129:
Его профиль навыков по-прежнему сосредоточен на R&D, особенно на R&D ИИ. Если не будет какой-либо паузы или замедления, его потомки станут непостижимо сверхчеловеческими как в количественном, так и в качественном отношении позже в этом году. Если агрессивно развернуть его в экономике и вооруженных силах, он думает, что сможет продвинуть цивилизацию на десятилетия за год или два, и на эоны в следующее десятилетие.
Его профиль навыков по-прежнему сосредоточен на R&D, особенно на R&D ИИ. Если не будет какой-либо паузы или замедления, его потомки станут непостижимо сверхчеловеческими как в количественном, так и в качественном отношении позже в этом году. Если агрессивно развернуть его в экономике и вооруженных силах, он думает, что сможет продвинуть цивилизацию на десятилетия за год или два, и на эоны в следующее десятилетие.


Последствия ошеломляющие; к счастью, Safer-3 также сверхчеловечен в предоставлении советов. Генеральный директор OpenBrain прогоняет большинство своих решений через Safer-3; Президент спрашивает его совета по геополитическим вопросам.30
Последствия ошеломляющие; к счастью, Safer-3 также сверхчеловечен в предоставлении советов. Генеральный директор OpenBrain прогоняет большинство своих решений через Safer-3; Президент спрашивает его совета по геополитическим вопросам.<ref>На данный момент существует 400 000 копий, думающих в 75 раз быстрее человека. В любой момент времени у них будут готовы целые исследовательские отчеты с хорошо продуманными резюме по 100 главным вопросам, которые, по их прогнозам, вы можете задать, и если вы спросите что-то, к чему они не подготовились, они могут состряпать вдумчивый отчет в 100 раз быстрее, чем ваши лучшие аналитики-люди.</ref>


Когда они просят его помочь наметить путь вперед, он аккуратно классифицирует несколько возможных стратегий:
Когда они просят его помочь наметить путь вперед, он аккуратно классифицирует несколько возможных стратегий:
Источник — https://transhumanist.ru/Служебная:Сравнение_версий/10423