Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Замедления: различия между версиями
AI 2027 концовка по сценарию Замедления (посмотреть исходный код)
Версия от 11:00, 12 мая 2025
, 12 май→Февраль 2028: Сверхчеловеческие возможности, Сверхчеловеческие советы
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 132: | Строка 132: | ||
Когда они просят его помочь наметить путь вперед, он аккуратно классифицирует несколько возможных стратегий: | Когда они просят его помочь наметить путь вперед, он аккуратно классифицирует несколько возможных стратегий: | ||
#Ничего не делать и проиграть гонку Китаю. Если мы будем держать наших ИИ взаперти, а они позволят своим ИИ самосовершенствоваться и агрессивно развернут их в своих вооруженных силах и экономике, они в конечном итоге получат подавляющее преимущество. | |||
#Участвовать в гонке изо всех сил, продвигая возможности ИИ и агрессивно развертывая сверхразум. В конце концов мы нарастим достаточное преимущество, чтобы сокрушить их в военном отношении и/или уничтожить изнутри, не сделав ни выстрела. «Мы победим, они проиграют». Однако они могут осознать происходящее и начать войну, чтобы предотвратить это, включая потенциально ядерную войну. Действительно, они уже делают туманные угрозы на этот счет. | |||
#Заключить сделку, компромисс, который достигает большей части того, чего хочет каждая сторона, избегая риска войны и увеличивая пространство для маневра при переходе к ИИ.<ref>Например, сделка могла бы включать более медленный темп интеграции ИИ, который «разобьет меньше яиц» в обществе, и более сфокусированный на мирных целях, а не на вооружении. Кроме того, на данный момент даже у Safer-3 остается некоторая неопределенность относительно «неизвестных неизвестных», которые могут привести к потере контроля над ИИ-преемниками следующего поколения, и он думает, что мог бы снизить этот риск, если бы у него было больше свободы действовать осторожно. Существуют и другие, более экзотические риски. См. этот список (https://www.forethought.org/research/preparing-for-the-intelligence-explosion) «Грандиозных вызовов», который включает в себя гораздо больше, чем просто потерю контроля.</ref> | |||