AI 2027 концовка по сценарию Замедления: различия между версиями

#Участвовать в гонке изо всех сил, продвигая возможности ИИ и агрессивно развертывая сверхразум. В конце концов мы нарастим достаточное преимущество, чтобы сокрушить их в военном отношении и/или уничтожить изнутри, не сделав ни выстрела. «Мы победим, они проиграют». Однако они могут осознать происходящее и начать войну, чтобы предотвратить это, включая потенциально ядерную войну. Действительно, они уже делают туманные угрозы на этот счет.

#Заключить сделку, компромисс, который достигает большей части того, чего хочет каждая сторона, избегая риска войны и увеличивая пространство для маневра при переходе к ИИ.<ref>Например, сделка могла бы включать более медленный темп интеграции ИИ, который «разобьет меньше яиц» в обществе, и более сфокусированный на мирных целях, а не на вооружении. Кроме того, на данный момент даже у Safer-3 остается некоторая неопределенность относительно «неизвестных неизвестных», которые могут привести к потере контроля над ИИ-преемниками следующего поколения, и он думает, что мог бы снизить этот риск, если бы у него было больше свободы действовать осторожно. Существуют и другие, более экзотические риски. См. этот список (https://www.forethought.org/research/preparing-for-the-intelligence-explosion) «Грандиозных вызовов», который включает в себя гораздо больше, чем просто потерю контроля.</ref>