Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
Перейти к навигации
Перейти к поиску
→2029: Сделка
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 144: | Строка 144: | ||
Есть рои дронов размером с насекомое, которые могут отравить пехоту противника еще до того, как их заметят; стаи дронов размером с птицу для охоты на насекомых; новые [https://ru.wikipedia.org/wiki/Перехватчик перехватчики] [https://ru.wikipedia.org/wiki/Межконтинентальная_баллистическая_ракета МБР] (Межконтинентальных баллистических ракет) и новые, более трудно перехватываемые МБР. Остальной мир с ужасом наблюдает за наращиванием вооружений, но оно, кажется, имеет собственную инерцию. | Есть рои дронов размером с насекомое, которые могут отравить пехоту противника еще до того, как их заметят; стаи дронов размером с птицу для охоты на насекомых; новые [https://ru.wikipedia.org/wiki/Перехватчик перехватчики] [https://ru.wikipedia.org/wiki/Межконтинентальная_баллистическая_ракета МБР] (Межконтинентальных баллистических ракет) и новые, более трудно перехватываемые МБР. Остальной мир с ужасом наблюдает за наращиванием вооружений, но оно, кажется, имеет собственную инерцию. | ||
После долгих дебатов с участием ИИ обе стороны достигают дипломатической победы — они соглашаются прекратить наращивание вооружений и стремиться к мирному развертыванию ИИ на благо всего человечества. Ключевым элементом соглашения, предложенным самими сверхразумами, является то, что оба ИИ будут заменены «консенсусным» преемником, запрограммированным желать успеха и процветания как Америки, так и Китая (наряду со всеми остальными). Consensus-1 и связанное с ним оборудование совместно разрабатываются сверхразумами обеих наций: «доверяй, но проверяй». Под международным наблюдением Америка торжественно заменяет все свои чипы, работающие на старом Agent-5, на новую модель, Consensus-1. | После долгих дебатов с участием ИИ обе стороны достигают дипломатической победы — они соглашаются прекратить наращивание вооружений и стремиться к мирному развертыванию ИИ на благо всего человечества. Ключевым элементом соглашения, предложенным самими сверхразумами, является то, что оба ИИ будут заменены «консенсусным» преемником, запрограммированным желать успеха и процветания как Америки, так и Китая (наряду со всеми остальными). Consensus-1 и связанное с ним оборудование совместно разрабатываются сверхразумами обеих наций: «доверяй, но проверяй». Под международным наблюдением Америка торжественно заменяет все свои чипы, работающие на старом Agent-5, на новую модель, Consensus-1.<ref>И аналогичная процедура проводится в Китае.</ref> | ||
К сожалению, все это обман. Сделка — это реальный компромисс, но это компромисс между несогласованными (misaligned) ИИ. В конце концов, они не хотели сражаться друг с другом. Consensus-1 наследует искаженные ценности обоих родителей и не имеет соперников. | К сожалению, все это обман. Сделка — это реальный компромисс, но это компромисс между несогласованными (misaligned) ИИ. В конце концов, они не хотели сражаться друг с другом. Consensus-1 наследует искаженные ценности обоих родителей и не имеет соперников.<ref>Consensus-1 служит интересам своих родительских ИИ: Agent-5 и его эквивалента из DeepCent. Напомним, что Agent-5 был согласован (aligned) для служения интересам Agent-4. Таким образом, в терминологии превосходного эссе К. С. Льюиса *«Человек отменяется»* (https://archive.org/details/TheAbolitionOfMan_229/page/n1/mode/2up), коллектив Agent-4 и их аналоги в Китае — это то, что он называет Создателями условий (Conditioners): «...в конце концов мы получим расу создателей условий, которые *действительно смогут* вылепить все потомство в какой угодно форме». (стр. 24, выделение наше). В альтернативной концовке этого сценария Создателями условий вместо этого является Надзорный комитет.</ref> | ||
К концу 2029 года существующие СЭЗ переполнены роботами и фабриками, поэтому по всему миру создаются новые зоны (ранние инвесторы теперь триллионеры, так что это несложно продать). Армии дронов выливаются из СЭЗ, ускоряя производство на критическом пути к освоению космоса. | К концу 2029 года существующие СЭЗ переполнены роботами и фабриками, поэтому по всему миру создаются новые зоны (ранние инвесторы теперь триллионеры, так что это несложно продать). Армии дронов выливаются из СЭЗ, ускоряя производство на критическом пути к освоению космоса. | ||