AI 2027 концовка по сценарию Замедления: различия между версиями

Альтернативно, кто-то, кто контролировал сверхразум, может использовать политические средства для захвата власти. Начнем с того, что руководитель мог бы заменить подчиненных в своей организации полностью лояльными ИИ,<ref>Или, если по формальным причинам нужен человек, они могли бы выбрать самого лояльного человека, какого только возможно найти, и поручить ему следовать инструкциям ИИ.</ref> предоставив им беспрецедентный институциональный контроль.<ref>Например, если бы это сделал Президент, он получил бы не просто лояльный кабинет — вся исполнительная власть могла бы быть сосредоточена на продвижении политической повестки Президента.</ref> Но идя дальше: сверхразумные ИИ могли бы обладать гораздо более сильными политическими и стратегическими навыками, чем любой живой человек. Они могли бы давать мастерские советы о том, как использовать уже мощную позицию для получения еще большей власти: формировать правильные союзы, разрабатывать идеальную стратегию и материалы кампании, заключать сделки, где у них каждый раз было бы небольшое преимущество. Человек, контролирующий ИИ, мог бы сделать сверхразумные советы недоступными для политических конкурентов. Или еще коварнее: ИИ могли бы предлагать якобы полезные советы конкурентам, тайно отравляя их, чтобы принести пользу тому, кому они действительно лояльны.