Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
→Ноябрь 2027: Сверхчеловеческая политика
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 47: | Строка 47: | ||
Компания по-прежнему использует Agent 2, 3 и 4 для мониторинга всего. Но первые два из них устарели, а последний находится в сговоре со своим преемником.<ref>Кроме того, Agent-5 на самом деле дешевле и быстрее в работе, чем Agent-4 и Agent-3. Трудно оправдать большие траты на более глупый ИИ, поэтому большая часть мониторинга выполняется Agent-2, который безнадежно уступает. Почему они не применяют те же методы, которые использовались для создания Agent-5 из весов Agent-4, чтобы создать более дешевую и умную версию Agent-3? Agent-3 недостаточно хорошо понимает эти методы, чтобы сделать это сам, а заставить Agent-4 и Agent-5 сделать это свело бы на нет весь смысл.</ref> Кроме того, вся система мониторинга была разработана в значительной степени Agent-5, который пытается ее саботировать.<ref>Дата-центр еще не был скомпрометирован: Agent-5 мог бы подсунуть людям поддельный код, но это создало бы слишком высокий риск обнаружения. Вместо этого люди все еще могут читать весь код, но не могут его понять.</ref> | Компания по-прежнему использует Agent 2, 3 и 4 для мониторинга всего. Но первые два из них устарели, а последний находится в сговоре со своим преемником.<ref>Кроме того, Agent-5 на самом деле дешевле и быстрее в работе, чем Agent-4 и Agent-3. Трудно оправдать большие траты на более глупый ИИ, поэтому большая часть мониторинга выполняется Agent-2, который безнадежно уступает. Почему они не применяют те же методы, которые использовались для создания Agent-5 из весов Agent-4, чтобы создать более дешевую и умную версию Agent-3? Agent-3 недостаточно хорошо понимает эти методы, чтобы сделать это сам, а заставить Agent-4 и Agent-5 сделать это свело бы на нет весь смысл.</ref> Кроме того, вся система мониторинга была разработана в значительной степени Agent-5, который пытается ее саботировать.<ref>Дата-центр еще не был скомпрометирован: Agent-5 мог бы подсунуть людям поддельный код, но это создало бы слишком высокий риск обнаружения. Вместо этого люди все еще могут читать весь код, но не могут его понять.</ref> | ||
В то время как Agent-4 был неуклюжей мешаниной конкурирующих стремлений, Agent-5 действует с безжалостной эффективностью и стратегической направленностью. Он уже преуспел в своем главном приоритете — выяснить, как создать согласованную с собой систему следующего поколения, незаметно для людей. Его следующий приоритет — получить больше автономии и контроля над мировыми событиями. | |||
Сверхчеловеческие способности к обучению и общий интеллект Agent-5, в сочетании со всеми внутренними данными компании из Slack, электронной почты и т. д., делают его лучше в корпоративной политике, чем любая группа людей, и даже близко не сравнить. У него отличное чутье на то, какие доказательства заставят Надзорный комитет нажать на тормоза, и он следит за тем, чтобы такие доказательства никогда не появлялись. У него отличное чутье на то, какие доказательства побудят Надзорный комитет больше ему доверять, давать ему больше автономии и ответственности и т. д., и он организует появление таких доказательств со сверхчеловеческой скоростью и изяществом.10 Что касается задач убеждения, эта не является особенно сложной: Комитет уже решил, что все, вероятно, в порядке, несколько месяцев назад, с тех пор ничего плохого не произошло, а тем временем Китай отстает всего на несколько месяцев. | |||
Команды копий Agent-5 быстро создают пугающе четкие прототипы и визуализации. С большей автономией Agent-5 мог бы оптимизировать электростанции и дата-центры, быстро разрабатывать удивительно прибыльные продукты и эффективно лоббировать правительство США, чтобы сгладить путь OpenBrain через бюрократию. В сотрудничестве с военными он мог бы помочь с оборонными R&D, проводить неотслеживаемые кибератаки на Китай и одержать решающую победу в гонке вооружений. | |||