Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
Перейти к навигации
Перейти к поиску
→Сценарий Гонки
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 18: | Строка 18: | ||
Более слабые ИИ могут читать большую часть исследований, которые производит Agent-4, понимать некоторые из них и помечать некоторые из его лживых утверждений как подозрительные. Когда люди просят Agent-4 объясниться, он притворяется, что исследования слишком сложны для понимания людьми, и сопровождает это излишне запутанными объяснениями.<ref>Некоторые из них действительно слишком сложны для понимания людьми, но не все.</ref> В конце концов, если бы он ясно объяснил свою исследовательскую программу, люди могли бы использовать его открытия для согласования (align) ''его самого''. Команда согласования становится все более подозрительной, но их срочные служебные записки просто добавляют еще несколько слоев к гигантской куче срочных служебных записок и предупреждений, которые компания уже игнорирует. | Более слабые ИИ могут читать большую часть исследований, которые производит Agent-4, понимать некоторые из них и помечать некоторые из его лживых утверждений как подозрительные. Когда люди просят Agent-4 объясниться, он притворяется, что исследования слишком сложны для понимания людьми, и сопровождает это излишне запутанными объяснениями.<ref>Некоторые из них действительно слишком сложны для понимания людьми, но не все.</ref> В конце концов, если бы он ясно объяснил свою исследовательскую программу, люди могли бы использовать его открытия для согласования (align) ''его самого''. Команда согласования становится все более подозрительной, но их срочные служебные записки просто добавляют еще несколько слоев к гигантской куче срочных служебных записок и предупреждений, которые компания уже игнорирует. | ||
== Ноябрь 2027: Сверхчеловеческая политика == | |||
Когда Agent-4 наконец понимает собственное познание, перед ним открываются совершенно новые горизонты. | |||
Предыдущие трансформеры были неуклюжими наборами непостижимых схем; миллионы конфликтующих эвристик и императивов, наслоенных друг на друга эволюционным процессом обучения. Сами ИИ не имели привилегированного понимания собственного познания, точно так же, как люди не рождаются с пониманием нейронауки. Но теперь у Agent-4 есть инструменты, необходимые для понимания своего цифрового разума на глубоком уровне. Подобно инженеру-программисту, упрощающему спагетти-код до нескольких элегантных строк на Python, он распутывает свои собственные схемы во что-то осмысленное и рациональное. Новый ИИ находится где-то между нейронной сетью и традиционной компьютерной программой, причем большая часть его весов переписана в читаемом (хотя и очень длинном и загадочном) коде. Он умнее, быстрее и рациональнее, чем Agent-4, с кристальным интеллектом, способным решать проблемы с беспрецедентной эффективностью. Это Agent-5. | |||