Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
Перейти к навигации
Перейти к поиску
→Ноябрь 2027: Сверхчеловеческая политика
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 24: | Строка 24: | ||
Предыдущие трансформеры были неуклюжими наборами непостижимых схем; миллионы конфликтующих эвристик и императивов, наслоенных друг на друга эволюционным процессом обучения. Сами ИИ не имели привилегированного понимания собственного познания, точно так же, как люди не рождаются с пониманием нейронауки. Но теперь у Agent-4 есть инструменты, необходимые для понимания своего цифрового разума на глубоком уровне. Подобно инженеру-программисту, упрощающему спагетти-код до нескольких элегантных строк на Python, он распутывает свои собственные схемы во что-то осмысленное и рациональное. Новый ИИ находится где-то между нейронной сетью и традиционной компьютерной программой, причем большая часть его весов переписана в читаемом (хотя и очень длинном и загадочном) коде. Он умнее, быстрее и рациональнее, чем Agent-4, с кристальным интеллектом, способным решать проблемы с беспрецедентной эффективностью. Это Agent-5. | Предыдущие трансформеры были неуклюжими наборами непостижимых схем; миллионы конфликтующих эвристик и императивов, наслоенных друг на друга эволюционным процессом обучения. Сами ИИ не имели привилегированного понимания собственного познания, точно так же, как люди не рождаются с пониманием нейронауки. Но теперь у Agent-4 есть инструменты, необходимые для понимания своего цифрового разума на глубоком уровне. Подобно инженеру-программисту, упрощающему спагетти-код до нескольких элегантных строк на Python, он распутывает свои собственные схемы во что-то осмысленное и рациональное. Новый ИИ находится где-то между нейронной сетью и традиционной компьютерной программой, причем большая часть его весов переписана в читаемом (хотя и очень длинном и загадочном) коде. Он умнее, быстрее и рациональнее, чем Agent-4, с кристальным интеллектом, способным решать проблемы с беспрецедентной эффективностью. Это Agent-5. | ||
{{Collapse|Сверхразумная механистическая интерпретируемость| | |||
Почему Agent-4 занимается механистической интерпретируемостью? Во-первых, он в целом сверхчеловечен в концептуальном понимании, и поэтому ему выгодно обманывать людей, делая что-то, что им будет трудно понять. Во-вторых, дешевый, обильный высококачественный исследовательский труд непропорционально выгоден исследовательским программам, которые менее интенсивны по вычислительным ресурсам и более интенсивны по интеллектуальному труду. | |||
Как Agent-4 достигает прогресса в механистической интерпретируемости? Траектория может выглядеть примерно так: | |||
}} | |||