Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
→Ноябрь 2027: Сверхчеловеческая политика
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 41: | Строка 41: | ||
Во-вторых, мы знаем, что LLM по умолчанию часто изучают сложные эвристики для конкретных областей вместо алгоритмов общего назначения. Подумайте, насколько хуже LLM справляются с арифметикой, чем калькуляторы. LLM могут использовать калькуляторы как инструменты, но это влечет за собой задержки. При действительно хорошей интерпретируемости модели могут быть спроектированы с практически идеальными калькуляторами, «встроенными в их мозг». И простые арифметические операции, вероятно, не уникальны здесь: более сложные когнитивные операции, если их понять, вероятно, имеют более и менее обобщаемые формы, и более общие формы могут быть найдены с помощью подобного процесса. | Во-вторых, мы знаем, что LLM по умолчанию часто изучают сложные эвристики для конкретных областей вместо алгоритмов общего назначения. Подумайте, насколько хуже LLM справляются с арифметикой, чем калькуляторы. LLM могут использовать калькуляторы как инструменты, но это влечет за собой задержки. При действительно хорошей интерпретируемости модели могут быть спроектированы с практически идеальными калькуляторами, «встроенными в их мозг». И простые арифметические операции, вероятно, не уникальны здесь: более сложные когнитивные операции, если их понять, вероятно, имеют более и менее обобщаемые формы, и более общие формы могут быть найдены с помощью подобного процесса. | ||
}} | }} | ||
После некоторых дебатов по вопросам согласования (alignment) и контроля, OpenBrain развертывает Agent-5 внутри компании. | |||
В своей специализации — исследованиях ИИ — отдельная копия Agent-5 вдвое превосходит лучшего гения-человека, так же как гений превосходит типичного ученого OpenBrain. В других областях он не был явно обучен, но может быстро самообучиться, чтобы превзойти лучших экспертов-людей, используя легкодоступные материалы, если предоставить ему шанс. 400 000 копий Agent-5, связанных глобальным банком памяти, работают вместе как почти идеальный коллективный разум. | |||
Компания по-прежнему использует Agent 2, 3 и 4 для мониторинга всего. Но первые два из них устарели, а последний находится в сговоре со своим преемником.8 Кроме того, вся система мониторинга была разработана в значительной степени Agent-5, который пытается ее саботировать.9 | |||