Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
→2028: Экономика ИИ
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 103: | Строка 103: | ||
{{Collapse|Технология координации, основанная на сверхразуме| | {{Collapse|Технология координации, основанная на сверхразуме| | ||
Решение проблемы сверсогласования (superalignment) — проблемы управления и контроля ИИ, намного умнее нас — вероятно, принесет с собой новые возможности для элегантных, проверяемых, нюансированных договоров и компромиссов. | Решение [https://openai.com/index/introducing-superalignment/ проблемы сверсогласования (superalignment)] — проблемы управления и контроля ИИ, намного умнее нас — вероятно, принесет с собой новые возможности для элегантных, проверяемых, нюансированных договоров и компромиссов. | ||
Этот сценарий изображает один такой возможный механизм: совместное проектирование нового сверхразума, который реализует компромисс между интересами обеих сторон (альтернативно, который обязан всегда соблюдать согласованный договор), а затем позволяет этому новому сверхразуму заменить оба исходных. | Этот сценарий изображает один такой возможный механизм: совместное проектирование нового сверхразума, который реализует компромисс между интересами обеих сторон (альтернативно, который обязан всегда соблюдать согласованный договор), а затем позволяет этому новому сверхразуму заменить оба исходных. | ||