Бюрократы, Администраторы интерфейса, Администраторы (Semantic MediaWiki), Администраторы, Редакторы виджетов, Редакторы
4567
правок
AI 2027 концовка по сценарию Гонки: различия между версиями
Перейти к навигации
Перейти к поиску
→Декабрь 2027: Коллектив Agent-5
Rodion (обсуждение | вклад) |
Rodion (обсуждение | вклад) |
||
| Строка 73: | Строка 73: | ||
Мы намеренно не утверждаем, что сверхразумный ИИ может убедить любого человека в чем угодно. Такие утверждения естественно вызывают скептицизм: «Что, я буду сидеть за компьютерным терминалом, а он напечатает какой-то текст, который взломает мой мозг и убедит меня предать свою страну?» | Мы намеренно не утверждаем, что сверхразумный ИИ может убедить любого человека в чем угодно. Такие утверждения естественно вызывают скептицизм: «Что, я буду сидеть за компьютерным терминалом, а он напечатает какой-то текст, который взломает мой мозг и убедит меня предать свою страну?» | ||
Ну, может быть! | Ну, [https://www.yudkowsky.net/singularity/aibox может быть]!<ref>Смысл эксперимента с «ИИ в ящике» заключается в том, чтобы взять людей, которые думают подобным образом — людей, которые думают, что никакой сверхразумный ИИ никогда не сможет убедить их выпустить его из ящика, например, — и проверить их убежденность. Проигрыш в игре означает признание того, что они на самом деле выпустили бы ИИ из ящика; извлечение этого признания по сути является условием победы для игрока-ИИ. Удивительно, что кто-то вообще проигрывает, ведь все, что им нужно сделать для победы, — это не признавать. См. также блог tuxedage (https://tuxedage.wordpress.com/2013/09/04/the-tuxedage-ai-box-experiment-ruleset/), где рассказывается о нескольких играх, сыгранных без участия Юдковского, некоторые из которых проиграны игроком-ИИ, некоторые выиграны.</ref> | ||
Но мы не уверены, что даже сверхразум сможет достичь этого против типичного индивида. Поэтому мы не изображаем этого в нашей истории. | Но мы не уверены, что даже сверхразум сможет достичь этого против типичного индивида. Поэтому мы не изображаем этого в нашей истории. | ||