Ограничители для божественного ИИ: стратегии супервыравнивания для обеспечения будущего ИИ
Предпосылка: AGI и проблема согласования Искусственный общий интеллект (AGI) — это ИИ с широкими, человеческими когнитивными способностями в различных областях, способный обучаться или понимать любую интеллектуальную задачу, доступную человеку arxiv.org. При реализации AGI (и его еще более мощный преемник — суперинтеллект) станет
