אבטחת מידע

Guardrails for Godlike AI: Superalignment Strategies to Secure AGI’s Future

קווי מתאר לבקרת בינה מלאכותית עוצמתית: אסטרטגיות יישור-על לאבטחת עתיד ה-AGI

רקע: AGI ובעיית היישור בינה מלאכותית כללית (AGI) מוגדרת כ-AI בעל כישורים קוגניטיביים רחבים ברמה אנושית במגוון תחומים – מערכת שיכולה ללמוד או להבין כל משימה אינטלקטואלית שאדם מסוגל לה arxiv.org. אם תושג, AGI (ולאחריה הגרסה החזקה אף יותר, סופר-אינטליגנציה) תהיה הטכנולוגיה
יוני 28, 2025