
קווי מתאר לבקרת בינה מלאכותית עוצמתית: אסטרטגיות יישור-על לאבטחת עתיד ה-AGI
רקע: AGI ובעיית היישור בינה מלאכותית כללית (AGI) מוגדרת כ-AI בעל כישורים קוגניטיביים רחבים ברמה אנושית במגוון תחומים – מערכת שיכולה ללמוד או להבין כל משימה אינטלקטואלית שאדם מסוגל לה arxiv.org. אם תושג, AGI (ולאחריה הגרסה החזקה אף יותר, סופר-אינטליגנציה) תהיה הטכנולוגיה