Szyny bezpieczeństwa dla boskiej AI: Strategie superalignacji dla zabezpieczenia przyszłości AGI
Tło: AGI i problem zestrojenia Sztuczna Ogólna Inteligencja (AGI) to SI o szerokich, „ludzkich” zdolnościach poznawczych w wielu dziedzinach – system, który może nauczyć się lub zrozumieć każde intelektualne zadanie, jakie potrafi człowiek arxiv.org. Jeśli zostanie osiągnięta, AGI (a jeszcze potężniejsza jej
