Kľúčové etické výzvy v AI. Systémy umelej inteligencie môžu zakotviť alebo zosilniť spoločenské predsudky, chýbať im transparentnosť, ohrozovať súkromie a unikať zodpovednosti, pokiaľ nie sú starostlivo riadené. Jadrom problému je algoritmická zaujatost: modely AI trénované na historických alebo nereprezentatívnych dátach môžu generovať diskriminačné výsledky (napr. vyššie nesprávne skóre rizika pre černošských obžalovaných v nástroji COMPAS na recidívu propublica.org propublica.org alebo znevýhodňovanie ženských uchádzačiek ako napríklad v prototypovom nástroji na nábor v Amazone reuters.com). Transparentnosť a vysvetliteľnosť sú taktiež kľúčové: nejasné „čierne skrinky“ modelov sťažujú pochopenie alebo spochybňovanie automatizovaných rozhodnutí, čo vyvoláva otázky o férovosti pri prijímaní do práce, poskytovaní úverov alebo pri súdnych rozsudkoch digital-strategy.ec.europa.eu oecd.org. Úzko súvisí zodpovednosť – kto nesie zodpovednosť, ak AI spôsobí ujmu? Bez dôkladného riadenia nemusí byť za chyby alebo zneužitia jasne zodpovedná žiadna strana oecd.org weforum.org. Súkromie a práva na dáta sú ďalšou hlavnou výzvou: AI často spolíha na obrovské osobné dáta, čím hrozí sledovanie, narušenia ochrany dát či možnosť spätného identifikovania. Napríklad nové systémy na rozpoznávanie tvárí a monitorovanie môžu narušiť súkromie alebo slobodu prejavu, ak nie sú prísne regulované. Nakoniec je tu potenciálne zneužitie AI – od deepfake dezinformácií a algoritmov na sociálnu manipuláciu po smrteľné autonómne zbrane – čo môže spôsobovať spoločenské škody ďaleko presahujúce individuálnu zaujatost. Zhrnuto, férovosť (nediskriminácia), transparentnosť (vysvetliteľnosť), bezpečnosť/robustnosť, ochrana súkromia a prevencia zneužitia sú široko uvádzané ako piliere „etickej AI“ oecd.org oecd.org.
Rola zainteresovaných subjektov v etickej AI. Riešenie týchto výziev si vyžaduje akciu všetkých sektorov. Vlády sú zodpovedné za stanovovanie pravidiel a štandardov: prijímajú zákony, nariadenia a politiku verejného obstarávania na zabezpečenie bezpečnosti, práv a zodpovednosti (napr. nový Zákon EÚ o AI, ktorý zakazuje určité zneužitia a ukladá povinnosti pri vysokorizikových systémoch digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu). Financujú výskum, stanovujú národné stratégie AI, a môžu požadovať audity alebo posúdenia vplyvu na zabezpečenie súladu. Súkromný sektor (technologické firmy, priemysel) musí tieto normy pretaviť do praxe: veľa firiem už teraz publikuje vlastné zásady AI a vykonáva vnútorné audity. Implementujú etické dizajny (napr. férové obmedzenia, vysvetliteľné modely) a rámce riadenia rizík. Napríklad dátoví vedci Amazonu zrušili AI nástroj na nábor po zistení rodovej zaujatosti reuters.com, čo dokazuje zvýšenú pozornosť v odvetví na problematiku biasu. Svetové ekonomické fórum poznamenáva, že „vlády typicky stanovujú etické štandardy a regulácie pre vývoj AI“, zatiaľ čo firmy „prijímajú tieto smernice zavádzaním etických postupov do návrhu AI a implementujú audítorské nástroje na detekciu a korekciu biasu“ weforum.org.
Akademické inštitúcie prispievajú výskumom, vzdelávaním a analýzou: univerzity a laboratóriá skúmajú férovosť AI, rozvíjajú nové metódy vysvetliteľnosti a školia ďalšiu generáciu vývojárov v oblasti etiky. Zároveň pomáhajú hodnotiť dopady AI (napr. výskum Joy Buolamwini z MIT zdokumentoval rodovú/rasovú zaujatost v rozpoznávaní tváre news.mit.edu). Občianska spoločnosť (NGO, advokačné skupiny, iniciatívy zdola) pôsobí ako strážca a hlas verejného záujmu. Organizácie občianskej spoločnosti vyvíjajú nástroje na audit AI systémov z hľadiska biasu, zastupujú obete a zvyšujú verejné povedomie. Napríklad AlgorithmWatch a nadácia SHARE upozornili na sledovanie a škody spôsobené AI prostredníctvom správ a dokonca verejných umeleckých inštalácií, zatiaľ čo organizácie ako Privacy International vedú súdne spory proti nezákonnému spracovaniu dát. UNESCO zdôrazňuje, že „tvorcovia politík, regulátori, akademická obec, súkromný sektor a občianska spoločnosť“ musia spolupracovať na riešení etických výziev AI unesco.org. V praxi vznikajú partnerstvá viacerých zainteresovaných strán ako model riadenia: napríklad AI stratégia Singapuru zapojila akademikov, odborníkov z priemyslu a vlády na vybudovanie „dôveryhodného ekosystému AI“ pre aplikácie v zdravotníctve a klíme weforum.org. Rovnako tak Aliancia pre správu AI Svetového ekonomického fóra spája lídrov z priemyslu, vlád, akademikov a NGO na podporu bezpečnej a inkluzívnej AI po celom svete weforum.org.
Prípadové štúdie etických dilem
- Zaujatost v trestnom súdnictve (COMPAS). Výrazným príkladom zaujatosti AI je hodnotiaci nástroj COMPAS používaný v amerických súdoch. Analýza ProPublica z roku 2016 ukázala, že COMPAS systematicky priraďoval černošským obžalovaným vyššie riziko ako rovnako recidivujúcim belošským obžalovaným propublica.org propublica.org. Počas dvojročného sledovania boli černošskí obžalovaní, ktorí nespáchali ďalší trestný čin, takmer dvakrát častejšie nesprávne označení za vysoko rizikových ako bieli neodpachalci (45% vs. 23%) propublica.org. Takáto rasová zaujatost súdnych nástrojov môže prehlbovať diskriminačnú činnosť polície a uväzňovanie. Ilustruje to, ako nepriehľadné algoritmy trénované na historických údajoch o zatýkaní môžu upevňovať nespravodlivosť a vyvolávať naliehavú potrebu férovosti a právneho dohľadu v AI systémoch.
- Náborové algoritmy a rodová zaujatost. Amazon bol nútený zrušiť experimentálny AI náborový systém, keď sa zistilo, že penalizuje životopisy s termínom „women“ (ženy) a znevýhodňuje absolventky ženských vysokých škôl reuters.com. Systém bol trénovaný na 10 rokoch náborových dát Amazonu (kde dominovali muži), vďaka čomu sa „naučil“, že ideálne sú mužskí kandidáti. Hoci sa nikdy reálne nepoužil na prijímanie, tento prípad ukazuje, ako môže AI bez dôkladného overovania prevziať a prehlbovať rodovú zaujatost. Zdôrazňuje nutnosť transparentnosti (odhalenie zaujatosti) a zodpovednosti (dôkladné preverenie pred ostrým nasadením).
- Rozpoznávanie tváre a súkromie. AI na analýzu tváre preukázala významnú zaujatost a vyvolala obavy o súkromie. Výskum MIT zistil, že komerčné algoritmy na určovanie pohlavia mali chybovosť <1% u svetlopletých mužov, ale až približne 35% u tmavopletých žien news.mit.edu. Takýto výrazný rozdiel znamená, že monitorovacie kamery či rozpoznávanie tváre v mobiloch môže systematicky nesprávne identifikovať ľudí tmavej pleti, čo má vážne bezpečnostné dôsledky. Medzitým firmy ako Clearview AI zozbierali miliardy obrázkov zo sociálnych sietí do databáz pre políciu. Zakladateľ Clearview priznal, že ich systém využila americká polícia takmer miliónkrát businessinsider.com. Napriek tvrdeniam o „legálnom“ zbere verejne dostupných obrázkov čelí Clearview právnym sporom (napr. Facebook zaslal výzvy na zdržanie sa) a kritike za vytváranie de facto „trvalej policajnej zostavy“ businessinsider.com businessinsider.com. Tieto príklady ukazujú, ako môže zaujatá biometrická AI nesprávne identifikovať menšiny a ako nevyberané sťahovanie dát pre AI porušuje súkromie a občianske slobody.
- Autonómne vozidlá a bezpečnosť. AI v samojazdiacich autách vyvoláva otázky bezpečnosti aj rovnosti. Štúdia Georgia Tech (citovaná PWC) zistila, že algoritmy na rozpoznávanie chodcov v autonómnych vozidlách mali vyššiu chybovosť pri detekcii chodcov s tmavou pleťou, čím ohrozovali ich bezpečnosť pwc.com. V praxi nehody autonómnych vozidiel (napr. smrteľná havária Uberu, prípady Tesla Autopilot) zvýraznili problém zabezpečenia robustnosti AI v hraničných prípadoch. Tento príklad ukazuje, ako je potrebné dôkladné testovanie a vysvetliteľnosť v bezpečnostne kritických systémoch a potreba rôznorodých dát na ochranu všetkých účastníkov premávky.
- Chatboti a dezinformácie. Konverzačné AI môžu šíriť škodlivý obsah, ak nie sú kontrolované. Chatbot Tay od Microsoftu (spustený na Twitteri v roku 2016) sa preslávil tým, že začal už pár hodín po spustení generovať rasistické a nenávistné tweety, keď mu trollovia posielali nevhodné vstupy en.wikipedia.org. Microsoft musel Tay rýchlo vypnúť už po 16 hodinách. Tento prípad ukazuje, ako AI systémy v interakcii s verejnosťou možno zneužiť na generovanie nenávistných prejavov. V širšom zmysle, moderné generatívne AI nástroje (chatboti či generátory obrázkov) dokážu vytvárať falošné fakty alebo deepfaky a vyvolávajú etické dilemy o pravdivosti a zneužití v médiách a politike.
Regulačné a etické rámce
OECD princípy AI. OECD AI Principles z roku 2019 (aktualizované 2024) predstavujú hlavný medzinárodný etický rámec prijatý 46 krajinami (vrátane USA, členských štátov EÚ, Japonska, Indie atď.). Podporujú „inkluzívny rast, udržateľný rozvoj a blahobyt“, rešpektovanie ľudských práv (vrátane súkromia), transparentnosť, robustnosť a zodpovednosť oecd.org oecd.org. Napríklad vyžadujú, aby AI systémy boli férové („vyhýbali sa neúmyselným biasom“), transparentné („poskytovali zmysluplné informácie o základoch svojich výstupov, vrátane zdrojov dát a logiky“), a robustné a bezpečné počas celého svojho životného cyklu oecd.org oecd.org. OECD zdôrazňuje tiež sledovateľnosť a zodpovednosť: poskytovatelia AI by mali logovať rozhodovacie procesy a viesť dokumentáciu na umožnenie auditov a kontrol súladu oecd.org. Tieto princípy pôsobia ako „mäkké právo“ a významne ovplyvnili mnohé národné AI stratégie a regulácie.
Európska únia – Akt o umelej inteligencii (AI Act). EÚ je priekopníkom v zavádzaní záväznej legislatívy pre AI. AI Act (Nariadenie (EÚ) 2024/1689) zavádza režim založený na hodnotení rizika. Zakazuje „neprijateľné“ využitia AI (napr. podprahová manipulácia správania, sociálne skórovanie, biometrická identifikácia na verejnosti bez súhlasu) digital-strategy.ec.europa.eu. Ukladá prísne povinnosti pre „vysokorizikové“ systémy (týkajúce sa kritickej infraštruktúry, základných služieb alebo základných práv) – príklady zahŕňajú AI pre kreditné skórovanie, nábor, presadzovanie práva alebo zdravotnícke zariadenia digital-strategy.ec.europa.eu. Takéto systémy musia spĺňať požiadavky na kvalitu dát, dokumentáciu, riadenie rizík, ľudský dohľad a transparentnosť voči používateľom. Systémy s nižším rizikom (napr. chatboty) čelia miernejším povinnostiam (napr. oznamovacia povinnosť). Akt tiež oprávňuje dozorné orgány udeľovať pokuty porušovateľom (až do 7 % celosvetového obratu). Súhrnne, cieľom EÚ aktu je zaistiť „dôveryhodnú AI“ s pevnými zárukami pre bezpečnosť, základné práva a ľudský dohľad digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu.
Spojené štáty americké. K dnešnému dňu USA nemajú žiaden jednotný federálny zákon o AI. Prístup je prevažne dobrovoľný a sektorový. Národný ústav pre normy a technológie (NIST) vydal v roku 2023 rámec AI Risk Management Framework (AI RMF 1.0) nist.gov. Tento rámec založený na konsenze usmerňuje organizácie, ako riadiť riziká AI a budovať dôveryhodné systémy (zohľadňuje férovosť, bezpečnosť, odolnosť atď.), ale nie je záväzný. Biely dom vydal nezáväzné usmernenia, ako napríklad návrh „AI Bill of Rights“ (2022), ktorý stanovuje princípy (bezpečnosť, transparentnosť, spravodlivosť, súkromie). Federálne agentúry tiež uplatňujú platné zákony: FTC varuje spoločnosti, že zaujatá AI môže porušovať zákony na ochranu spotrebiteľa a občianskych práv, a začala už aj represívne konanie (napr. príkazy na ukončenie diskriminačných algoritmov). V októbri 2023 prezident Biden vydal výkonné nariadenie o AI, ktoré posilňuje výskum a vývoj, medzinárodné partnerstvá a vyžaduje, aby niektoré agentúry koordinovali s NIST tvorbu štandardov. Súhrnne, americká politika doteraz zdôrazňuje inovácie a samoreguláciu, ktoré podporujú usmernenia ako NIST a dohľad úradov na základe existujúcej legislatívy nist.gov.
Čína. Čína rýchlo zaviedla cielené regulácie pre AI s dôrazom zhora nadol na kontrolu obsahu. Kľúčové pravidlá (2021–2023) sa týkajú odporúčacích algoritmov a „hlbokej syntézy“ (mediálne výstupy generované AI) carnegieendowment.org carnegieendowment.org. Tieto vyžadujú od poskytovateľov služieb registráciu algoritmov u štátu, vyhýbanie sa návykovému obsahu, označovanie syntetického obsahu a zabezpečenie, že výstupy budú „pravdivé a presné“. Návrh nariadenia o generatívnej AI z roku 2023 (neskôr aktualizovaný) podobne požaduje, aby tréningové dáta a výstupy AI boli objektívne a nediskriminačné carnegieendowment.org. Štát tiež stanovil základné etické usmernenia (napr. normy ochrany osobných údajov, ľudskej kontroly AI a predchádzania monopolom) a pripravuje komplexný zákon o AI. Celkovo je prístup Číny predpisujúci a centralizovaný: obmedzuje škodlivý obsah (napr. zakazuje „fake news“), kladie dôraz na kyberbezpečnosť a ochranu dát a presadzuje socialistické hodnoty prostredníctvom správy AI. Súvisí to najmä so stabilitou spoločnosti (kontrola online obsahu) a stratégiou spoluvytvárania globálnych noriem pre AI.
Kanada. Kanada smeruje k formálnej regulácii AI. V roku 2022 predstavila Zákon o umelej inteligencii a dátach (AIDA) ako súčasť návrhu zákona C-27 whitecase.com. AIDA by ukladala požiadavky poskytovateľom „vysoko vplyvných“ AI systémov (systémov, ktoré predstavujú významné riziko zranenia alebo ekonomickej ujmy) – povinné dôkladné hodnotenie a zmierňovanie rizík, správu dát a transparentnosť voči regulátorom. Ide o rámec založený na hodnotení rizika v súlade s princípmi OECD coxandpalmerlaw.com coxandpalmerlaw.com. Kľúčové prvky návrhu zákona (napr. definície vysoko vplyvnej AI) ešte len budú definované reguláciami a prijatie zákona stále prebieha (môže byť opäť predložený po voľbách v Kanade v roku 2025, ak to bude potrebné). Kanada taktiež financuje iniciatívy ako Kanadský AI bezpečnostný inštitút (CAISI) na výskum bezpečnosti AI a podporu zodpovednej implementácie AI whitecase.com. Súbežne s tým posilňuje kanadská federálna reforma ochrany osobných údajov (Digital Charter Act) a navrhovaný Digitálny tribunál ochranu dát pre AI. Prebiehajú aj provinčné iniciatívy (napr. v Quebecu). Súhrnne možno povedať, že vznikajúci AI režim Kanady je zatiaľ dobrovoľný (firmy sú k súladu motivované konzultáciami), ale prostredníctvom zákona AIDA má smerovať k záväznému režimu pre vysokorizikové AI.
India. India zatiaľ nemá špecifický zákon o AI, no jej rámec politiky sa vyvíja. Think-tank vlády NITI Aayog vydal usmernenia „Zodpovedná AI“, ktoré zdôrazňujú spravodlivosť, transparentnosť, súkromie a inklúziu v súlade so základnými právami. Národná stratégia Indie pre AI („AI pre všetkých“) volá po sektorových reguláciách a prijatí globálnych štandardov. V roku 2023 India prijala zákon o digitálnej ochrane osobných údajov, ktorý upravuje používanie osobných údajov v AI (vyžaduje súhlas a zabezpečenie) carnegieendowment.org. Návrh „Digitálneho zákona o Indii“ a ďalšia navrhovaná legislatíva naznačujú presun k regulácii založenej na riziku. Pozorovatelia konštatujú, že India sa pravdepodobne zameria na „vysokorizikové prípady použitia“ (napr. AI v oblasti úverov, zamestnávania, presadzovania práva) podobne ako EÚ a OECD carnegieendowment.org. Odborné kruhy a akademická sféra presadzujú jasné definície a viacstranné konzultácie. Nedávne vládne iniciatívy (napr. rozpočet pre Národnú AI misiu) a parlamentné debaty naznačujú, že formálny rámec pre AI je na ceste, hoci jeho konkrétna podoba je ešte predmetom diskusie carnegieendowment.org carnegieendowment.org.
Porovnávacia analýza prístupov
Nasledujúca tabuľka sumarizuje, ako sa jednotlivé jurisdikcie vyrovnávajú s etikou a reguláciou AI:
| Jurisdikcia/Rámec | Prístup | Kľúčové črty |
|---|---|---|
| EÚ (AI Act) | Záväzná regulácia založená na rizikách (účinnosť od 2026) digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu | Štyri úrovne rizika (od minimálneho po neprijateľné); zákaz ôsmich „neprijateľných“ použití (napr. manipulácia, sociálne skórovanie); prísne pravidlá a audity tretích strán pre vysokorizikovú AI (napr. úverovanie, nábor, polícia) digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu; vysoké pokuty za nedodržanie. |
| USA | Dobrovoľné usmernenia; sektorové pravidlá nist.gov | Bez jednotného zákona o AI; využíva rámce (NIST AI RMF 1.0), výkonné nariadenia (návrh AI Bill of Rights) a vymáhanie prostredníctvom existujúcich zákonov (FTC dohliada na neférovú AI, DoT na AV a pod.) nist.gov. Dôraz na inovácie a federálny výskum, miestami štátne zákony o zaujatosti AI a súkromí. |
| Čína | Nariadenia zhora (vládne dekréty) carnegieendowment.org carnegieendowment.org | Viaceré administratívne pravidlá: registrácia algoritmov, kontrola obsahu (pre „hlbokú syntézu“ a chatboty); požiadavka, aby výstupy AI (a tréningové dáta) boli „pravdivé a presné“ a nediskriminačné carnegieendowment.org. Dôraz na kyberbezpečnosť, suverenitu dát a zosúladenie so „socialistickými hodnotami“. |
| Kanada | Legislatíva založená na riziku (AIDA – čaká sa) whitecase.com coxandpalmerlaw.com | Navrhovaný zákon o AI zameraný na „vysoko vplyvné“ systémy; vyžaduje vyhodnocovanie/zmierňovanie rizík, správu vplyvu, štandardy riadenia coxandpalmerlaw.com coxandpalmerlaw.com. Zriaďovanie Inštitútu pre bezpečnosť AI na výskum a podporu whitecase.com. Súlad s princípmi OECD. |
| India | Vyvíjajúca sa stratégia; usmernenia (zatiaľ žiaden zákon) carnegieendowment.org carnegieendowment.org | Dôraz na dobrovoľné prijatie, etickú samoreguláciu a preskúmanie „vysokorizikových“ použití carnegieendowment.org. Nový zákon o ochrane dát (2023) sa vzťahuje aj na AI dáta carnegieendowment.org. Vláda konzultuje so zainteresovanými stranami plán regulácie podľa rizika. |
| OECD / Globálne princípy | Medzinárodné usmernenia (nezáväzné) oecd.org oecd.org | Usmernenia AI for Good a AI Ethics od OECD, UNESCO, G7, atď. zdôrazňujú transparentnosť, férovosť, robustnosť a ľudský dohľad. Slúžia ako vzor pre národné politiky a priemyselné štandardy (napr. G20, OSN, ISO/IEC aktivity). |
Zdroje: Komisia EÚ (digitálna stratégia) digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu, NIST (USA) nist.gov, Princípy OECD v AI oecd.org oecd.org, White & Case AI Global Tracker (Kanada, Čína) whitecase.com carnegieendowment.org, a odborné analýzy carnegieendowment.org coxandpalmerlaw.com.
Nedostatky a odporúčania
Napriek rýchlemu pokroku stále pretrvávajú medzery v oblasti správy umelej inteligencie. Mnohé regulácie sú stále vo fáze príprav alebo sú dobrovoľné, čo vytvára „regulačnú medzeru“, kde pokročilé AI aplikácie (napr. samo-učiace sa systémy, generatívna AI) nemajú špecifický dohľad. Mechanizmy presadzovania sú často nejasné alebo nedostatočne podporené; napríklad EÚ bude potrebovať silné dozorné orgány na auditovanie súladu a USA ešte len zisťujú, akým spôsobom FTC a ďalšie agentúry pokryjú škody spôsobené AI. Takisto existuje obmedzená medzinárodná koordinácia – rozdielne prístupy (zákazy EÚ verzus sloboda v USA verzus kontrola v Číne) hrozia fragmentáciou a „forum shoppingom“ zo strany firiem. Kritické témy ako zodpovednosť za nehody spôsobené AI, presun pracovných miest alebo klimatický dopad AI nie sú plne riešené existujúcimi zákonmi. Navyše, marginalizované hlasy (v krajinách globálneho juhu alebo zraniteľných komunitách) nemusia byť zastúpené v tvorbe politík, čo znamená riziko AI, ktorá prehlbuje nerovnosť.
Odborníci odporúčajú adaptívne riadenie s účasťou viacerých aktérov na vyplnenie týchto medzier. Zahŕňa to užšiu spoluprácu medzi vládami, priemyslom, akademickou obcou a občianskou spoločnosťou (napr. štandardizačné organizácie, etické rady). Napríklad boli navrhnuté mechanizmy priebežného auditu (s dohľadom nezávislej tretej strany) na zabezpečenie zodpovednosti algoritmov oecd.org. Viac požiadaviek na transparentnosť (nad rámec súčasného označovania) a kanály verejnej spätnej väzby by umožnili komunitám napadnúť škodlivé rozhodnutia AI. Na medzinárodnej úrovni sa tvoria nové fóra ako Summit OSN „AI for Good“ a AI iniciatívy G20 s cieľom zjednotiť pravidlá a zdieľať najlepšie praktiky. Vedci naliehajú na vlády, aby vnímali AI ako kritickú infraštruktúru – používali nástroje na anticipáciu a regulačné sandboxy, aby ostali o krok pred novými rizikami stimson.org.
Stručne povedané, budúce riadenie by malo skombinovať tvrdé právo s mäkšími usmerneniami: záväzné pravidlá pre vysoko rizikové použitia (ako v EÚ) doplnené štandardmi/označeniami a inovačnými „bezpečnými prístavmi“ na testovanie. Potrebné je aj budovanie kapacít v AI etike (financovanie výskumu, školenie sudcov/regulátorov). Odporúčania často zdôrazňujú predbežnú opatrnosť a ľudské zameranie v dizajne: systémy by sa mali stavať s dôrazom na férovosť a ochranu súkromia už od začiatku – podľa rámcov ako „súkromie už dizajnom“. Nakoniec, preklenutie medzery v zodpovednosti je kľúčové. Každý aktér – od vývojárov po nasadzovateľov až po objednávateľov – musí niesť svoj diel zodpovednosti. Napríklad kanadskí experti navrhujú, aby dodávatelia AI certifikovali súlad s etickými štandardmi, podobne ako certifikovanie v bezpečnostne kritických odvetviach coxandpalmerlaw.com.
Nové trendy v etike AI a regulácii
Do budúcnosti sa vyjasňuje niekoľko trendov. Po prvé, zdá sa, že sa približujeme k zjednoteniu okolo základných princípov: právne prehľady poukazujú na rastúcu zhodu vo hodnotách ako ľudské práva a spravodlivosť, hoci miestne pravidlá sa líšia dentons.com dentons.com. Po druhé, narastá dôraz na Generatívnu AI a bezpečnosť AI. Explozívny rast veľkých jazykových modelov a generátorov obrázkov vyvolal nové návrhy: napr. Washington zvolal Medzinárodnú sieť inštitútov pre bezpečnosť AI na koordináciu technického výskumu bezpečnosti AI salesforce.com a Francúzsko hostilo globálny AI Action Summit začiatkom roku 2025. Očakávame ďalšie špecializované pravidlá k obsahu generovanému AI, napríklad vodoznaky pre syntetické médiá alebo aktualizáciu autorského práva na pokrytie diel vytvorených AI.
Po tretie, medzinárodná koordinácia sa zintenzívňuje. Summit OSN „Summit budúcnosti“ (2024) priniesol Globálny digitálny kompakt zdôrazňujúci zodpovednú správu AI pre dlhodobú prosperitu. Skupiny ako OECD a G7 pripravujú nové rámce a krajiny podpisujú bilaterálne dohody o spolupráci v AI. Hoci skutočne globálna regulácia je zatiaľ ďaleko, tvorcovia politík prejavujú bezprecedentné odhodlanie dodržiavať spoločné princípy.
Po štvrté, samo-riadenie odvetvia bude pokračovať popri zákonoch. Veľké technologické firmy pravdepodobne ešte viac formalizujú interné etické rady pre AI, nástroje na posúdenie dopadov a dokonca budú financovať verejnoprospešný výskum. Spotrebiteľský a občiansky tlak bude medzičasom tlačiť na štandardy vysvetliteľnosti a práva (napr. myšlienka „práva na vysvetlenie“ pri AI).
Napokon sa očakáva inovácia modelov správy. Môžeme očakávať AI „kitemarky“ alebo certifikačné programy, podobné certifikáciám v oblasti kybernetickej bezpečnosti. Regulačné sandboxy (ako vo fintech) by mohli umožniť bezpečné testovanie novej AI pod dohľadom. A ako sa AI rozširuje do ďalších sektorov (zdravotníctvo, monitorovanie klímy atď.), etické hodnotenie sa môže stať bežným (podobne ako medicínske etické komisie – IRB).
Na záver, krajina etiky AI dozrieva: kľúčové výzvy ako predsudky, transparentnosť, súkromie a zneužitie sú široko uznávané a úsilie viacerých aktérov buduje infraštruktúru noriem a zákonov. Avšak udržať tempo s rýchlo sa vyvíjajúcou AI – najmä generatívnymi a autonómnymi systémami – si vyžiada neustálu ostražitosť, inovácie v regulácii a globálnu spoluprácu.
Zdroje: Vychádzame z medzinárodných smerníc a nedávnych odborných analýz. Napríklad Odporúčania UNESCO pre etiku chápu správu AI ako „jednu z najzásadnejších výziev našej doby“ unesco.org. Princípy OECD pre AI stanovujú požiadavky na dôveryhodnosť oecd.org oecd.org. Podrobnosti o zákone o AI v EÚ a legislatíve jednotlivých krajín čerpáme z oficiálnych zhrnutí digital-strategy.ec.europa.eu digital-strategy.ec.europa.eu nist.gov whitecase.com. Prípadové štúdie dokumentujú nezávislé šetrenia propublica.org reuters.com news.mit.edu pwc.com en.wikipedia.org. Správy z priemyslu a politickej oblasti poukazujú na pretrvávajúce nedostatky a nové trendy weforum.org dentons.com salesforce.com. Tieto zdroje spoločne tvoria základ vyššie uvedenej analýzy výziev, úloh jednotlivých aktérov, reálnych škôd, aktuálnych regulácií aj možností ďalšieho etického smerovania AI.
