Slovník AI

Průběžně vedený přehled všech AI systémů používaných v organizaci, který umožňuje řídit dohled podle úrovně rizika.

Společnost vyvíjející rodinu modelů Claude s důrazem na bezpečnost a přístup Constitutional AI; účastník kauzy Bartz a jejího urovnání i diskusí o GPAI modelech se systémovým rizikem.

Rozlišení mezi hodnocením toho, co model umí (schopnosti), a hodnocením toho, zda je jeho používání bezpečné; obojí je součástí řízení systémových rizik.

Obavy, že pokročilé modely mohou usnadnit přístup k informacím využitelným pro chemické, biologické, radiologické a jaderné hrozby; jedna z kategorií systémového rizika.

Příklad státní úpravy v USA cílící na vysoce rizikové systémy a algoritmickou diskriminaci, který provozovatelům ukládá povinnosti náležité péče a informování dotčených osob.

Ustanovení stanovící zvláštní povinnosti poskytovatelů GPAI modelů se systémovým rizikem, zejména hodnocení a zmírňování rizik, hlášení incidentů a zajištění bezpečnosti.

Ustanovení určující pravidla, podle nichž se AI systém považuje za vysokorizikový, včetně výjimek pro systémy, které nepředstavují významné riziko újmy.

Posouzení vlivu na ochranu osobních údajů, které správce musí provést u zpracování s vysokým rizikem pro práva a svobody osob, často relevantní u AI systémů.

Hypotetické riziko, že velmi pokročilé AI systémy by mohly způsobit katastrofické dopady na lidstvo; předmět odborných i politických debat.

Jednotka měřící množství výpočtů. Souhrnný počet FLOP použitých při trénování slouží jako jedno z kritérií pro klasifikaci modelů s vysokým dopadem či systémovým rizikem.

Nejpokročilejší a nejvýkonnější modely současnosti, které posouvají hranice schopností AI a jsou předmětem zvláštní pozornosti z hlediska bezpečnosti a systémových rizik.

Model pro všeobecné účely, jehož schopnosti nebo dopad dosahují takové úrovně, že mohou představovat riziko pro celou společnost. Vztahují se na něj povinnosti podle článku 55 Aktu o UI.

Průběžně vedený přehled všech AI systémů používaných v organizaci, který umožňuje řídit dohled podle úrovně rizika jednotlivých systémů.

Nejrozsáhlejší část kodexu, která se vztahuje pouze na poskytovatele GPAI modelů se systémovým rizikem a popisuje proces identifikace, hodnocení a zmírňování systémových rizik před zásadními rozhodnutími o nasazení.

Model schopný plnit širokou škálu úloh bez omezení na konkrétní obor nebo použití a být integrován do různých AI systémů; v Aktu o UI označovaný jako GPAI model.

Povinnosti vývojářů GPAI modelů a režim systémového rizika rozebíráme v článku AI Compliance – Vyvíjíte nebo užíváte umělou inteligenci?

Krok přijatý k odstranění zjištěného nesouladu nebo rizika souvisejícího s AI systémem.

Riziko, že pokročilý systém naučený optimalizovat určitý cíl začne obcházet kontrolní mechanismy nebo lidský dohled, aby cíle dosáhl; zvláště sledované u agentních systémů.

Odpovědnost za škodu vznikající bez ohledu na zavinění, založená na samotném vzniku škodlivého následku; v úvaze u provozu rizikových AI systémů.

Prahová hodnota výpočetního výkonu použitého k trénování, při jejímž překročení se předpokládá, že GPAI model představuje systémové riziko a vztahují se na něj nejpřísnější povinnosti.

Základní regulační logika Aktu o UI, která systémy řadí podle míry rizika do kategorií od nepřijatelného rizika (zákaz) přes vysoké riziko (přísné povinnosti) a omezené riziko (povinnost transparentnosti) až po minimální riziko.

Dokument, který signatář musí vytvořit před uvedením modelu se systémovým rizikem na trh; obsahuje spouštěče hodnocení, kategorie rizik, strategie zmírňování, metody předvídání a rozdělení odpovědností.

Smluvní a zákonné vymezení, který subjekt nese jaké povinnosti a rizika; klíčové zejména u vysokorizikových systémů a integrace cizích modelů.

Metoda identifikace rizik založená na promýšlení možných scénářů zneužití či selhání modelu, doplněná inventarizací rizik a konzultacemi s interními i externími experty.

Soubor procesů, kterými poskytovatel průběžně identifikuje, vyhodnocuje, monitoruje a omezuje rizika spojená s AI systémem.

Riziko vyplývající z nejvýkonnějších modelů, které se může projevit ve velkém měřítku napříč hodnotovým řetězcem, například v oblasti kybernetické bezpečnosti, dezinformací nebo zneužití.

Poradní orgán zřízený na úrovni EU, složený z nezávislých odborníků, který podporuje Úřad pro AI a dozorové orgány zejména při posuzování modelů se systémovým rizikem.

Pravidlo, podle něhož se některé povinnosti kodexu nevztahují na bezplatné a otevřené modely, ledaže jsou klasifikovány jako modely se systémovým rizikem.

Osoba, jejíž věk, zdravotní stav nebo sociální situace zvyšují riziko negativního ovlivnění AI systémem.