Slovník AI

Nepřímá diskriminace, kdy model využívá zdánlivě neutrální údaj, který však úzce souvisí s chráněným znakem (např. PSČ jako náhrada za etnicitu).

Neodůvodněné znevýhodnění osob nebo skupin v důsledku rozhodování AI, například kvůli zkresleným datům nebo nevhodně nastaveným kritériím.

Žaloba velkých filmových studií proti generátoru obrázků Midjourney, týkající se reprodukce chráněných postav a vizuálních děl ve výstupech. Patří mezi přední spory zaměřené nikoli na vstupy, ale na výstupy generativní AI.

Postup, při němž se menší model učí napodobovat chování většího modelu, aby dosáhl podobných výsledků při nižších nákladech.

Subjekt v dodavatelském řetězci, který zpřístupňuje AI systém na trhu, aniž by byl jeho poskytovatelem nebo dovozcem; Akt o UI mu ukládá určité povinnosti.

Subjekt poskytující AI řešení nebo službu odběrateli; jeho povinnosti a odpovědnost bývají vymezeny smlouvou i právními předpisy.

Posloupnost dodavatelů hardwaru, softwaru a služeb potřebných pro provoz AI; jeho zranitelnosti mohou být zdrojem bezpečnostních a právních rizik.

Americký institut, který za určitých podmínek dovoluje užití chráněného díla bez svolení. V AI sporech soudy posuzují zejména transformativnost užití a dopad na trh; výsledek silně závisí na tom, jak byla data získána a k čemu slouží.

Nástroj usnadňující poškozenému prokázat vztah mezi selháním AI systému a vzniklou škodou, pokud je obtížné vysvětlit vnitřní fungování systému.

Právní účinek, podle něhož se systém splňující harmonizovanou normu považuje za vyhovující odpovídajícím požadavkům nařízení, dokud není prokázán opak.

Mezinárodní dokument stanovující etické zásady pro vývoj a využití AI, který klade důraz na lidská práva, lidskou důstojnost a ochranu životního prostředí.

Subjekt, který uvádí na trh EU AI systém pocházející od poskytovatele usazeného mimo Unii; Akt o UI mu ukládá ověřovací a dokumentační povinnosti.

Výkon veřejnoprávní kontroly nad tím, zda AI systémy uváděné na trh a do provozu splňují požadavky právních předpisů, včetně možnosti ukládat opatření a sankce.

Posouzení vlivu na ochranu osobních údajů, které správce musí provést u zpracování s vysokým rizikem pro práva a svobody osob, často relevantní u AI systémů.

Změna charakteristik vstupních dat v čase, která může snížit spolehlivost modelu, aniž by se změnil model samotný.

Postupné zhoršování přesnosti nasazeného modelu způsobené tím, že se reálná data postupně odchylují od dat, na nichž byl model trénován.

Subjekt, který má kontrolu nad daty generovanými připojeným výrobkem nebo službou a rozhoduje o jejich zpřístupnění podle pravidel Data Actu.

Riziko, že schopnosti modelu využitelné k legitimním účelům mohou být zneužity ke škodlivým činnostem, například v oblasti kyberútoků nebo nebezpečných látek.

Povinnost strany prokázat tvrzené skutečnosti; u škod způsobených AI je jeho rozložení klíčové, protože vnitřní fungování systému bývá obtížně prokazatelné.

Koncept AI, která je zákonná, etická a technicky robustní; zahrnuje mimo jiné respekt k základním právům, transparentnost, spravedlnost a lidský dohled.

Mezivládní soubor hodnotových zásad pro důvěryhodnou AI, který se stal referenčním bodem pro mnoho národních i nadnárodních úprav a sjednocuje základní pojmosloví.

Prostředí, v němž pravidla, dohled a důvěra uživatelů podporují rozšiřování odpovědně vyvíjené a nasazované AI; cíl, k němuž směřuje evropská regulace.

Provozování modelů přímo na koncových zařízeních (telefon, senzor) bez nutnosti odesílat data do cloudu, což může zlepšit soukromí i odezvu.

Spotřeba energie a vody spojená s tréninkem a provozem velkých modelů a s provozem datových center; rostoucí téma regulace i firemní odpovědnosti.

Platforma pro syntézu a klonování hlasu, spojovaná s otázkami ochrany hlasových práv a podvodů s napodobeným hlasem.

Číselné vyjádření významu slova, textu nebo obrázku ve vícerozměrném prostoru, které umožňuje porovnávat podobnost obsahu; základ vektorového vyhledávání.

Schopnosti nebo chování, které se u větších modelů objeví neočekávaně a nebyly přímo naprogramovány ani zamýšleny při tréninku.

Část modelu, která převádí vstup (např. text) do vnitřní reprezentace vhodné pro další zpracování, například klasifikaci nebo vyhledávání.

Dokument, jímž poskytovatel prohlašuje, že vysokorizikový AI systém splňuje požadavky Aktu o UI a dalších dotčených předpisů.

Předem stanovený postup, jak a komu hlásit zjištěná rizika nebo incidenty AI, aby se dostaly ke správné úrovni rozhodování.