Slovník AI

Ochrana proti neoprávněnému využití vzhledu či identity osoby, mimo jiné u digitálních replik a AI generovaného obsahu.

Právní důvod, který umožňuje zpracovávat osobní údaje.

Otázka, o jaký titul (např. oprávněný zájem) lze opřít zpracování osobních údajů obsažených v trénovacích datech, a za jakých podmínek je takové zpracování přípustné.

Sporná otázka, jak naplnit právo subjektu na výmaz, jsou-li jeho údaje již zapečené do natrénovaného modelu, z něhož je nelze snadno odstranit.

Použití AI k předvídání pravděpodobnosti spáchání trestného činu konkrétní osobou; v určitých podobách zakázané jako rozporné se zásadou presumpce neviny.

Soudní příkaz ukládající AI společnosti uchovat a oddělit záznamy (logy) o výstupech systému jako možný důkaz. V kauze NYT v. OpenAI soud nařídil uchovávat logy ChatGPT a později umožnil obnovit běžné mazání.

Právní domněnka, že subjekt splňuje určité požadavky, pokud dodržuje harmonizované normy.

Počáteční fáze učení modelu na rozsáhlém obecném korpusu dat, na niž navazuje doladení pro konkrétní úkoly nebo chování.

Způsob výpočtu sankce, kdy se horní hranice pokuty odvíjí od celkového celosvětového ročního obratu podniku, aby byl postih účinný i u velkých firem.

Zvláštní režim odpovědnosti za škodu způsobenou vadným výrobkem.

Odpovědnost vznikající při výkonu odborné nebo podnikatelské činnosti.

Automatizované zpracování osobních údajů za účelem hodnocení určitých aspektů osoby.

Pokyn zadaný uživatelem systému umělé inteligence za účelem vytvoření výstupu.

Ukládání opakovaně používaných částí vstupu pro zrychlení a zlevnění následných dotazů na model.

Označení pro právní otázky spojené s autorskoprávní ochranou promptů.

Metody vytváření a optimalizace pokynů vedoucích ke kvalitnějším výstupům AI.

Bezpečnostní útok, při němž útočník vloží do vstupu skryté instrukce s cílem obejít zamýšlené chování modelu nebo jeho omezení.

Technické standardy umožňující sledovat původ a historii úprav digitálního obsahu; standard C2PA je jedním z hlavních nástrojů pro značení původu.

Takové použití AI systému, které sice není zamýšlené, ale lze jej rozumně očekávat.

Pravidla určující, jak a odkdy se povinnosti vztahují na systémy a modely již uvedené na trh před nabytím účinnosti jednotlivých částí nařízení.

Poskytnutí osobních údajů mimo Evropský hospodářský prostor.

Možnost přesunout data mezi různými poskytovateli služeb.

Schopnost systému dosahovat správných a očekávaných výsledků v souladu s jeho zamýšleným účelem.

Stav, kdy se model příliš přizpůsobí trénovacím datům a zhorší se jeho schopnost pracovat s novými daty.

Vztah mezi jednáním nebo událostí a vzniklou škodou.

Odkaz na harmonizační právní předpisy EU; AI systémy zabudované do regulovaných výrobků (např. zdravotnické prostředky, strojní zařízení) podle nich získávají vysokorizikové zařazení s delším přechodným obdobím.

Seznam oblastí, v nichž jsou samostatné AI systémy považovány za vysokorizikové, například nábor zaměstnanců, úvěrové skórování, vzdělávání, vymáhání práva, migrace a správa hranic či kritická infrastruktura.

Metoda souladu, při níž organizace zavádí jednotnou sadu opatření splňující požadavky více rámců naráz, čímž se vyhne zdvojování práce.

Základní regulační logika Aktu o UI, která systémy řadí podle míry rizika do kategorií od nepřijatelného rizika (zákaz) přes vysoké riziko (přísné povinnosti) a omezené riziko (povinnost transparentnosti) až po minimální riziko.

Úprava údajů tak, aby bez dodatečných informací nebylo možné určit konkrétní osobu.