Slovník AI

Právní konstrukce, podle níž se pro účely dohledu nad trhem na AI systém hledí jako na výrobek, čímž se uplatní existující dozorové mechanismy.

Nasazení AI při právní rešerši, analýze dokumentů a podpoře rozhodování; v některých kontextech řazené mezi vysoce rizikové či zvlášť regulované.

Využití AI orgány veřejné moci, např. pro třídění podání či podporu rozhodování; zvláště citlivé z hlediska transparentnosti a základních práv.

Použití AI pro diagnostiku, podporu rozhodování nebo zpracování zdravotních dat; často spadá pod režim zdravotnických prostředků i vysokorizikových systémů.

Nařízení (EU) 2024/1689, první komplexní právní rámec pro AI na světě založený na přístupu odstupňovaném podle míry rizika.

Situace, kdy spolu cenotvorné nebo obchodní algoritmy více soutěžitelů fakticky koordinují chování na trhu, aniž by k tomu byla výslovná dohoda, což vyvolává otázky soutěžního práva.

Úsilí o to, aby AI systémy nevytvářely neodůvodněné rozdíly mezi skupinami osob; zahrnuje různé, někdy navzájem neslučitelné definice spravedlnosti.

Požadavek, aby bylo srozumitelné, jak a na základě čeho algoritmus rozhoduje, zejména u rozhodnutí s dopadem na práva osob.

Společnost vyvíjející rodinu modelů Claude s důrazem na bezpečnost a přístup Constitutional AI; účastník kauzy Bartz a jejího urovnání i diskusí o GPAI modelech se systémovým rizikem.

Žaloba sdružení autorů, jedna z předních kauz zastupujících zájmy spisovatelů proti využití jejich děl k trénování jazykových modelů.

Sklon lidí přeceňovat a nekriticky přijímat výstupy automatizovaného systému, který oslabuje účinnost lidského dohledu.

AI systémy řídicí nebo asistující při řízení vozidel, regulované jak Aktem o UI, tak předpisy o bezpečnosti výrobků a provozu.

Spor autorů (A. Bartz, Ch. Graeber, K. W. Johnson) proti společnosti Anthropic. Soudce William Alsup v červnu 2025 rozhodl, že samotné trénování modelu na knihách je mimořádně transformativní a představuje fair use, avšak vytváření a uchovávání trvalé knihovny pirátsky stažených děl fair use není.

Postupná změna chování nasazeného AI systému během jeho používání, u níž je obtížné rozlišit očekávanou adaptaci od podstatné změny, která by zakládala nové posouzení souladu.

Zkreslení výsledků hodnocení způsobené tím, že se testovací úlohy nedopatřením ocitly v trénovacích datech, takže model dosahuje uměle lepších výsledků.

Řízené ukončení provozu AI systému, který způsobuje nepřiměřenou újmu nebo se chová nežádoucím způsobem, včetně možnosti jej přehlasovat či opravit.

Soubor opatření, která brání modelu generovat škodlivý, nezákonný nebo jinak nevhodný obsah, a filtrují rizikové vstupy i výstupy.

Prvek výrobku, jehož selhání může ohrozit zdraví nebo bezpečnost. Po revizích Aktu nejsou za bezpečnostní komponentu považovány systémy sloužící jen k optimalizaci, automatizaci či pohodlí, pokud jejich selhání zdraví neohrožuje.

Zařazování osob do skupin na základě biometrických údajů; některé formy (např. odvozování citlivých charakteristik) jsou Aktem o UI zakázány nebo přísně omezeny.

Obtíž spočívající v tom, že vnitřní rozhodovací procesy složitých modelů jsou pro člověka jen velmi těžko vysvětlitelné, což komplikuje dohled i prokazování odpovědnosti.

Jev, kdy se evropská pravidla pro AI fakticky stávají globálním standardem, protože nadnárodní poskytovatelé je uplatňují i mimo EU.

Rozlišení mezi hodnocením toho, co model umí (schopnosti), a hodnocením toho, zda je jeho používání bezpečné; obojí je součástí řízení systémových rizik.

Obavy, že pokročilé modely mohou usnadnit přístup k informacím využitelným pro chemické, biologické, radiologické a jaderné hrozby; jedna z kategorií systémového rizika.

Označení vyjadřující shodu výrobku s požadavky EU; vysokorizikové AI systémy je musí nést po úspěšném posouzení shody.

Ochrana proti neoprávněnému využití podoby, hlasu nebo dalších charakteristik známé osobnosti v obsahu vytvořeném AI.

Postup, kdy nezávislý certifikační orgán nejprve ověří připravenost, poté provede podrobný audit a v dalších letech opakovanými kontrolami potvrzuje, že systém řízení nadále funguje.

Rodina modelů a asistent společnosti Anthropic, vyvíjená s důrazem na bezpečnost a přístup Constitutional AI.

Model, jehož váhy a vnitřní fungování nejsou veřejně dostupné a přístup k němu je poskytován zpravidla jen prostřednictvím rozhraní nebo služby.

AI agent specializovaný na psaní, úpravu a ladění programového kódu, který dokáže samostatně provádět úkoly ve vývojářském prostředí.

Příklad státní úpravy v USA cílící na vysoce rizikové systémy a algoritmickou diskriminaci, který provozovatelům ukládá povinnosti náležité péče a informování dotčených osob.