Slovník AI

Právní konstrukce, podle níž se pro účely dohledu nad trhem na AI systém hledí jako na výrobek, čímž se uplatní existující dozorové mechanismy.

Nasazení AI při právní rešerši, analýze dokumentů a podpoře rozhodování; v některých kontextech řazené mezi vysoce rizikové či zvlášť regulované.

Využití AI orgány veřejné moci, např. pro třídění podání či podporu rozhodování; zvláště citlivé z hlediska transparentnosti a základních práv.

Použití AI pro diagnostiku, podporu rozhodování nebo zpracování zdravotních dat; často spadá pod režim zdravotnických prostředků i vysokorizikových systémů.

Nařízení (EU) 2024/1689, první komplexní právní rámec pro AI na světě založený na přístupu odstupňovaném podle míry rizika.

Kategorie rizik, povinnosti vývojářů i sankce rozebíráme v článku AI Compliance – Vyvíjíte nebo užíváte umělou inteligenci?

Situace, kdy spolu cenotvorné nebo obchodní algoritmy více soutěžitelů fakticky koordinují chování na trhu, aniž by k tomu byla výslovná dohoda, což vyvolává otázky soutěžního práva.

Úsilí o to, aby AI systémy nevytvářely neodůvodněné rozdíly mezi skupinami osob; zahrnuje různé, někdy navzájem neslučitelné definice spravedlnosti.

Požadavek, aby bylo srozumitelné, jak a na základě čeho algoritmus rozhoduje, zejména u rozhodnutí s dopadem na práva osob.

Společnost vyvíjející rodinu modelů Claude s důrazem na bezpečnost a přístup Constitutional AI; účastník kauzy Bartz a jejího urovnání i diskusí o GPAI modelech se systémovým rizikem.

Žaloba sdružení autorů, jedna z předních kauz zastupujících zájmy spisovatelů proti využití jejich děl k trénování jazykových modelů.

Sklon lidí přeceňovat a nekriticky přijímat výstupy automatizovaného systému, který oslabuje účinnost lidského dohledu.

AI systémy řídicí nebo asistující při řízení vozidel, regulované jak Aktem o UI, tak předpisy o bezpečnosti výrobků a provozu.