Slovník AI
A
Sklon lidí přeceňovat a nekriticky přijímat výstupy automatizovaného systému, který oslabuje účinnost lidského dohledu.
D
Označení pro AI agenta nasazeného v organizaci k samostatnému plnění úkolů způsobem podobným lidskému zaměstnanci, což vyvolává otázky odpovědnosti a dohledu.
Koncept AI, která je zákonná, etická a technicky robustní; zahrnuje mimo jiné respekt k základním právům, transparentnost, spravedlnost a lidský dohled.
H
Uspořádání, v němž AI navrhne postup nebo výstup, ale jeho realizaci musí před provedením schválit člověk; forma lidského dohledu.
L
Soubor opatření umožňujících člověku monitorovat fungování AI systému a v případě potřeby zasáhnout.
O
Riziko, že pokročilý systém naučený optimalizovat určitý cíl začne obcházet kontrolní mechanismy nebo lidský dohled, aby cíle dosáhl; zvláště sledované u agentních systémů.
V
AI systém spadající do kategorie vysokého rizika podle Aktu o UI, na který se vztahují přísné požadavky na řízení rizik, kvalitu dat, dokumentaci, transparentnost a lidský dohled.
Z
Zásada, podle níž musí mít člověk nad vysokorizikovým systémem skutečnou, nikoli jen formální kontrolu, včetně možnosti zásahu a přehlasování systému.