Slovník AI

Vnitrostátní právní předpis, který doplňuje přímo použitelné nařízení EU o pravidla, jež nařízení ponechává členským státům, například určení dozorových orgánů, procesní postupy a sankce.

Manipulace vstupy do AI systému s cílem vyvolat chybný nebo nežádoucí výstup.

Systematické přezkoumání činnosti, rozhodnutí a souladu AI agenta s pravidly, obvykle na základě záznamů o jeho jednání.

Ověření identity AI agenta před udělením přístupu k systémům, datům nebo nástrojům.

Softwarová struktura poskytující nástroje a stavební bloky pro vývoj a nasazení AI agentů.

Soubor pravidel, politik a kontrol upravujících nasazení, chování a odpovědnost AI agentů.

Mechanismus, jímž si agent uchovává informace z předchozích interakcí a využívá je v dalších krocích či úlohách.

Průběžné sledování činnosti, výstupů a chování AI agenta za účelem dohledu a včasného odhalení problémů.

Evidence nasazených AI agentů obsahující jejich identitu, oprávnění a vymezené úkoly.

Opatření chránící AI agenty před zneužitím, neoprávněným přístupem a útoky, jakož i zabraňující škodlivému jednání samotného agenta.

Pokročilý přístup k AI, kdy systém autonomně rozhoduje o postupu řešení, využívá nástroje a vyhodnocuje výsledky.

Pracovní proces, v němž autonomní AI agenti samostatně plánují a vykonávají posloupnost kroků k dosažení zadaného cíle s minimálním lidským zásahem.

Opakovaný cyklus, v němž AI agent plánuje, volá nástroje, vyhodnocuje výsledky a pokračuje, dokud nesplní zadaný cíl.

Průsečík využívání AI a ochrany spotřebitele, který se týká například transparentnosti automatizovaných doporučení, zákazu klamavých praktik a odpovědnosti za škodu způsobenou spotřebiteli.

Předem stanovené podmínky, jež musí AI systém splnit, aby mohl být schválen k nasazení.

Princip jasného přiřazení odpovědnosti za rozhodnutí, výstupy a dopady AI systémů.

Soubor opatření zajišťujících soulad využívání AI s požadavky AI Actu.

Software využívající AI, který dokáže samostatně plánovat kroky a vykonávat úkoly směřující k dosažení stanoveného cíle.

Programové rozhraní poskytující přístup k funkcím umělé inteligence prostřednictvím jiných aplikací.

Software využívající AI k podpoře plnění pracovních nebo osobních úkolů prostřednictvím přirozené komunikace s uživatelem.

Nezávislé přezkoumání AI systému z hlediska souladu s pravidly, kvality dat, rizik a dopadů na dotčené osoby.

Prověrka AI systémů, dat a procesů prováděná například při investicích nebo akvizicích.

Systém pravidel, rolí a procesů, jímž organizace řídí vývoj, nasazení a používání AI v souladu s právem a etikou.

Událost, při níž AI systém způsobí škodu, selhání nebo jiný nežádoucí následek, který může vyžadovat hlášení.

Dostatečná úroveň znalostí a dovedností umožňující odpovědně používat AI a rozumět jejím příležitostem i rizikům.

Osoba odpovědná za koordinaci agendy AI v organizaci.

Proces výběru a pořizování AI řešení včetně posouzení souvisejících rizik a požadavků na soulad s právem.

Cílené prověřování modelu týmem, který se snaží vyvolat škodlivé nebo nebezpečné chování, aby se odhalila a odstranila slabá místa před nasazením.

Průběžně vedený přehled všech AI systémů používaných v organizaci, který umožňuje řídit dohled podle úrovně rizika.

Skupina osob odpovědná za strategické řízení využívání AI v organizaci.