Slovník AI

Architektura kombinující jazykový model s externí znalostní bází, ze které si AI před odpovědí vyhledává relevantní informace.

První mezinárodní smlouva o umělé inteligenci zaměřená na ochranu lidských práv, demokracie a právního státu. K nabytí účinnosti vyžaduje ratifikaci stanoveným počtem států.

Dokument, který signatář musí vytvořit před uvedením modelu se systémovým rizikem na trh; obsahuje spouštěče hodnocení, kategorie rizik, strategie zmírňování, metody předvídání a rozdělení odpovědností.

Schopnost modelu řešit úlohy vícekrokovým odvozováním; tzv. reasoning modely věnují části výpočtu přemýšlení před vygenerováním odpovědi.

Model optimalizovaný pro složitější logické a analytické úlohy.

Systematické testování modelu pomocí cílených útoků a provokací za účelem odhalení slabin, rizik a zranitelností.

Cílené prověřování modelu týmem, který se snaží vyvolat škodlivé nebo nebezpečné chování, aby se odhalila a odstranila slabá místa před nasazením.

Evidence identifikovaných rizik včetně jejich hodnocení, vlastníka a přijatých opatření; nástroj propojující řízení AI s celopodnikovým řízením rizik.

Povinnost zaznamenat vysokorizikový AI systém do veřejné databáze EU před jeho uvedením na trh nebo do provozu, sloužící transparentnosti a dohledu.

Kontrolované prostředí umožňující testování inovativních AI řešení pod dohledem regulátora.

Riziko vyplývající ze změny právních předpisů nebo jejich výkladu.

Kontrolované prostředí vytvořené dozorovým orgánem, které umožňuje testování inovativních AI systémů před jejich uvedením na trh.

Agent zaměřený na vyhledávání, shromažďování a vyhodnocování informací z různých zdrojů.

Přístup k vývoji a používání AI založený na principech odpovědnosti, transparentnosti a spravedlnosti.

Ucelený soubor zásad pro vývoj a nasazení AI způsobem, který je etický, bezpečný, transparentní a spravedlivý.

Posloupnost kroků, jímž systém před generováním odpovědi vyhledá a připraví relevantní informace – od dotazu přes vyhledání a seřazení až po předání nejvhodnějších podkladů modelu; základ systémů typu RAG.

Nasazení RAG v podnikových aplikacích, kdy model před odpovědí vyhledá relevantní informace ve firemních dokumentech a omezí tak halucinace.

Aktualizovaný předpis EU, který výslovně zahrnuje software a AI systémy mezi výrobky a usnadňuje poškozeným prokazování vady a příčinné souvislosti.

Nárok osoby dotčené automatizovaným rozhodnutím získat srozumitelné vysvětlení jeho základní logiky a důsledků.

Zařazení AI systémů do tříd podle možného dopadu na jednotlivce, organizaci a společnost s cílem zvolit přiměřená opatření dohledu.

Metoda zlepšování modelů pomocí zpětné vazby od lidí, kteří hodnotí kvalitu výstupů.

Soubor na webu vyjadřující pravidla pro automatizované roboty; v kontextu AI se stal jedním z nástrojů, jímž weby omezují sběr obsahu pro trénink.

Odolnost systému vůči chybám, manipulaci, útokům nebo neočekávaným situacím.

Smluvní a zákonné vymezení, který subjekt nese jaké povinnosti a rizika; klíčové zejména u vysokorizikových systémů a integrace cizích modelů.

AI systém určený k odvozování emocí nebo psychologických stavů osoby z jejích projevů.

Zvláště citlivé použití systémů odvozujících emoce, které Akt o UI v prostředí práce a vzdělávání s výjimkami zakazuje.

Platforma využívající generativní AI pro tvorbu a editaci videa, animací a multimediálního obsahu.