Slovník AI
E
Soubor etických principů vztahujících se k vývoji a používání umělé inteligence.
Systematické testování schopností, bezpečnosti a spolehlivosti modelu pomocí sad úloh; podklad pro rozhodnutí o nasazení i pro doložení souladu.
Datová sada vyčleněná k ověření výkonu a spolehlivosti modelu, která se nepoužívá při jeho trénování, aby hodnocení bylo objektivní.
Automaticky pořizované záznamy o činnosti AI systému, které umožňují zpětnou kontrolu, audit a řešení incidentů; u vysokorizikových systémů jsou povinné.
Koordinační orgán složený ze zástupců členských států, který podporuje jednotné uplatňování Aktu o UI a spolupráci při jeho implementaci.
Úřad zřízený při Evropské komisi, který dohlíží zejména na modely pro všeobecné účely, koordinuje uplatňování Aktu o UI a připravuje k němu vodítka.
Hypotetické riziko, že velmi pokročilé AI systémy by mohly způsobit katastrofické dopady na lidstvo; předmět odborných i politických debat.
Přístup umožňující vysvětlit fungování a výsledky AI systému tak, aby jim člověk rozuměl.
Vlastnost právní úpravy, kdy se vztahuje i na subjekty mimo dané území, pokud jejich systémy ovlivňují osoby nebo trh v dané jurisdikci; typická pro evropský Akt o UI.
F
Neformální označení pro stav americké judikatury k fair use při trénování AI, který odráží nejednotnost dosavadních rozhodnutí podle způsobu získání dat a charakteru systému.
Míra, do jaké výstupy modelu odpovídají skutečnosti; u generativní AI je klíčová kvůli riziku přesvědčivě působících, ale nesprávných tvrzení.
Způsob trénování, při němž data zůstávají na zařízeních uživatelů a sdílejí se jen aktualizace modelu, čímž se snižuje přenos osobních údajů.
Kontrolní vrstva, která prověřuje, co do modelu vstupuje a co z něj vychází, a blokuje obsah porušující stanovená pravidla.
Model, který vznikl doladěním základního modelu na užší sadě dat pro konkrétní úkol nebo obor, čímž získává lepší výsledky v dané oblasti.
Proces, při němž se již natrénovaný model dále učí na cíleně vybraných datech, aby lépe zvládal konkrétní úkol nebo se choval požadovaným způsobem.
Soubor interních dokumentů a znalostí organizace, z něhož AI systém čerpá při odpovídání, aby jeho výstupy vycházely z ověřených firemních informací.
Jednotka měřící množství výpočtů. Souhrnný počet FLOP použitých při trénování slouží jako jedno z kritérií pro klasifikaci modelů s vysokým dopadem či systémovým rizikem.
Dobrovolné závazky předních vývojářů AI týkající se bezpečnostního testování a zveřejňování rizikových prahů, přijaté v rámci mezinárodních setkání o bezpečnosti AI.
Nejpokročilejší a nejvýkonnější modely současnosti, které posouvají hranice schopností AI a jsou předmětem zvláštní pozornosti z hlediska bezpečnosti a systémových rizik.
Schopnost modelu vyvolat určenou funkci nebo nástroj a předat mu strukturované parametry, čímž propojuje jazykový model s vnějšími systémy.
Zastřešující složka rámce NIST, která vytváří organizační kulturu řízení rizik, role, odpovědnosti a politiky, do nichž se ostatní činnosti zasazují.
Složka rámce NIST, v níž organizace na základě zjištěných a změřených rizik volí a zavádí opatření k jejich zvládání a průběžně je přehodnocuje.
Složka rámce NIST zaměřená na zmapování kontextu: k čemu systém slouží, jak funguje, koho ovlivňuje a kde může selhat.
Složka rámce NIST věnovaná měření a hodnocení identifikovaných rizik pomocí kvantitativních i kvalitativních metod.
G
Rodina multimodálních modelů společnosti Google DeepMind, integrovaná do služeb Google a vývojářských nástrojů.
Architektura se dvěma soupeřícími sítěmi (generátorem a diskriminátorem), z nichž jedna tvoří obsah a druhá jej hodnotí; historicky využívaná mimo jiné pro deepfakes.
Doplňková část rámce NIST věnovaná specifickým rizikům a opatřením spojeným s generativní AI, která je přiřazuje k jednotlivým funkcím rámce.
Umělá inteligence, která na základě naučených vzorů vytváří nový obsah, například text, obrázky, zvuk nebo video.
Spor zahájený v roce 2023, v němž Getty Images vytýká společnosti Stability AI neoprávněné použití více než 12 milionů fotografií, jejich popisků a metadat k vytvoření generátorů obrázků Stable Diffusion a DreamStudio.
Nástroj vestavěný do vývojářských prostředí, který na základě kontextu navrhuje a doplňuje programový kód; byl předmětem sporů o autorská práva k trénovacímu kódu.