Slovník AI

Rozlišení mezi hodnocením toho, co model umí (schopnosti), a hodnocením toho, zda je jeho používání bezpečné; obojí je součástí řízení systémových rizik.

Obavy, že pokročilé modely mohou usnadnit přístup k informacím využitelným pro chemické, biologické, radiologické a jaderné hrozby; jedna z kategorií systémového rizika.

Označení vyjadřující shodu výrobku s požadavky EU; vysokorizikové AI systémy je musí nést po úspěšném posouzení shody.

Ochrana proti neoprávněnému využití podoby, hlasu nebo dalších charakteristik známé osobnosti v obsahu vytvořeném AI.

Postup, kdy nezávislý certifikační orgán nejprve ověří připravenost, poté provede podrobný audit a v dalších letech opakovanými kontrolami potvrzuje, že systém řízení nadále funguje.

Rodina modelů a asistent společnosti Anthropic, vyvíjená s důrazem na bezpečnost a přístup Constitutional AI.

Model, jehož váhy a vnitřní fungování nejsou veřejně dostupné a přístup k němu je poskytován zpravidla jen prostřednictvím rozhraní nebo služby.

AI agent specializovaný na psaní, úpravu a ladění programového kódu, který dokáže samostatně provádět úkoly ve vývojářském prostředí.

Příklad státní úpravy v USA cílící na vysoce rizikové systémy a algoritmickou diskriminaci, který provozovatelům ukládá povinnosti náležité péče a informování dotčených osob.

Licence opravňující k obchodnímu využití AI modelu nebo služby za stanovených podmínek, na rozdíl od licencí omezených na výzkum či nekomerční účely.

Komerční využití obsahu vytvořeného umělou inteligencí, které vyvolává otázky autorských práv, licencování a odpovědnosti za případné porušení práv třetích osob.

Návrh systému, do něhož jsou už od fáze vývoje zabudovány právní a bezpečnostní požadavky, vymezené účely použití, řízení rizik a průběžná auditovatelnost, aby agent zůstal v souladu s regulací.

Riziko, že využívání AI poruší právní předpisy, vnitřní pravidla nebo smluvní závazky, s možnými sankcemi a reputačními následky.

Schopnost AI agenta ovládat uživatelské rozhraní počítače či prohlížeče (klikání, psaní, čtení obrazovky) a provádět tak úkoly za uživatele.

Spor hudebních vydavatelů proti Anthropic ohledně reprodukce textů písní ve výstupech modelu. Ilustruje rozšíření autorskoprávních sporů z textů a obrázků do oblasti hudby.

Číselný údaj vyjadřující, jak si je model svým výstupem jistý; sám o sobě nezaručuje správnost a může být zavádějící.

Přístup k trénování, při němž se chování modelu řídí explicitní sadou zásad (jakousi ústavou) namísto výhradního spoléhání na lidské hodnocení každé odpovědi.

Cílené navrhování a sestavování informací, které model dostane při řešení úlohy, aby jeho výstup byl co nejpřesnější a nejrelevantnější.

Techniky rozšiřující délku textu, který model dokáže zpracovat najednou, čímž umožňují práci s rozsáhlými dokumenty.

Uvedení autora nebo zdroje u obsahu použitého či generovaného AI; souvisí s ochranou autorských práv a transparentností původu obsahu.

Označení pro praktiky, jimiž se stírá původ chráněného obsahu použitého k trénování tak, aby výstup působil jako původní a nezatížený právy třetích osob.

Projev vůle nositele práv, jímž si vyhrazuje, že jeho dílo nesmí být použito pro vytěžování textů a dat; musí být vyjádřen strojově čitelným způsobem.

Automatizovaný sběr chráněného obsahu z internetu za účelem trénování modelů, který může narušovat autorská práva a podmínky užití webových stránek.

Datová sada z přístupných děl dostupných pod licencemi Creative Commons, která se využívá k trénování modelů za podmínek daných konkrétní licencí.

Otevřený rámec pro tvorbu systémů s více spolupracujícími AI agenty, kteří si rozdělují role a úkoly při řešení složitějších zadání.

Vývojářské prostředí s vestavěnou AI, které pomáhá psát, upravovat a vysvětlovat kód přímo během programování.

Nařízení EU stanovující požadavky na kybernetickou bezpečnost výrobků s digitálními prvky po celou dobu jejich životního cyklu; dopadá i na software a AI komponenty zabudované do takových výrobků.

Metodika neustálého zlepšování, na níž stojí normy systémů řízení; spočívá v plánování, zavedení, ověření výsledků a následné korekci v opakujícím se cyklu.

Technika, při níž model před odpovědí explicitně rozepisuje dílčí kroky uvažování, čímž se zvyšuje spolehlivost u složitějších úloh.

Konverzační asistent společnosti OpenAI založený na modelech řady GPT, který zpopularizoval generativní AI mezi širokou veřejností.