Slovník AI

Varianta útoku, kdy škodlivé pokyny nejsou zadány přímo uživatelem, ale jsou skryté v obsahu, který model zpracovává (web, dokument, e-mail), a model je nesprávně vyhodnotí jako příkaz.

Pokyn zadaný uživatelem systému umělé inteligence za účelem vytvoření výstupu.

Ukládání opakovaně používaných částí vstupu pro zrychlení a zlevnění následných dotazů na model.

Označení pro právní otázky spojené s autorskoprávní ochranou promptů.

Metody vytváření a optimalizace pokynů vedoucích ke kvalitnějším výstupům AI.

Bezpečnostní útok, při němž útočník vloží do vstupu skryté instrukce s cílem obejít zamýšlené chování modelu nebo jeho omezení.

Skrytá instrukce určující pravidla a chování AI systému.

Žaloba podaná deníkem The New York Times v prosinci 2023 u federálního soudu na Manhattanu, v níž list tvrdí, že OpenAI a Microsoft neoprávněně využily miliony jeho článků k trénování modelů ChatGPT a Copilot a že systémy doslovně reprodukují chráněný obsah. OpenAI naopak namítá, že žalobce modely cíleně naváděl klamavými prompty, aby vyvolal reprodukci textu.