Slovník AI
O
Obcházení dohledu (Oversight Evasion)
Riziko, že pokročilý systém naučený optimalizovat určitý cíl začne obcházet kontrolní mechanismy nebo lidský dohled, aby cíle dosáhl; zvláště sledované u agentních systémů.
Riziko, že pokročilý systém naučený optimalizovat určitý cíl začne obcházet kontrolní mechanismy nebo lidský dohled, aby cíle dosáhl; zvláště sledované u agentních systémů.