Situace z praxe
Účetní omylem vloží do veřejného chatbota tabulku se mzdami. Hned si to uvědomí, zavře okno a rozhodne se, že o tom raději pomlčí, ono se na to nepřijde. Za tři týdny se ptá klient, odkud unikla čísla. Kdyby účetní chybu nahlásila hned, organizace mohla reagovat tentýž den: požádat provozovatele o smazání konverzace, posoudit ohlašovací povinnost, informovat dotčené. Mlčením se z drobné provozní chyby stal velký problém. Přesně pro takové situace existují firemní pravidla a tenhle závěrečný modul.
Proč směrnice existuje
Interní směrnice o používání nástrojů umělé inteligence (dále „nástroje AI”) je opatřením podle čl. 4 nařízení (EU) 2024/1689 (AI Act), hlavně je to ale praktická věc: sjednocuje hranice, které by si jinak každý zaměstnanec vymýšlel sám. Směrnice není překážka práce. Je to seznam předem zodpovězených otázek, abyste je nemuseli řešit pod tlakem.
Anatomie směrnice
Vzorová směrnice, která je součástí tohoto balíčku, má deset částí. Ty klíčové pro každodenní práci:
- Schválené nástroje (část 3): pracovní úkoly se řeší výhradně v nástrojích ze seznamu, ve stanoveném režimu účtu. Nový nástroj se schvaluje předem u odpovědné osoby, ne zavádí po vlastní ose.
- Červený seznam dat (část 4): co se do nástrojů nevkládá nikdy (podrobně modul 03).
- Ověřování výstupů (část 5): výstup je pracovní návrh, tvrdá fakta se ověřují v původním zdroji, za použití odpovídá člověk (modul 02).
- Transparentnost (část 6): chatboty se označují, publikovaný obsah jde přes lidskou redakci, vodoznaky se neodstraňují (modul 06).
- Zakázaná a vysoce riziková použití (část 7): žádné čtení emocí ani skryté ovlivňování, nasazení AI rozhodující o lidech předem posuzuje odpovědná osoba (modul 05).
- Hlášení incidentů (část 8) a školení s evidencí (část 9), viz níže.
Když ve směrnici odpověď nenajdete, platí poslední pravidlo: zeptejte se odpovědné osoby. Otázka „smím tohle?” položená předem stojí minutu.
Co je incident a jak se hlásí
Incidentem je zejména:
- do nástroje odešla data z červeného seznamu (osobní údaje, obchodní tajemství, dokumenty klientů, přístupové údaje),
- mimo organizaci odešel neověřený výstup s chybou (klientovi, úřadu, veřejnosti),
- podezření, že nástroj porušuje zákaz nebo rozhoduje o lidech bez předchozího posouzení,
- únik přístupových údajů k nástroji.
Hlásí se odpovědné osobě podle směrnice, neprodleně a klidně s neúplnými informacemi. Rychlost má přednost před dokonalostí hlášení, protože některé návazné povinnosti běží v hodinách (u osobních údajů ohlášení Úřadu pro ochranu osobních údajů zpravidla do 72 hodin od zjištění, modul 03). Uvádí se: který nástroj, jaká data, kdy se to stalo a co už případně viděli příjemci mimo organizaci.
A zásada, na které stojí celá kultura hlášení: nahlášená chyba je provozní událost, zatajená chyba je problém. Včasné nahlášení vlastní chyby se zohledňuje ve prospěch ohlašovatele. Kdo hlásí, pomáhá organizaci reagovat. Kdo mlčí, rozhoduje za organizaci bez mandátu.
AI s rozmyslem
Nástroje AI se nepoužívají na všechno. Před nasazením na úkol se vyplatí krátká rozvaha: kolik času zabere úkol nástroji předat, výstup zkontrolovat a opravit, proti času, který nástroj ušetří. Jednorázové přejmenování deseti souborů zvládnete rychleji ručně, než byste to vysvětlovali chatbotu. Opakované týdenní shrnování stejně strukturovaných podkladů je naopak ideální kandidát. Nástroj má sloužit práci, ne práce nástroji.
Školení není jednorázová akce
Vstupním školením to začíná, nekončí. Školení se opakuje při podstatné změně nástrojů nebo právní úpravy a o každém proběhnutí se vede protokol a záznam v registru (vzory jsou součástí balíčku). Poctivá poznámka: periodicitu školení žádný předpis nestanoví, organizace si ji volí sama, a evidence je její důkaz, že opatření podle čl. 4 nařízení skutečně přijala.
Nástroje se přitom mění po měsících. Sledujte interní novinky, sdílejte s kolegy dobré i špatné zkušenosti a nápady na nová využití noste odpovědné osobě. Kurz, který jste právě dokončili, je vstupní práh, ne strop.
Zlaté pravidlo modulu
Když si nejste jistí, zeptejte se předem. Když se něco pokazí, nahlaste to hned. Obojí je levnější než mlčení.
Shrnutí
- Směrnice je seznam odpovědí: schválené nástroje, červený seznam, ověřování, označování, eskalace, hlášení.
- Nový nástroj se schvaluje předem, pracovní úkoly patří jen do schválených nástrojů.
- Incident se hlásí neprodleně, i neúplný, protože organizace může mít na reakci jen hodiny.
- Nahlášená chyba je provozní událost, zatajená chyba je problém.
- Před nasazením AI na úkol zvažte poměr času a přínosu.
- Školení se opakuje při podstatné změně a eviduje se, vzdělávání je průběžný úkol.