Situace z praxe
Asistentka během dopoledne použije překladač na e-mail od zahraničního dodavatele, poštovní schránka jí mezitím sama odfiltruje nevyžádanou poštu, tabulkový procesor jí našeptá pokračování vzorce a na webu úřadu jí odpovídá chatbot. Kolik nástrojů umělé inteligence právě použila? Většina lidí odpoví „jeden, ten chatbot”. Správná odpověď je s velkou pravděpodobností „všechny čtyři”. A protože se firemní pravidla vztahují na nástroje umělé inteligence, potřebujete umět je poznat.
Definice bez právničiny
Nařízení Evropského parlamentu a Rady (EU) 2024/1689, kterému se říká AI Act, definuje v čl. 3 bodu 1 systém umělé inteligence (dále „systém AI”) jako „strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí”.
V praxi to znamená, že systém AI z toho, co dostane, sám odvozuje, jak vytvořit výstup. Nejčastěji proto, že se to naučil z velkého množství příkladů, a nikdo mu tedy nenapsal řádek po řádku, co přesně má v které situaci udělat. Odvozovat ale může i ze zakódovaných znalostí. Systémem AI naopak není program, který jen provádí pravidla, jež do něj krok za krokem napsal člověk. Proto systém AI umí věci, které se do pevných pravidel napsat nedají, a proto se občas chová jinak, než byste čekali.
Co AI typicky je
- chatboty a generátory textu (ChatGPT, Copilot, Gemini a další),
- generátory obrázků, zvuku a videa,
- překladače a nástroje na přepis řeči,
- filtr nevyžádané pošty a jiné prediktivní filtry,
- doporučovací systémy („zákazníci také kupují”),
- nástroje na třídění životopisů, skórování zákazníků, odhad rizika,
- našeptávače a automatická doplňování, pokud nejedou jen podle pevně napsaných pravidel.
Všimněte si, že nic z toho není robot z filmu. Systém AI je dnes nejčastěji obyčejná webová stránka nebo funkce schovaná uvnitř programu, který používáte roky.
Co AI typicky není
- obyčejné makro v tabulce, které provede nahranou posloupnost kroků,
- pevně naprogramovaný formulář („když je pole prázdné, zobraz chybu”),
- kalkulačka a jiné výpočty podle pevného vzorce,
- klasická automatizace typu „když přijde e-mail s přílohou, ulož ji”.
Společný rys: tyhle nástroje dělají přesně to, co do nich někdo napsal, nic víc. Hranice ale není vždy ostrá a výrobci navíc slovem „AI” rádi označují kdeco. Proto v pochybnostech platí jednoduché pravidlo: rozhoduje interní seznam schválených nástrojů, a když si nejste jistí, zeptáte se odpovědné osoby (modul 07).
Role, se kterými nařízení pracuje
AI Act rozděluje povinnosti podle rolí. Pro běžnou organizaci jsou podstatné dva pojmy z čl. 3 nařízení a postavení zaměstnance.
- Poskytovatel (čl. 3 bod 3) systém AI vyvíjí nebo si ho nechává vyvinout a uvádí ho na trh nebo do provozu pod svým jménem. To jsou výrobci nástrojů, například společnost, která chatbota vyvinula a nabízí ho pod svou značkou.
- Zavádějící subjekt (čl. 3 bod 4) je ten, kdo v rámci své pravomoci systém AI využívá, s výjimkou osobní neprofesionální činnosti. To je typicky vaše organizace: nevyvíjí, ale používá.
- Zaměstnanec není v nařízení samostatnou rolí. Jedná jménem organizace, a proto se na něj vztahují opatření, která organizace jako zavádějící subjekt přijímá. Tento kurz je přesně takovým opatřením.
Jedna organizace může mít rolí víc najednou. Kdo si nechá vyvinout vlastní nástroj a pod svým jménem ho nabízí zákazníkům nebo ho sám začne používat, stává se poskytovatelem se vším, co k tomu patří. To už je ale rozhodnutí vedení, ne běžná kancelářská práce.
Osobní zařízení nejsou únik z pravidel
Když pracovní úkol vyřešíte ve vlastním chatbotu na osobním mobilu, roli organizace tím nezměníte. Data organizace opustila její prostředí a riziko nese pořád organizace. Výjimka pro „osobní neprofesionální činnost” míří na vaše soukromé použití doma, ne na pracovní úkoly na soukromém zařízení. Co s tím, řeší podrobně modul 03.
Zlaté pravidlo modulu
Systém AI nepoznáte podle toho, jak vypadá, ale podle toho, jestli výstup sám odvozuje, nebo jen provádí pravidla, která do něj napsal člověk. V pochybnostech rozhoduje firemní seznam schválených nástrojů, ne váš odhad.
Shrnutí
- Systém AI z obdržených vstupů sám odvozuje, jak vytvořit výstup (čl. 3 bod 1 nařízení). Nejčastěji se to naučil z dat. Program, který jen provádí pravidla napsaná člověkem, systémem AI není.
- AI je i překladač, filtr pošty nebo našeptávač, ne jen chatbot.
- Poskytovatel nástroj vyrábí, zavádějící subjekt ho používá. Běžná organizace je zavádějící subjekt.
- Zaměstnanec jedná jménem organizace, firemní pravidla pro AI se ho týkají vždy.
- Pracovní úkol na osobním zařízení pravidla neobchází.
- V pochybnostech platí seznam schválených nástrojů a dotaz na odpovědnou osobu.