Umělá inteligence se rychle stává běžnou součástí firem, úřadů i každodenního života. Dokáže urychlit práci, zpřesnit analýzy a snížit chybovost — ale stejně tak umí sebevědomě vymyslet nesmysl, přebírat předsudky a komplikovat rozhodování. Jak ji tedy používat tak, aby pomáhala, a ne škodila?

Když se řekne digitalizace, všichni si vzpomenou na bývalého pirátského ministra Bartoše. Zpackaná digitalizace stavebních řízení byla opravdu problém, který způsobil velké škody a to jak občanům, tak státu. Ale pojďme se teď oprostit od nánosů politického bahna a podívat se na věc trochu střízlivě.

AI je fenomén který nyní hýbe světem. Je to skvělý pomocník, ale může být i problémový a v nesprávných rukou i velmi nebezpečná věc, ale to je i váleček na nudle. Práce s AI přináší velké zrychlení, zkvalitnění výstupů a úsporu času, zároveň ale nese rizika jako halucinace, zkreslení, předpojatost nebo systematické chyby únik dat a oslabení vlastních dovedností. Klíčové je proto používat AI kriticky, transparentně a s jasnými pravidly.

Hlavní výhody práce s AI je produktivita a úspora času. AI zvládá nudné rutinní činnosti (přepisování, sumarizace textů, generování návrhů e-mailů nebo kódu), čímž uvolňuje čas na práci, kde je potřeba kreativita . Ve firmách to vede ke zrychlení procesů, menšímu počtu chyb a plynulejšímu provozu.

Moderní nástroje umí rychle analyzovat velké objemy dat a najít vzorce, které by člověk přehlédl. To pomáhá při strategickém rozhodování, plánování i v každodenní rutinní činnosti, kde je díky psychické únavě lidského pracovníka poměrně velká chybovost. Zároveň může AI při správně zvoleném způsobu komunikace sloužit jako „sparring partner“ pro nápady, zkoušení variant textu, struktury argumentu či návrhu projektu. Vzdělávací a pracovní průzkumy ukazují, že většina uživatelů vnímá AI jako podporu efektivity a inovací, pokud ji používají jako doplněk, ne náhradu za své myšlení.

A tady se dostáváme i k úskalí. Generativní AI poměrně často vytváří věrohodně znějící, ale fakticky chybné nebo vymyšlené informace, zejména bez kvalitních podkladů. Proto je nutné každý důležitý výstup ověřovat proti spolehlivým zdrojům a nebrat odpověď jako jednoznačnou autoritu. AI se někde učila a to je internet. A víme, co za snůšky hloupostí jsou tam někteří uživatelé schopni napsat, Teď nemáme na mysli sociální sítě.

Někdy je nutné si dát pozor na tzv. Bias což je je předpojatost, zkreslení nebo systematická chyba, která ovlivňuje hodnocení a úsudek, často neúmyslně, diskriminace a ztráta transparentnosti, kdy model AI přebírá zkreslení z tréninkových dat, což může vést k nespravedlivým rozhodnutím (např. při náboru, hodnocení nebo doporučování). U složitých modelů je navíc obtížné vysvětlit, proč k určitému výstupu došly, což komplikuje odpovědnost a možnost nápravy.

Zadávání citlivých informací do veřejných nástrojů může vést k porušení důvěrnosti, soukromí nebo práv duševního vlastnictví. Dlouhodobá závislost na AI pak může snižovat vlastní kreativitu a schopnost samostatně tvořit, analyzovat nebo rozhodovat.

Jak s AI pracovat bezpečně a smysluplně?

Důležité je si ujasnit pravidla použití. Organizace i jednotlivci by měli mít jednoduchý „kodex“ – co do AI nepatří (citlivá data, neveřejné dokumenty), kdy je nutné výstupy kontrolovat a jak AI přiznávat. Doporučované principy jsou férovost, transparentnost, odpovědnost, ochrana soukromí a bezpečnost. Co AI svěříte, to si na vás pamatuje. A někdo má vždycky k těmto informacím přístup už z pozice vlastníka.

Je dobré vnímat AI jako asistenta, ne autora. Měli bychom tedy AI použít pro návrhy, strukturu, technickou pomoc, ale klíčové závěry, interpretace a finální výsledky dělat s vlastním kritickým úsudkem. U odborných či studijních textů se zdůrazňuje nutnost přiznat, kdy a jak byl nástroj použit, a výsledky vždy ověřit pomocí dalších zdrojům. AI si může „vymýšlet“ zdroje, zkreslovat studie nebo špatně chápat kontext, proto je nutné všechny odkazy a data ručně zkontrolovat v databázích, knihách a článcích. To platí obzvlášť pro historické, právní nebo medicínské informace, kde jsou případné chyby velmi problematické.

Také je nutný respekt k autorským právům. Legislativa EU zdůrazňuje, že při využití generativní AI je třeba dbát na práva autorů a nevydávat generovaný text za vlastní originální práci bez přidané hodnoty. Vždy je vhodné AI chápat jako nástroj, který pomáhá, ale nenahrazuje původní výzkum a tvůrčí proces.

Pokud pomineme domácí použití AI, tak se s tímto kybernetickým pomocníkem můžeme setkat na dvou místech: V zaměstnání a na úřadech. Obojí má svá specifika, tak si je pojďme trochu rozebrat.

Pokud zavádíte AI u sebe ve firmě, je potřeba jasně říct, proč AI zavádíte a kde má přinést hodnotu, teprve potom vybírat nástroje a pilotní use-casy. Ideální je postupovat po menších krocích: od mapování procesů a dat, přes pilotní projekt až po postupné škálování a průběžné ladění.

Ujasnit cíle a očekávání: Definujte konkrétní problémy nebo procesy, které chcete zlepšit (např. zkrácení času na administrativu o 30%, snížení chybovosti v reportech, rychlejší rešerše).

Jednotlivé kroky je dobré stanovit pomocí SMART metody a pak hodnotit jaké výsledky to přineslo (čas, kvalita, náklady, spokojenost uživatelů).

Zmapovat procesy, data a připravenost: Sepište rutinní pracovní procesy, které vašim pracovníkům ubírají čas a unavují je. Ty svěřte AI.

Zhodnoťte kvalitu a dostupnost dat, infrastrukturu (IT nástroje, integrace). V neposlední řadě je také nutné zaměstnancům vysvětlit, že AI tam není od toho, aby je nahradila, ale aby jim pomohla zefektivnit práci za cenu menší únavy a získání více prostoru pro osobní rozvoj a odpočinek.

Vybrat vhodné nástroje a formu AI a hlavně nastavit pravidla používání.

Vytvořte jednoduché interní zásady: jaké typy dat se do AI nesmí zadávat, jak se AI výstupy ověřují a kdy je nutná lidská kontrola a schválení. Na toto lidi proškolte. A pak už jen sledovat výsledky, na kolik byla AI v daném sektoru přínosem.

Druhým místem, kde se s AI můžeme setkat, je státní správa.

Implementace AI ve státní správě může výrazně zlepšit efektivitu, zjednodušit rutinní postupy i podpořit nové typy digitálních služeb. Největší dopad je patrný v oblasti automatizace, komunikace s občany, vzdělávání úředníků a analýzy dat.

Praktické využití AI ve státní správě spočívá v automatizace rutinní agendy (například třídění, kontrola a vyhodnocování dokumentů, příprava správních rozhodnutí).

Chatboti a hlasoví asistenti mohou komunikovat s klienty úřadů a zodpovídat jednoduché dotazy třeba v souvislosti s poskytováním sociálních dávek. Tím by se mnohým ÚP ulehčilo od náporu klientů.

AI může poskytovat analýzu dat a vyhodnocování rizikových případů, například v oblasti bezpečnosti nebo veřejných financí. Také může, stejně jako v privátním sektoru přispět k zefektivnění a digitalizaci služeb, včetně předvyplněných formulářů, notifikací o stavu řešení žádostí a zkrácení čekacích lhůt, což jistě veřejnost ocení.

Výhody zavádění AI ve státní sféře jsou velmi podobné těm, jako ve firmách. Redukce chyb a zrychlení rozhodovacích procesů., úspora nákladů a snížení objemu manuálních úkolů.

Je ale pravda, že v tomto sektoru není příliš místa pro kreativní tvoření, takže zde je právě jedna z cest snižování počtu úředníků, snižování nákladů státního rozpočtu na provoz úřadů a snižování nadměrné byrokratické zátěže pro občany, která za posledních několik desetiletí narostla o stovky procent.

Jaká jsou rizika a omezení?

Jsou zde nedostatečné personální i technické kapacity ve státní správě které zatím brzdí plošné nasazení AI. Je to celkem pochopitelné, jelikož byrokratický systém má tendenci sám sebe rozšiřovat a nikoliv potlačovat. S tímto jevem se můžeme setkat i ve velkých korporátních společnostech.

Dále je zde menší důvěra široké části veřejnosti v transparentnost a ochranu dat před zneužitím pro mocenské účely, či komerční účely, jak se to již několikrát v minulosti stalo, kdy došlo k velkým únikům dat komerční sféře.

Tuto nedůvěru je nutné odstranit a to asi nejlépe otevřenou komunikací a přehledným systémem, ve kterém se bude občan orientovat a který bude na maximální míru zjednodušený. Také je nutné těmto únikům důsledně bránit a data občanů maximálně chránit před zneužitím.

Přesto všechno je toto jedna z cest, jak omezit byrokracii, zpřehlednit systém a zpřístupnit vše občanům. A do toho samozřejmě patří drastické snížení počtu právních předpisů, které často pouze komplikují život, než aby přinášely nějaké pozitivní výsledky.

Naše redakce již o AI psala a jsou to velmi zajímavé a nevšední informace, jak může třeba neregulované a nesprávné použití AI dopadnout.

(redakce)

foto: Miroslav Neumaier – tvoje příběhy.