Keď Tim Cook v júni 2017 vystúpil na promóciách Massachusetts Institute of Technology, umelá inteligencia bola pre väčšinu ľudí neviditeľnou vrstvou vo vyhľadávaní, odporúčaniach a rozpoznávaní obrazu. Generatívne chatboty ešte neboli každodenným pracovným nástrojom. Napriek tomu pomenoval napätie, ktoré je dnes v centre diskusie: menej ho znepokojovala predstava počítačov mysliacich ako ľudia než ľudí mysliacich ako počítače, bez hodnôt, súcitu a záujmu o dôsledky.
Tento výrok nie je odmietnutím technológie. Cook v prejave hovoril aj o jej schopnosti riešiť problémy a slúžiť ľuďom. Jeho pointa bola presnejšia: technológia sama neurčuje, čo je dobré, spravodlivé alebo hodné úsilia. Dokáže zrýchliť rozhodnutie, odhaliť vzor a optimalizovať zvolený cieľ. Niekto však stále musí rozhodnúť, aký cieľ má systém sledovať, koho záujmy zohľadní a aké dôsledky sú neprijateľné.
Počítačová logika nie je morálny kompas
Počítač pracuje s formálne vyjadrenými pravidlami, dátami a optimalizačnými cieľmi. Aj generatívny model, ktorý komunikuje prirodzeným jazykom a pôsobí empaticky, vytvára výstup na základe naučených vzorov a aktuálneho kontextu. Nemá ľudskú skúsenosť s následkami svojho odporúčania a nenesie zaň spoločenskú ani právnu zodpovednosť. Schopnosť formulovať presvedčivú odpoveď preto nemožno zamieňať so schopnosťou robiť hodnotové rozhodnutia.
Problém vzniká, keď organizácia preloží zložitú realitu do jedného skóre a potom začne skóre považovať za realitu. Produktivita sa zúži na počet vybavených úloh, kvalita zákazníka na pravdepodobnosť nákupu a vhodnosť uchádzača na podobnosť s historicky úspešnými pracovníkmi. Model môže metriku optimalizovať veľmi efektívne. Ak však metrika ignoruje dôstojnosť, rovnosť príležitostí alebo dlhodobý vzťah, systém bude efektívne reprodukovať nesprávne zadanie.
Najväčšie riziko je pohodlné odovzdanie úsudku
Generatívna AI znižuje námahu potrebnú na vytvorenie textu, analýzy či návrhu. To je jej veľká hodnota, no aj zdroj kognitívneho pokušenia. Keď odpoveď vyzerá hotovo, používateľ ľahšie preskočí kontrolu predpokladov. Keď systém ponúkne desať možností, môže sa zdať, že priestor rozhodovania bol vyčerpaný. V skutočnosti model vychádza z toho, čo dostal v zadaní a čo pozná zo svojho tréningu; nemusí zachytiť tichý kontext, mocenskú nerovnováhu ani budúci dôsledok.
Zodpovedné používanie preto neznamená kontrolovať iba faktické chyby. Potrebné je pýtať sa, aké hodnoty sú vložené do zadania, kto môže byť výsledkom poškodený a čo v dátach chýba. Pri bežnom marketingovom texte môže byť riziko malé. Pri výbere zamestnanca, posúdení zdravotného prípadu, úvere alebo moderovaní obsahu je kvalita hodnotového rámca rovnako dôležitá ako technická presnosť.
Empatia nie je tón odpovede
Moderné modely dokážu vytvoriť citlivý a podporný jazyk. Takýto tón môže byť užitočný, no nie je dôkazom skutočnej empatie. Empatia zahŕňa porozumenie situácii druhého človeka, ochotu niesť vzťahové dôsledky a schopnosť upraviť konanie podľa jeho reakcie. Model môže simulovať formu empatickej komunikácie bez osobného záujmu alebo skúsenosti.
Pre zákaznícku komunikáciu z toho vyplýva, že AI môže pripraviť návrh, sumarizovať problém a pomôcť udržať konzistentný tón. Nemala by však zakryť situácie, ktoré potrebujú ľudský zásah. Nahnevaný zákazník nemusí potrebovať dokonale uhladenú odpoveď, ale priznanie chyby, konkrétnu nápravu a človeka s právomocou konať. Automatizácia bez eskalačnej cesty môže pôsobiť zdvorilo a zároveň úplne bez súcitu.
Hodnoty sa musia prejaviť v návrhu procesu
Etický dokument uložený na intranete nestačí. Hodnoty musia byť viditeľné v tom, aké dáta smie model spracovať, pri ktorých krokoch potrebuje schválenie a ako môže používateľ výsledok napadnúť. Ak firma deklaruje transparentnosť, mala by vedieť vysvetliť, kedy bol výstup vytvorený s pomocou AI. Ak zdôrazňuje súkromie, nemôže zamestnancov tlačiť do verejných nástrojov bez jasných pravidiel pre citlivé informácie.
Praktické hranice sa dajú postaviť podľa dopadu rozhodnutia. Nízko rizikové úlohy, ako formátovanie textu alebo prepis poznámok, môžu byť vysoko automatizované. Pri rozhodnutiach s finančným, právnym alebo ľudským dopadom má zostať identifikovateľný zodpovedný človek. Ten potrebuje dostatok času a informácií, aby mohol odporúčanie odmietnuť. Formálne tlačidlo „schváliť“ nie je ľudská kontrola, ak je pracovník hodnotený iba podľa rýchlosti a nemá reálnu možnosť zmeniť výsledok.
Keď metriky vytlačia zmysel
Digitálne prostredie zvádza merať všetko, čo sa dá spočítať. Kliknutia, čas, konverzie a počet výstupov sú užitočné ukazovatele, ale nepokrývajú dôveru, reputáciu, duševnú záťaž ani kvalitu medziľudského vzťahu. AI dokáže optimalizovať merateľné ciele vo veľkom rozsahu, čím môže zosilniť ich slepé miesta. Ak redakcia hodnotí obsah iba podľa návštevnosti, systém sa prirodzene posunie k dramatickejším titulkom. Ak call centrum sleduje iba dĺžku hovoru, môže trestať pracovníkov za poctivé riešenie zložitého problému.
Ľudské myslenie potrebuje tolerovať aj hodnoty, ktoré sa nedajú okamžite previesť na číslo. To neznamená odmietnuť dáta, ale interpretovať ich v kontexte. Dobrá metrika je pomôcka pri rozhodovaní, nie náhrada účelu. Organizácia by mala pravidelne kontrolovať, či optimalizácia nevytvára správanie, ktoré je síce úspešné podľa dashboardu, ale v rozpore s tým, čo firma tvrdí zákazníkom a zamestnancom.
Kritické myslenie ako každodenná pracovná zručnosť
Pri AI sa kritické myslenie často redukuje na overovanie faktov. Potrebujeme však aj schopnosť odhaliť rámec odpovede. Prečo model problém rozdelil práve takto? Ktoré alternatívy nezahrnul? Aký predpoklad prijal bez dôkazu? A zmenil by sa návrh, keby sme do zadania pridali perspektívu človeka, ktorý nesie negatívny dôsledok?
Užitočným postupom je nechať model pomenovať neistoty a argumenty proti vlastnému návrhu, potom však rozhodnutie posúdiť nezávisle. Pri dôležitých úlohách má význam oddeliť autora, kontrolóra a schvaľovateľa, aj keď AI pomáha vo všetkých troch fázach. Rovnaký model s rovnakým kontextom nemusí byť skutočne nezávislou kontrolou seba samého.
Vzdelávanie používateľov by nemalo byť iba školením promptov. Potrebujú rozumieť limitom, ochrane dát, možnosti halucinácií a rozdielu medzi plynulosťou a pravdivosťou. Rovnako dôležité je vedieť, kedy nástroj nepoužiť. Profesionálna kompetencia v ére AI zahŕňa schopnosť využiť automatizáciu aj schopnosť prevziať späť manuálnu kontrolu.
