Umelá inteligencia generuje obsah závratným tempom. Obrázky, texty, videá – všetko vyzerá čoraz realistickejšie a je čoraz ťažšie rozoznať, čo vytvoril človek a čo stroj. Práve preto sa v posledných mesiacoch čoraz častejšie hovorí o vodoznačení. Zdalo by sa, že technologické firmy konečne prichádzajú s riešením, ako zabezpečiť transparentnosť a chrániť nás pred dezinformáciami. Pravda je však o niečo zložitejšia a menej altruistická.
Skutočný dôvod: regulácia
Hlavným hybateľom tohto trendu nie je náhle prebudené sociálne cítenie gigantov, ale regulácia. Európska únia prijala nariadenie o umelej inteligencii (EU AI Act), ktoré od spoločností vyžaduje, aby obsah generovaný AI jasne označovali. Tento regulačný tlak prinútil spoločnosti ako Anthropic a Google pretaviť svoje sľuby o transparentnosti do reálnej infraštruktúry. Inak by im hrozili miliardové pokuty a zákaz činnosti na európskom trhu.
Ako fungujú vodoznaky v praxi?
Ako teda tieto technológie fungujú v praxi? Spoločnosť Anthropic zvolila cestu vkladania neviditeľného, strojovo čitateľného vzoru priamo do generovaného textu. Tento vzor je vložený na úrovni samotného jazykového modelu, čo znamená, že je prítomný v každom vygenerovanom odseku. Je to podobné, ako keby každá veta mala svoj vlastný mikroskopický podpis. Google zase používa technológiu SynthID, ktorá funguje naprieč médiami – dokáže označiť obrázky, audio, video a dokonca aj text. V obrázkoch sú vodoznaky vložené priamo do pixelov, v audio sú vložené do frekvenčného spektra.
Prečo to nie je dokonalé riešenie?
Zdá sa to ako dokonalé riešenie. Stačí skontrolovať vodoznak a hneď vieme, či máme dočinenia s výtvorom človeka, alebo AI. Problém je však v tom, že tieto vodoznaky nie sú ani zďaleka nezvratiteľné. Úpravy obrazu, jednoduchý screenshot, kompresia videa alebo len prepísanie textu dokážu tieto značky bez väčších problémov odstrániť. Detekcia je tak vždy len „najlepším odhadom“, nie stopercentnou zárukou. Ak niekto chce šíriť dezinformácie, jednoducho urobí screenshot, alebo pregeneruje text cez iný model, a vodoznak zmizne.
Čo si o tom myslia odborníci?
Odborníci na bezpečnosť a dezinformácie sú voči vodoznakom skeptickí. Upozorňujú, že ide skôr o psychologický efekt – aby si používatelia mysleli, že obsah je kontrolovaný – než o skutočnú technickú prekážku pre zlých aktérov. Navyše, ak sa vodoznačenie stane štandardom, dezinformátori sa jednoducho prispôsobia a nájdu spôsoby, ako ho obísť. Je to nekonečný závod v zbrojení, v ktorom útočníci majú vždy výhodu.
Budúcnosť vodoznačenia
Technologické firmy si dobre uvedomujú nedokonalosť svojich riešení, no aj napriek tomu do vodoznačenia investujú obrovské prostriedky. Prečo? Pretože im to umožňuje preukázať regulatornym orgánom, že robia maximum pre dodržanie pravidiel. Je to teda skôr o splnení formálnych požiadaviek než o skutočnej ochrane používateľov. V budúcnosti môžeme očakávať sofistikovanejšie technológie, možno aj s využitím blockchainu, ale zatiaľ sú vodoznaky skôr politickým než technickým riešením.
Vodoznaky v AI obsahu sú dôležitým krokom správnym smerom, ale nie sú všeliekom. Ich hlavnou úlohou je vytvoriť právny a etický rámec pre používanie umelej inteligencie, nie stoprocentne zabrániť dezinformáciám. Ako používatelia by sme mali byť vďační za každý nástroj, ktorý nám pomáha orientovať sa v digitálnom svete, no zároveň by sme nikdy nemali prestať myslieť sami za seba. Kritické myslenie zostáva našou najlepšou ochranou.
