Sociálními sítěmi se šíří sdílené příspěvky a obrázky oslavující, jak se Evropské unie (konkrétně Evropská komise) dokázala vypořádat s AI obsahem v médiích a na internetu. Bližší pohled na situaci ale dává tušit, že jen vzniká další balast, který v podstatě nic neřeší, navyšuje administrativu, pro média představuje zbytečnou zátěž a pro uživatele nárůst vizuálního smogu, případně obtěžující upozornění.

Ale pěkně postupně. Dozvídáme se o dvou prvcích, které některé zdroje trochu míchají: Připravuje se „Code of Practice“ (Kodex správné praxe) a AI Act. Obojí do jisté míry souvisí, ale Cod of Practice je dobrovolná záležitost, zatímco AI Act má být právně závazný, povinný. Zaměřme se tedy na AI Act.

Jeden z masově sdílených příspěvků na toto téma, mírně zavádějící a v současnosti již skrytý nebo smazaný (Pirat_Nation)

Kupříkladu se dozvídáme, že „V rámci AI Act musejí být uživatelé jasně informováni, pokud interagují s AI, AI-generovaným nebo AI-upraveným obsahem, včetně deepfakes. Tento obsah musí být označen, aby lidé věděli, že byl vytvořen nebo upraven s použitím AI“.

Na první pohled se takový předpis může zdát oprávněný, možná až skvělý a smysluplný. Pokud však máte přehled o současném stavu multimediálního světa, vyplyne, že jsou takové požadavky vlastně nesmyslné a nemohou mít reálný přínos. Jen budou generovat administrativní zátěž a balast.

Proč?

Důvody jsou prosté. V dnešní době je každá fotografie pořízená moderním zařízením zpracována AI algoritmy. Navíc nejde o záležitost posledního roku nebo dvou, v různé míře se jednodušší i pokročilejší řešení vycházející z AI používá řadu let. Redukce šumu, vyvážení bílé, stabilizace, úprava rozlišení (up/down-scaling)… ap. jsou prováděné automaticky s využitím AI, často aniž by to uživatel věděl. V praxi by to znamenalo, že by štítkem „AI“ musel být označen prakticky veškerý mediální obsah, takže samotný AI Act by nepřinesl nic než vizuální smog (AI všude kam se podíváš), případně preventivní vyskytující upozornění (ve stylu upozornění cookies), že na web může obsahovat AI obsah.

Evropská komise se brání tím, že by označení vyžadovala jen tam, kde není AI využito pro technickou stránku, ale pouze tam, kde je použito pro změnu obsahu. Což je však velmi teoretický řez. Praxe nemá ostrou hranici a čím novější AI nástroje a služby, tím větší problém je vůbec nějakou hranici najít.

V první řadě tímto vyjádřením popírá Evropská komise celý koncept, podstatu. Vlastně tím tvrdí, že AI Act není o AI, ale o úpravě obsahu. Jenže Komise chce řešit regulaci AI, tak reguluje AI a nedochází ji absurdita celé situace: Pokud si nechám od AI vytvořit obrázek, kde Ursula von der Leyen líbá Vladimira Vladimiroviče Putina, musím snímek označit jako AI vygenerovaný. Pokud ale k vytvoření snímku použiji Photoshop a udělám to ručně, nemusí být snímek označen a je to podle AI Act v pořádku.

Ze stanoviska Evropské komise vyplývá, že manipulace je problém, jen když vznikla s použitím AI (ChatGPT)

Evropská komise tedy cítí nutkavou potřebu regulovat, ale vlastně neví co, a vlastně ani neví jak. Když jí byla vysvětlena absurdita označování AI jako takového, posunula se k označování (řekněme) manipulace obsahu, ale vlastně ne veškeré manipulace obsahu, ale pouze té, kde bylo k aktu manipulace využito AI. Manipulace jako taková není problém, jen pokud sáhnete po AI, může to být vošajslich.

AI nezná hranici mezi technickým zpracování a změnou obsahu

V druhé řadě žádná ostrá hranice mezi technickým zpracování a manipulací v případě AI neexistuje. I když mnohé z dostupných modelů požádám o technickou úpravu obrázku bez změny obsahu, scénu si zanalyzují a překreslí, takže je výstupem záběr z nepatrně odlišného úhlu, s trochu odlišnou kompozicí, a řadou různě významných rozdílů. Cílem sice byla technická úprava, ale také je do jisté míry (a v tomto kontextu často nezanedbatelně) změněn i samotný obsah. Podobně tak upscaling fotografie v nízkém rozlišení, kde často AI využívá funkce detekce obličejů, které zrekonstruuje odlišnými algoritmy, aby nebyly zdeformované. Každý algoritmus ale obličeje zrekonstruuje jinak, nějakým způsobem posune jejich podobu. Mělo tedy jít o technické řešení, ale reálně se mění o obsah.

Teď si představte, že v takto zvětšené fotografii posune AI něčí podobu blíže podobě Ursuly nebo Vladimira Valdimiroviče. Zachycený člověk se urazí a podá žalobu, že fotografie nebyla označena jako AI upravená. Autor se bude bránit, že šlo pouze o technickou úpravu, která nemusí být označená. Žalující strana bude tvrdit, že šlo jistě o záměr a zlý úmysl a nelze takovou změnu považovat za technickou, neboť sám jako Ursula či Vladimir nevypadá. Autor však nebude mít možnost dokázat své stanovisko opakováním technického postupu před soudem, neboť z AI ani při identickém zadání nemusí padat identický výstup. Navíc modely se průběžně mění, AI služby je aktualizují, takže je prakticky jisté, že během času uplynulého mezi zvětšením původní fotky a soudním stáním uteklo více než dost času na to, aby byl model několikanásobně aktualizován a padaly z něj zcela odlišné výstupy. Jak ostatně bylo rozhodnuto již dříve, AI služby nesmějí obsah po smazání uživatelem archivovat, takže autor bude v nezáviděníhodné pozici a možnosti prokázání toho, jak obsah vnzikl (a tedy že šlo o technické použití, nikoli účelovou manipulaci), se budou blížit nule.

Příkladem ostatně může být i DLSS 5 chystané Nvidií. Zatímco upscaling (klasické DLSS / FSR) by bylo možné vnímat jako technické řešení, DLSS 5 cíleně mění vizuální stránku, tedy obsah. Dopustí se uživatel porušení AI Act, když na sociálních médiích nebo v diskuzi zveřejní screenshot ze hry, aniž by jej označil jako AI?

Právní, administrativní a finanční zátěž

Pokud se na situaci podíváme z hlediska médií, která publikují obsah, není problémem pouze samotná možnost, že jim na stole přistane žaloba, kterou prohrají. Problémem je už to, že přistane jakákoli žaloba, byť neopodstatněná, kterou třeba ve výsledku soud zamítne. Řešení každé žaloby či stížnosti totiž stojí obrovské množství času a peněz nejen běžných zaměstnanců firmy, kteří se tím musejí zaobírat, ale také právníků, kteří to budou řešit před soudem. Rovněž lze očekávat, že (podobně jako  se rozšířil autorskoprávní trolling a snahy různých subjektů ze smyšlených důvodů vyhrožovat žalobami pro údajné porušení autorských práv) dojde na AI trolling a vznik řady subjektů, které budou uživatelům a médiím vyhrožovat soudními spory, pokud jim nezaplatí odškodné v důsledku neoznačeného AI obsahu. Mediální firmy to bude opět tlačit k paušálnímu značení veškerého obsahu jako „AI“, aby byly kryté.

Pro uživatele z toho vyplyne vizuální balast nebo obtěžující oznámení, ale zároveň skutečnost, že v podstatě naivní cíl Evropské komise - mít obsah rozdělený na „AI manipulující“ a ostatní zůstane nenaplněn.

Jak to vidí samotná AI?