Vytvořeno pomocí AI. Ostuda, nebo docela užitečná informace?

Fotografii někdo vyfotografoval, hudbu někdo složil a nahrál, ilustraci nakreslil grafik a text napsal jeho autor.

Dnes už to tak jednoduché není.

Obrázek mohl vzniknout pomocí generativní umělé inteligence, hlas ve videu nemusí patřit skutečnému člověku a hudební podkres nemusela nikdy zahrát žádná kapela. Také text mohl vzniknout s větší či menší pomocí jazykového modelu.

A spolu s tím přichází otázka, zda bychom takový obsah měli nějak označovat.

Podle nás ano.

Ne proto, že by generovaný obsah byl něco méněcenného, za co bychom se měli omlouvat. Právě naopak.

Obrázek k článku nemusí viset v Národní galerii

Představme si poměrně obyčejný článek o zabezpečení internetového bankovnictví.

Potřebujeme k němu úvodní obrázek.

Můžeme najmout fotografa, pronajmout vhodné prostředí, sehnat model, připravit scénu s notebookem a telefonem, fotografii následně upravit a výsledný snímek použít jako ilustrační fotografii k článku.

Technicky naprosto správný postup.

Ekonomicky už může být poněkud zajímavější otázkou, zda má taková produkce u obrázku, jehož hlavním úkolem je vizuálně doplnit několik odstavců textu, vůbec smysl.

Druhou možností je fotobanka. Za relativně malou částku získáme profesionální fotografii, kterou už možná používá několik desítek dalších webů.

A třetí možností je vytvořit ilustraci pomocí generativní AI přesně pro dané téma.

Pokud netvrdíme, že jde o autentickou fotografii skutečné události nebo naši vlastní fotografickou tvorbu, nevidíme na takovém použití nic problematického.

Obrázek zde není uměleckým dílem, na kterém stojí hodnota článku.

Má informační a ilustrační funkci.

Podobně je na tom hudba

Ještě zajímavější může být situace u videa.

Tříminutové prezentační video potřebuje hudební podkres. Nechceme vydávat hudební album, pořádat koncert ani přesvědčovat posluchače, že jsme právě objevili nového Mozarta.

Potřebujeme hudbu, která bude odpovídat tempu a náladě obrazu a kterou budeme moci pro daný účel legálně použít.

Dříve jsme sáhli po hudební bance nebo nechali skladbu vytvořit na zakázku. Dnes může být jednou z možností také hudba generovaná pomocí AI.

Opět záleží především na tom, co s výsledkem děláme.

Pokud takto vytvořenou skladbu použijeme jako hudební podkres firemní prezentace, jde především o produkční nástroj.

Pokud bychom ji naopak vydávali za vlastní hudební tvorbu, vyprávěli o tom, jak jsme několik nocí hledali správnou melodii, a následně přebírali cenu za nejlepší skladbu roku, dostáváme se do poněkud jiné situace.

Problém tedy nemusí být v samotném nástroji.

Problém může být v tom, co o výsledku tvrdíme.

Co vlastně znamená signování AI obsahu?

Pod označováním nebo signováním generovaného obsahu si není nutné představovat obrovský nápis „POZOR, VYROBILA UMĚLÁ INTELIGENCE“ přes polovinu fotografie.

Smyslem je především možnost zjistit původ obsahu.

U obrázku, videa nebo zvuku mohou být informace o způsobu vzniku součástí metadat nebo jiného technického záznamu připojeného k souboru. V jiných případech může být vhodné prosté lidsky srozumitelné označení, že byl obsah vytvořen nebo upraven pomocí AI.

Důležité přitom není jen samotné označení „AI“.

Zajímavější je informace o původu.

Kdo obsah vytvořil, jak vznikl, zda byl následně upraven a případně zda lze ověřit, že od okamžiku vzniku nedošlo k jeho změně.

V době, kdy lze během několika minut vytvořit velmi přesvědčivou fotografii, hlasovou nahrávku nebo video prakticky čehokoliv, začíná být právě informace o původu obsahu poměrně cenná.

Koho takové označení chrání?

Na první pohled samozřejmě člověka, který se na obsah dívá.

Pokud vidím realistickou fotografii hořící budovy, je pro mě poměrně podstatné vědět, zda jde o skutečný záznam události, ilustrační fotomontáž nebo kompletně vytvořený obraz.

U fotografie doprovázející článek o pojištění domácnosti na tom možná příliš nezáleží.

U fotografie údajné aktuální katastrofy už docela ano.

Totéž platí pro video nebo hlas.

Možnost vytvořit záznam člověka, který říká něco, co nikdy neřekl, přináší trochu jiné problémy než možnost vygenerovat fotografii usměvavého instalatéra k článku o opravě vodovodu.

Obojí může být vytvořeno stejnou technologií.

Společenský význam obou obrázků je však poněkud odlišný.

Označení chrání také autora a vydavatele

Transparentnost ale nechrání pouze příjemce.

Chrání také člověka nebo firmu, která obsah publikuje.

Pokud u ilustračního obrázku otevřeně uvádíme, že byl vytvořen pomocí AI, nikoho nepřesvědčujeme, že jde o dokumentární fotografii nebo práci konkrétního fotografa.

U generovaného hlasu netvrdíme, že skutečný člověk něco namluvil.

A pokud při přípravě textu používáme jazykový model jako pomocný nástroj, nemusíme předstírat, že každé jednotlivé slovo vzniklo při osamělém autorském rozjímání nad klávesnicí.

Podstatné je, kdo za výsledný obsah odpovídá.

AI totiž může vytvořit návrh textu během několika sekund.

Za to, že v něm nejsou nesmysly, že odpovídá skutečnosti a že jej chceme zveřejnit pod svým jménem, už ovšem odpovídá člověk.

A alespoň podle nás je toto rozdělení rolí docela zdravé.

Kde končí nástroj a začíná autor?

Tato otázka ostatně není úplně nová.

Fotograf používá fotoaparát, automatické ostření a software, který může dopočítávat expozici, odstraňovat šum nebo výrazně upravit výsledný obraz.

Grafik používá knihovny fotografií, fonty a nejrůznější grafické nástroje. Hudebník může pracovat se samply, syntetizátory a předpřipravenými zvuky. Programátor už desítky let používá knihovny obsahující kód, který sám nenapsal.

Použití nástroje tedy samo o sobě autorství neruší.

Generativní AI však posunula množství práce, kterou může nástroj převzít, o poměrně velký kus dál.

Proto dává smysl o jejím použití mluvit otevřeně.

Ne jako o přiznání viny.

Spíše jako o informaci, jakým způsobem obsah vznikal.

Generovaný obsah může výrazně zlevnit produkci

Právě zde podle nás leží jedna z největších praktických výhod generativní AI.

Ne každý projekt má rozpočet na fotografa, kameramana, hudebního skladatele, hlasového interpreta, grafika a copywritera současně.

A především – ne každý výstup takovou produkci potřebuje.

Pokud vytváříme hlavní fotografickou kampaň značky, portréty zaměstnanců nebo video, které má reprezentovat skutečnou výrobu konkrétní firmy, bude mít profesionální fotograf nebo kameraman stále velmi dobrý důvod vstát ráno z postele.

Pokud ale potřebujeme ilustrační obrázek ke krátkému článku, několik sekund hudebního podkresu nebo jednoduchou animaci vysvětlující princip služby, může generativní nástroj snížit cenu výroby velmi výrazně.

A někdy také umožní vytvořit obsah, který by jinak nevznikl vůbec.

To podle nás není ostuda.

Je to ekonomika produkce.

Levnější ale neznamená bez odpovědnosti

Bylo by samozřejmě příliš jednoduché dojít k závěru, že když něco vytvořila AI, můžeme s výsledkem dělat úplně cokoliv.

Nemůžeme.

Stále musíme řešit podmínky konkrétní služby, způsob použití výsledku, případná práva dalších osob, ochranné známky, podobu skutečných lidí nebo materiály, které jsme při tvorbě použili jako vstup.

Stejně tak bychom neměli generovaný obsah používat způsobem, který má příjemce úmyslně uvést v omyl.

Realisticky vygenerovaný obrázek výrobku, který firma ve skutečnosti nevyrábí, je něco jiného než ilustrační obrázek k článku o daném tématu.

Stejný nástroj. Poněkud jiný problém.

Možná časem přestaneme řešit, zda obsah vytvořila AI

S generativní umělou inteligencí se dnes děje něco podobného jako s řadou technologií před ní.

Dokud je nová, velmi intenzivně řešíme samotný fakt, že byla použita.

Postupem času bude patrně podstatnější něco jiného.

Je obsah pravdivý? Je použit legálně? Nevydává se za něco, čím není? Víme, odkud pochází? A pokud má zachycovat skutečnou událost, můžeme jeho autenticitu nějak ověřit?

Právě zde může mít technické signování a informace o původu obsahu mnohem větší význam než jednoduchá nálepka „vytvořeno AI“.

Generovaný obsah totiž nemusíme schovávat.

Pokud obrázek k článku vytvořila umělá inteligence, klidně to můžeme říci. Pokud nám pomohla připravit grafiku, hudební podkres nebo první návrh textu, není příliš důvod tvrdit opak.

Umělá inteligence nám umožňuje některé věci vytvořit rychleji a levněji.

To je koneckonců jeden z důvodů, proč nástroje používáme.

Když elektrikář přijede na zakázku s akušroubovákem, také od něj neočekáváme, že se omluví, protože všechny šrouby neutáhl ručně.

Podstatné je, co vytvořil, zda za výsledkem stojí a zda nám o způsobu jeho vzniku netvrdí něco, co není pravda.