Ikona ni ščit: Kaj morate vedeti, preden označite UI-vsebino

Te dni po medijih, mailingih in družbenih omrežjih kroži novica: AKOS je pripravil slovenske ikone za označevanje UI vsebin, »UI«, »UI USTVARJENO« in »UI SPREMENJENO«. Stvar deluje preprosto, všeč nam je, ker je rešitev brezplačna in na prvi pogled precej enostavna za uporabo. Mi smo šli korak dlje in odvetnika vprašali, kaj se skriva za oznako.

Odgovor je nekoliko manj udoben, kot je videti ikona sama.

Zgodba, ki jo je sprožil hamburger

Foto: Zavod AI-D

Ivo Grlica, odvetnik, specializiran za pravo novih tehnologij in umetne inteligence, začne s precej vsakdanjim prizorom: »Na dopustu sem listal restavracijski meni s fotografijami popolnih jedi. Predobrih, da bi bile resnične. In res niso bile. Ustvarila jih je umetna inteligenca. Nihče tega ni povedal.«

Od avgusta letos je takšen primer lahko pravno problematičen. Ne zato, ker bi bila fotografija, ustvarjena z umetno inteligenco, prepovedana, temveč zato, ker je pri določenih vsebinah treba jasno razkriti njihov umetni izvor. In tu se zgodba o preprosti ikoni začne zapletati.

 

Kaj 50. člen dejansko zahteva

Akt o umetni inteligenci, sprejet leta 2024, se realizira postopoma. Od februarja 2025 veljajo prve prepovedi in obveznosti glede UI pismenosti zaposlenih, od 2. avgusta 2026 pa se začnejo uporabljati tudi pravila preglednosti iz 50. člena. Slovenija je izvedbeni zakon, ZIUDHPUI, sprejela novembra 2025.

Kaj to pomeni za podjetja?

• Klepetalniki: če s stranko komunicira UI, mora biti posameznik o tem obveščen, razen kadar je to očitno že iz okoliščin.
• Strojno označevanje: za tehnično označevanje vsebine mora poskrbeti ponudnik sistema. Za podjetje pa ostaja pomembno vprašanje, katera orodja uporablja in ali ta izpolnjujejo zahtevane obveznosti.
• Globoki ponaredki: kadar umetno ustvarjena ali spremenjena vsebina prikazuje resnične osebe, predmete, kraje ali dogodke in bi lahko delovala pristno, je treba razkriti, da je bila ustvarjena ali spremenjena z umetno inteligenco. To lahko vključuje tudi fotografijo hamburgerja.
• Prepoznava čustev in biometrična kategorizacija: posameznike je treba o uporabi takšnih sistemov obvestiti. Vprašanje zato ni pomembno le za marketing, temveč tudi za kadrovske službe in uporabo orodij, ki analizirajo kandidate.

Izjema obstaja: besedila o temah javnega interesa razkritja ne potrebujejo, če vsebino pred objavo pregleda in zanjo prevzame odgovornost človek.

»Odločilno je, ali slika deluje kot pristna fotografija. Popolnoma enako velja za izdelke v spletnih trgovinah. Kar se je nekoč fotografiralo, se danes pogosto ustvari z umetno inteligenco. Če taka slika deluje kot fotografija izdelka, sodi zraven oznaka,« poudarja Grlica.

Cena molka

Globe po ZIUDHPUI niso simbolične. Za družbo lahko znašajo od 25.000 do 250.000 evrov, za veliko gospodarsko družbo od 100.000 do 450.000 evrov, za samostojnega podjetnika pa od 15.000 do 100.000 evrov. Odgovorna oseba lahko plača od 2.500 do 10.000 evrov, posameznik pa 2.000 evrov.

Tu pridemo do podrobnosti, ki jo je ob všečnih ikonah najlažje spregledati: uporaba ikone sama po sebi še ne pomeni skladnosti z aktom. Nalepiti »UI USTVARJENO« na sliko ni enako kot imeti urejene procese. Oznaka je namreč šele zadnji, uporabniku vidni del precej širšega sistema odgovornosti.

Zakaj sploh vztrajati pri oznakah

Ena od težav umetne inteligence je prav v tem, da ljudje pogosto ne vedo, da gledajo ali poslušajo umetno ustvarjeno vsebino. Prav na tej nejasnosti temeljijo tudi nekatere najodmevnejše prevare z globokimi ponaredki.

Leta 2024 je zaposleni v hongkonški pisarni britanske inženirske skupine Arup sodeloval na videoklicu, na katerem je verjel, da govori s finančnim direktorjem in sodelavci. V resnici so bili vsi drugi udeleženci globoki ponaredki. Po njihovih navodilih je drugam nakazal približno 25 milijonov ameriških dolarjev.

Detektorji ponaredkov so bili eden prvih odgovorov na takšne prevare, vendar ustvarjalna tehnologija napreduje hitreje od njihove sposobnosti zaznavanja. Zato se pozornost vse bolj seli od vprašanja, kako ponaredek odkriti, k vprašanju, kako dokazati izvor vsebine. Gre za tako imenovani »provenance«, pri katerem se podatki o izvoru in nastanku vsebine zabeležijo že ob njenem nastanku. Med najbolj znanimi rešitvami sta standard C2PA in Googlov SynthID.

Toda tehnologija sama ne rešuje vprašanja odgovornosti. Po Grličinem mnenju je prav v tem pomembnost 50. člena: označevanje iz tehničnega vprašanja spreminja v širši standard preglednosti.

Kaj to pomeni za vaš marketing v ponedeljek

Preden nekdo v marketinški ekipi na naslednjo kampanjo prilepi ikono, bi moralo podjetje znati odgovoriti na tri precej preprosta vprašanja.

• Katera UI orodja zaposleni sploh uporabljajo?
• Kdo vsebino pregleda pred objavo?
• Kdaj je razkritje obvezno?

Če odgovorov ni, je oznaka predvsem kozmetika. Ikona je brezplačna. Proces, ki mora stati za njo, pa ni. In prav odločitev o tem, kdo uporablja umetno inteligenco, za kaj jo uporablja, kdo vsebino preverja in kdo zanjo prevzame odgovornost, bo za podjetja precej pomembnejša od izbire prave ikone.