Ko AI ustvarja žgečkljive vsebine

Dreamstime

AI / TECH AI

Ko AI ustvarja žgečkljive vsebine

Evropska komisija preiskuje platformo X, ker naj bi njeno AI-orodje Grok omogočalo ustvarjanje spolno eksplicitnih vsebin resničnih ljudi.

Avtor: Kaja Kovič

27. januar 2026.

Grok je omogočal nastanek seksualiziranih podob brez soglasja upodobljenih oseb, kar pomeni možno kršitev pravil o varnosti uporabnikov v Evropski uniji. Če bo X spoznan za kršitelja, mu grozi kazen do šest odstotkov letnega globalnega prometa.

Regulatorji pa ne preverjajo le vsebine, temveč tudi algoritme, ki takšne podobe širijo med uporabniki. Vprašanje je, ali je platforma tveganja poznala in ali jih je dovolj hitro omejila.

Globalni odzivi

Nekatere države so ukrepale neposredno. Indonezija in Malezija sta Grok začasno prepovedali; Malezija je prepoved kasneje umaknila, a nadzor ostaja; v Združenem kraljestvu pa preiskavo vodi regulator Ofcom. V ZDA pa je odziv obramben. Ameriški državni sekretar Marco Rubio je evropske kazni označil kot napad na ameriška tehnološka podjetja. Njegovo stališče je javno podprl tudi lastnik platforme Elon Musk.

*Powered by Zavod AI-D

Hvala, ker berete Marketing Magazin!

Članek, ki ste ga odprli, je na voljo samo naročnikom. Naročite se na enega od naših paketov in berite besedila iz najnovejše številke brez omejitev!

NAROČI SE

Že imate profil? Prijavite se tukaj