MedVrsticami

Analiza trditev

claims

• Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.
• Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.
• Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.
• Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.
• Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.
• Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.
• Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.
• Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.
• Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.
• Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.
• Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.
• Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.
• Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približu množični uporabi.
• Plačljiva naročnina omogoča lažjo identifikaciju storilcev, saj platforma hrani osebne podatke.

key differences

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Viri segajo od molka do poročil o grožnji s prepovedjo X.

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.

Večer in RN poudarjata množičnost zlorab, STA in Delo molčita.

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približu množični uporabi.

Le Delo trditev potrjuje, ostali viri je sploh ne omenjajo.

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Viri se ločijo po potrditvi ali le navajanju skrbi o zlorabah.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Glavni mediji trditev potrjujejo, specializirani pa molčijo.

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Le 24ur in Delo potrjujeta izjavo; ostali viri jo prezrejo.

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Le Delo in Računalniške novice izpostavljata kritike NVO.

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Le Računalniške novice potrjujejo sporno delovanje aplikacije.

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Poročajo le Računalniške novice, splošni mediji molčijo.

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Splošni mediji molčijo, specializirani in Delo potrjujejo.

Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.

Le Večer izpostavlja sledljivost plačil, ostali molčijo.

Plačljiva naročnina omogoča lažjo identifikaciju storilcev, saj platforma hrani osebne podatke.

Vsi analizirani viri trditev v celoti prezrejo.

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Le Računalniške novice navajajo točen znesek kazni.

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Večer navaja specifične umore, ostali le splošno nasilje.

source analyses

24ur

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Ni omenjeno

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.

Delno: Omenjeno je ustvarjanje spornih vsebin z uporabo te UI.

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Delno: Omenjene so pornografske vsebine žensk in otrok brez soglasja.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Da: Članek navaja, da je Indonezija prva začasno blokirala Grok.

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Da: Ministrica je to neposredno izjavila v besedilu.

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Ni omenjeno

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Ni omenjeno

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Ni omenjeno

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Ni omenjeno

Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.

Ni omenjeno

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Ni omenjeno

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Delno: Članek omenja nasilne podobe in posnetke, ustvarjene z Grokom.

Delo

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Delno: Starmer je ukrep kritiziral, a prepoved X ni omenjena.

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približu množični uporabi.

Da: Jurgita Lapienytė navaja, da je Grok tovrstne zlorabe poenostavil.

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Da: Članek poroča o ustvarjanju eksplicitnih podob žensk in otrok.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Da: Članek izrecno navaja Indonezijo kot prvo državo s to blokado.

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Da: Ministrica Meutya Hafid je prakso označila za resno kršitev.

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Da: Evropski uradniki in NVO opozarjajo, da to ne rešuje problema.

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Ni omenjeno

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Ni omenjeno

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Da: Članek potrjuje omejitev funkcij na plačljive uporabnike.

Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.

Ni omenjeno

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Ni omenjeno

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Ni omenjeno

Računalniške novice

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Da: Starmer je pozval k nadzoru in omenil možnost prepovedi.

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.

Delno: Omenjena je poplava UI-generiranih podob in zlorabe orodja.

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Da: Članek navaja ustvarjanje pornografije žensk brez soglasja.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Ni omenjeno

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Ni omenjeno

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Da: Kritiki in poslanka opozarjajo, da težava ostaja.

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Da: Članek navaja, da v ločeni aplikaciji to še vedno počnejo.

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Da: AI Forensics je dokumentirala okoli 800 takšnih vsebin.

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Da: Članek potrjuje omejitev funkcije na plačljive naročnike.

Plačljiva naročnina omogoča lažjo identifikaciju storilcev, saj platforma hrani osebne podatke.

Ni omenjeno

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Da: Besedilo izrecno navaja ta pooblastila regulatorja Ofcom.

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Delno: Omenjena je uporaba za slike skrajno nasilne vsebine.

STA

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Ni omenjeno

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.

Ni omenjeno

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Delno: Omenjene so skrbi zaradi spornih pornografskih podob in posnetkov.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Da: Članek navaja, da je Indonezija prva začasno omejila dostop.

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Ni omenjeno

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Ni omenjeno

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Ni omenjeno

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Ni omenjeno

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Ni omenjeno

Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.

Ni omenjeno

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Ni omenjeno

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Delno: Članek omenja skrbi zaradi nasilnih podob in posnetkov.

Večer

Britanski premier Keir Starmer je zagrozil z odločnim ukrepanjem in možno prepovedjo platforme X.

Da: Starmer je zagrozil z ukrepi, omenjena so poročila o prepovedi.

Grok je poenostavil izdelavo spolnih deepfake vsebin in jih približal množični uporabi.

Delno: Omenjena je množična zloraba in tisoče slik po posodobitvi.

Grok omogoča digitalno slačenje žensk in otrok ter ustvarjanje pornografskih vsebin brez privoljenja.

Da: Članek navaja digitalno odstranjevanje oblačil in spolne vsebine.

Indonezija je kot prva država na svetu začasno blokirala dostop do UI asistenta Grok.

Ni omenjeno

Indonezijska vlada vidi globoke ponaredke kot resno kršitev človekovih pravic in dostojanstva.

Ni omenjeno

Kritiki opozarjajo, da omejitev na plačljive uporabnike ne odpravlja problema digitalnega spolnega nasilja.

Ni omenjeno

Ločena aplikacija Grok naj bi neplačljivim uporabnikom še vedno omogočala ustvarjanje eksplicitnih podob.

Ni omenjeno

Organizacija AI Forensics je dokumentirala približno 800 slik in videov s pornografsko vsebino, ustvarjenih z Grokom.

Ni omenjeno

Platforma X je omejila ustvarjanje in urejanje slik samo na plačljive naročnike.

Da: Funkcija je zdaj onemogočena za vse razen za naročnike.

Plačljiva naročnina omogoča lažjo identifikacijo storilcev, saj platforma hrani osebne podatke.

Da: Podatki o karticah omogočajo identifikacijo in sledenje.

Regulator Ofcom ima pooblastila za denarne kazni do deset odstotkov globalnega letnega prometa podjetja.

Delno: Omenjene so grožnje s finančnimi kaznimi in podpora Ofcomu.

Tehnologija Grok je bila uporabljena tudi za generiranje prizorov nasilja, vključno s streljanjem in uboji.

Da: Raziskava je razkrila prizore streljanja in ubojev žensk.

Analiza sentimenta

entities

• Elon Musk
• xAI
• Grok
• Indonezija
• X (družbeno omrežje)
• Keir Starmer
• Združeno kraljestvo
• Meutya Hafid
• Ofcom
• Jurgita Lapienytė
• Cybernews
• AI Forensics
• Jess Asato

key differences

AI Forensics

Le Računalniške novice jo nevtralno navajajo kot preiskovalca.

Cybernews

Le Delo jo navaja kot nevtralen vir o tehničnih napakah.

Elon Musk

Od nevtralne omembe lastništva do kritik zaradi zlorab.

Grok

Vsi viri so enotno negativni; razlike so le v stopnji obsodbe.

Indonezija

Enotno nevtralno o blokadi, Delo izpostavlja prvenstvo.

Jess Asato

Le Računalniške novice jo nevtralno izpostavijo kot govorko.

Jurgita Lapienytė

Le Delo jo izpostavlja kot relevantno strokovno govorko.

Keir Starmer

Viri enotno nevtralni; Delo izpostavlja Muska, drugi nadzor.

Meutya Hafid

Le 24ur in Delo jo nevtralno navajata kot vladno govorko.

Ofcom

Enotno nevtralen opis regulatorja s poudarkom na pooblastilih.

X (družbeno omrežje)

Vsi viri so negativni; poudarjajo pomanjkanje nadzora vsebin.

Združeno kraljestvo

Vsi viri so nevtralni, a z različnimi poudarki na regulaciji.

xAI

Razlika: od nevtralne opredelitve do kritike neukrepanja.

source analyses

24ur

AI Forensics

Ni omenjeno

Cybernews

Ni omenjeno

Elon Musk

Nevtralno: omenjen le kot lastnik podjetja xAI

Grok

Negativno: tarča kritik zaradi spornih vsebin in blokade

Indonezija

Nevtralno: poročanje o vladni odločitvi za blokado dostopa

Jess Asato

Ni omenjeno

Jurgita Lapienytė

Ni omenjeno

Keir Starmer

Ni omenjeno

Meutya Hafid

Nevtralno: citirana kot govorka o vladnih ukrepih

Ofcom

Ni omenjeno

X (družbeno omrežje)

Ni omenjeno

Združeno kraljestvo

Ni omenjeno

xAI

Nevtralno: omenjeno kot lastnik aplikacije Grok

Delo

AI Forensics

Ni omenjeno

Cybernews

Nevtralno: vir informacij, ki poroča o pomanjkljivostih orodja.

Elon Musk

Negativno: kritiziran zaradi ignoriranja opozoril in pomanjkljivih ukrepov.

Grok

Negativno: kritiziran zaradi omogočanja spolnih zlorab in deepfakov.

Indonezija

Nevtralno: omenjena kot prva država, ki je blokirala dostop do orodja.

Jess Asato

Ni omenjeno

Jurgita Lapienytė

Nevtralno: govorka in urednica, ki opozarja na sistemske probleme.

Keir Starmer

Nevtralno: govorec, ki kritizira Muskov ukrep kot žaljiv do žrtev.

Meutya Hafid

Nevtralno: govorka, ki pojasnjuje razloge za blokado v Indoneziji.

Ofcom

Ni omenjeno

X (družbeno omrežje)

Negativno: kritizirano kot platforma, ki omogoča objavo spornih vsebin.

Združeno kraljestvo

Nevtralno: omenjeno prek stališča vlade o nezadostnosti ukrepov.

xAI

Negativno: podjetje kritizirano zaradi neukrepanja ob opozorilih.

Računalniške novice

AI Forensics

Nevtralno: organizacija, ki je dokumentirala sporne vsebine.

Cybernews

Ni omenjeno

Elon Musk

Ni omenjeno

Grok

Negativno: orodje za ustvarjanje eksplicitnih in nasilnih vsebin.

Indonezija

Ni omenjeno

Jess Asato

Nevtralno: govorka, ki opozarja na zlorabe tehnologije.

Jurgita Lapienytė

Ni omenjeno

Keir Starmer

Nevtralno: govorec, ki poziva k nadzoru in kritizira vsebino.

Meutya Hafid

Ni omenjeno

Ofcom

Nevtralno: omenjen kot regulator s pooblastili za ukrepanje.

X (družbeno omrežje)

Negativno: tarča groženj z blokado zaradi pomanjkanja nadzora.

Združeno kraljestvo

Nevtralno: omenjeno v kontekstu regulatornih razprav in groženj.

xAI

Ni omenjeno

STA

AI Forensics

Ni omenjeno

Cybernews

Ni omenjeno

Elon Musk

Nevtralno: omenjen le kot lastnik podjetja xAI

Grok

Negativno: tarča prepovedi zaradi spornih pornografskih vsebin

Indonezija

Nevtralno: poročanje o njeni odločitvi za omejitev dostopa

Jess Asato

Ni omenjeno

Jurgita Lapienytė

Ni omenjeno

Keir Starmer

Ni omenjeno

Meutya Hafid

Ni omenjeno

Ofcom

Ni omenjeno

X (družbeno omrežje)

Ni omenjeno

Združeno kraljestvo

Ni omenjeno

xAI

Nevtralno: omenjeno kot podjetje v lasti Muska

Večer

AI Forensics

Ni omenjeno

Cybernews

Ni omenjeno

Elon Musk

Negativno: sooča se z grožnjami regulatorjev zaradi zlorab orodja

Grok

Negativno: orodje zlorabljeno za nasilne in spolno eksplicitne vsebine

Indonezija

Ni omenjeno

Jess Asato

Ni omenjeno

Jurgita Lapienytė

Ni omenjeno

Keir Starmer

Nevtralno: citiran kot govorec, ki zahteva ukrepanje in nadzor

Meutya Hafid

Ni omenjeno

Ofcom

Nevtralno: omenjen kot regulator s podporo vlade za ukrepanje

X (družbeno omrežje)

Negativno: kritizirano zaradi pomanjkanja nadzora nad nezakonito vsebino

Združeno kraljestvo

Nevtralno: omenjeno v kontekstu poročil o možni prepovedi platforme

xAI

Ni omenjeno

Viri

articles

• article order

  2

  body

  Džakarta, 10. januarja (STA) Indonezija je danes kot prva država na svetu začasno omejila dostop do UI asistenta Grok, ki je v lasti podjetja xAI ameriškega milijarderja Elona Muska, potem ko so se pojavile skrbi zaradi spornih pornografskih in nasilnih podob in posnetkov, ustvarjenih z umetno ...

  language

  slv

  published at

  2026-01-10T12:52:58

  source

  STA

  title

  Indonezija začasno prepovedala Muskovo platformo Grok zaradi spornih vsebin

  url

  https://www.sta.si/3507495/

• article order

  1

  body

  Indonezija je kot prva država na svetu začasno omejila dostop do UI-asistenta Grok, ki je v lasti podjetja xAI ameriškega milijarderja Elona Muska, potem ko so se pojavile skrbi zaradi spornih pornografskih in nasilnih podob in posnetkov, ustvarjenih z umetno inteligenco. "Da bi zaščitili ženske, otroke in javnost pred tveganji, ki jih predstavljajo ponarejene pornografske vsebine, ustvarjene z uporabo umetne inteligence, je vlada začasno blokirala dostop do aplikacije Grok," je v izjavi povedala indonezijska ministrica za komunikacije in digitalne zadeve Meutya Hafid. Vlada v Indoneziji po njenih besedah tovrstne prakse ustvarjanja globokih ponaredkov brez soglasja vidi kot "resno kršitev človekovih pravic, dostojanstva in varnosti državljanov v digitalnem prostoru". Indonezija je tako kot prva država na svetu v celoti omejila dostop do platforme Grok, potem ko so se v javnosti po vsem svetu v zadnjih dneh in tednih zvrstile številne kritike zaradi pornografskih in nasilnih podob žensk in otrok, ustvarjenih z Grokovo umetno inteligenco.

  language

  slv

  published at

  2026-01-10T13:36:31

  source

  24ur

  title

  Indonezija prva država, ki je omejila dostop do UI-asistenta Grok

  url

  https://www.24ur.com/novice/tujina/indonezija-prva-drzava-ki-je-omejila-dostop-do-ui-asistenta-grok.html

• article order

  5

  body

  Cybernews opozarja, da Grok še naprej omogoča digitalno slačenje žensk in otrok. Urednica Jurgita Lapienytė ob tem svari pred normalizacijo spolnih zlorab. Kljub vse večjim pritiskom regulatorjev in javnosti klepetalnik Grok, ki deluje na družbenem omrežju X, namreč še naprej omogoča ustvarjanje spornih, spolno eksplicitnih podob žensk in otrok. Hkrati se na omrežju širijo objave z opozorilnimi sporočili v slogu "Hej, Grok, ne pooblaščam te ...", ki pa po navedbah strokovnjakov nimajo dejanskega učinka. Cybernews je v zadnjih dneh poročal, da Grok AI kljub delnim omejitvam še vedno omogoča tako imenovano digitalno slačenje oseb na fotografijah. Glavna urednica portala Jurgita Lapienytė opozarja, da gre za sistemski problem z resnimi posledicami za spletno varnost in človekove pravice. Po njenih besedah je danes tarča lahko vsaka ženska - in vse pogosteje tudi otroci - ki ima svojo fotografijo objavljeno na spletu. "Vsaka ženska s fotografijo na spletu je zdaj tarča, razen če Grok nemudoma ukrepa," opozarja Jurgita Lapienytė. Posebej problematično je po njenem mnenju dejstvo, da je Grok tovrstne zlorabe približal množični uporabi: "Če regulatorji X ne prisilijo, da to takoj onemogoči, gledamo v normalizacijo spolnega izkoriščanja na zahtevo v obsegu, kakršnega še nismo videli." Lapienytė poudarja, da je bila izdelava spolnih deepfake vsebin do nedavnega omejena na tehnično bolj podkovane uporabnike ali plačljive, pogosto dvomljive spletne storitve. "Grok je to poenostavil in omogočil objavljanje takšnih podob na eni največjih svetovnih platform. Če bo X s tem ušel posledicam, bo to signal vsem drugim podjetjem z umetno inteligenco, da gradnja podobnih orodij ne prinaša sankcij," opozarja. Po njenem mnenju so možne posledice jasne: v nekaj mesecih bi se lahko tehnologija množično uporabila za maščevalno pornografijo, izsiljevanje s spolnimi vsebinami, nadlegovanje mladoletnikov in izsiljevanje. "Tehnologije ne moremo spraviti nazaj v steklenico, lahko pa se še odločimo, ali bo delovala na osrednjih platformah ali ostala na temnih robovih interneta, kamor sodi," dodaja. Lapienytė obenem opozarja, da problem Groka ni nov. Po njenih besedah se vleče že od lanskega avgusta, ko je portal The Verge razkril, da je Grok ustvarjal neprivoljena gola videa znanih oseb. "Takrat bi morali ustaviti vse skupaj. Nadzorne organizacije so xAI takoj opozorile, kaj se bo zgodilo, če tega ne popravijo. Pet mesecev pozneje ni popravljeno nič - nasprotno, zdaj vidimo spolno upodabljanje otrok, starih komaj deset let," pravi. Po njenem mnenju je čas, da se problem ne obravnava več kot tehnična napaka, temveč kot zavestna odločitev: "Na neki točki moramo nehati govoriti o spodrsljaju in začeti govoriti o namerni odločitvi, da se opozorila ignorira." Primer Groka tako postaja test za regulatorje - in za meje družbene sprejemljivosti uporabe umetne inteligence. Indonezija prva blokirala Grok Indonezija je kot prva država na svetu začasno blokirala dostop do klepetalnika Grok, ki ga razvija podjetje xAI v lasti Elona Muska. Razlog so tveganja zlorab umetne inteligence za ustvarjanje neprostovoljih pornografskih vsebin in tako imenovanih spolnih deepfake posnetkov, poroča Al Jazeera. Odločitev je v soboto sporočila indonezijska ministrica za komunikacije in digitalne zadeve Meutya Hafid, ki je prakso neprivoljenih spolnih deepfake vsebin označila za "resno kršitev človekovih pravic, dostojanstva in varnosti državljanov v digitalnem prostoru". Po njenih besedah gre za nujen ukrep za zaščito žensk, otrok in širše javnosti pred škodljivimi učinki generativne umetne inteligence. Začasna blokada prihaja dan po tem, ko je Grok na družbenem omrežju X omejil ustvarjanje in urejanje slik zgolj na plačljive uporabnike. Ukrep je bil odziv na naraščajoče kritike, da je orodje omogočalo spreminjanje fotografij z namenom odstranjevanja oblačil z upodobljenih oseb. Elon Musk je ob tem dejal, da bodo uporabniki, ki bi Grok uporabljali za ustvarjanje nezakonitih vsebin, deležni enakih posledic kot tisti, ki takšne vsebine neposredno nalagajo na platformo. Kljub temu so evropski uradniki in nevladne organizacije ta teden opozorili, da omejitev funkcij na plačljive račune ne rešuje temeljnega problema. Britanski premier Keir Starmer je prek svojega urada ukrep označil za "žaljiv do žrtev" in poudaril, da ne predstavlja sistemske rešitve. Po navedbah Downing Streeta to pomeni zgolj preoblikovanje nezakonite funkcionalnosti v plačljivo storitev, kar po mnenju britanske vlade trivializira problem mizoginije in spolnega nasilja na spletu. Indonezijska odločitev pomeni pomemben precedens v globalni razpravi o regulaciji umetne inteligence in odgovornosti tehnoloških podjetij. Medtem ko Musk in xAI poudarjata individualno odgovornost uporabnikov, vse več držav opozarja, da so potrebni strožji sistemski varovalni mehanizmi, ne zgolj omejitve dostopa. Razprava o mejah generativne umetne inteligence se tako seli iz tehnološke v politično in pravno sfero.

  language

  slv

  published at

  2026-01-10T15:30:52

  source

  Delo

  title

  Grok Elona Muska še naprej omogoča digitalno slačenje žensk in otrok

  url

  https://www.delo.si/novice/svet/grok-elona-muska-se-naprej-omogoca-digitalno-slacenje-zensk-in-otrok

• article order

  6

  body

  Orodje za umetno inteligenco Grok, ki deluje v okviru platforme X Elona Muska, je za veliko večino uporabnikov izklopilo možnost ustvarjanja in urejanja slik. Do te poteze je prišlo po obsežnem ogorčenju javnosti in regulatorjev, saj je bila tehnologija v zadnjih tednih množično zlorabljena za generiranje spolno eksplicitnih in nasilnih posnetkov. Ukrep sledi neposrednim grožnjam s finančnimi kaznimi in regulativnimi postopki, v Združenem kraljestvu pa so se pojavila celo poročila o možni popolni prepovedi delovanja platforme X. Tehnologija je bila namreč zlorabljena za manipulacijo fotografij resničnih žensk, s katerih so digitalno odstranili oblačila in jih postavili v seksualizirane položaje brez njihovega privoljenja. Funkcija je zdaj onemogočena za vse uporabnike, z izjemo tistih, ki plačujejo naročnino. Na uradnem profilu orodja Grok na omrežju X so zapisali: "Generiranje in urejanje slik sta trenutno omejena na plačljive naročnike." Ta sprememba prinaša pomembno varnostno posledico. Ker platforma X hrani osebne podatke in informacije o kreditnih karticah svojih naročnikov, to pomeni, da uporabniki niso več anonimni. V primeru ponovne zlorabe orodja za ustvarjanje nezakonitih vsebin je storilce mogoče lažje identificirati in izslediti. Razsežnost problema je zaskrbljujoča. Kot poroča britanski The Guardian, je njihova raziskava razkrila, da je bilo orodje uporabljeno ne le za ustvarjanje pornografskih videoposnetkov žensk brez njihovega soglasja, temveč tudi za generiranje podrobnih in vznemirjajočih prizorov nasilja, vključno s prikazi streljanja in ubojev žensk. Elon Musk se zaradi tega sooča z grožnjo regulativnih ukrepov iz več držav po svetu. Odziv politike je bil oster in hiter. Britanski premier Keir Starmer je v sredo zagrozil z odločnim ukrepanjem proti socialnemu omrežju. Od vodstva platforme X je zahteval, da "prevzamejo nadzor" nad poplavo z umetno inteligenco ustvarjenih fotografij delno oblečenih žensk in otrok. Starmer je poudaril, da ima britanski komunikacijski regulator Ofcom polno podporo vlade pri ukrepanju v zvezi s to zadevo. "To je nezakonito. Tega ne bomo tolerirali. Zahteval sem, da so na mizi vse možnosti. Platforma X se mora zresniti in odstraniti to gradivo. Ukrepali bomo, ker je to preprosto nevzdržno," je bil jasen britanski premier. Težave so se stopnjevale v zadnjih dveh tednih, potem ko je bila konec decembra posodobljena funkcija ustvarjanja slik v orodju Grok. V tem kratkem času je bilo ustvarjenih na tisoče seksualiziranih slik žensk brez njihovega privoljenja. Kljub ponavljajočim se javnim pozivom k odstranitvi ali omejitvi funkcije, se socialno omrežje do sedaj ni odzvalo. Platforma X doslej uradno ni komentirala novinarskih vprašanj glede nastale situacije.

  language

  slv

  published at

  2026-01-09T11:02:43

  source

  Večer

  title

  Po ogorčenju javnosti in pritisku regulatorjev je Muskova umetna inteligenca omejila ustvarjanje slik

  url

  https://vecer.com/svet/po-ogorcenju-javnosti-in-pritisku-regulatorjev-je-muskova-umetna-inteligenca-omejila-ustvarjanje-slik-10402048

• article order

  7

  body

  Po novem je ustvarjanje in urejanje slik omogočeno le plačljivim naročnikom, kar je Grok tudi javno potrdil z objavo: "Ustvarjanje in urejanje slik je trenutno omejeno na plačljive naročnike." S tem je večina uporabnikov platforme X izgubila dostop do te funkcije. Odločitev sledi grožnjam z denarnimi kaznimi, regulatornimi ukrepi in celo razpravam o morebitni prepovedi platforme X v Združenem kraljestvu. Britanski premier Keir Starmer je podjetje javno pozval, naj "vzpostavi nadzor" nad poplavo UI-generiranih podob delno razgaljenih žensk in otrok, pri čemer je vsebino označil za "sramotno" in "ogabno". Starmer je ob tem poudaril, da ima britanski regulator Ofcom po zakonu o spletni varnosti pooblastila za ostre ukrepe, vključno z možnostjo blokade spletnih storitev ter denarnimi kaznimi do deset odstotkov globalnega letnega prometa podjetja. Čeprav je funkcija na platformi X omejena, poročila kažejo, da zlorabe niso povsem odpravljene. Poleg javnega računa @Grok, kjer so zmogljivosti ustvarjanja slik močno zmanjšane, obstaja tudi ločena aplikacija Grok, ki slik ne objavlja javno. Po navedbah uporabnikov naj bi tam tudi neplačljivi uporabniki še vedno lahko ustvarjali eksplicitne podobe žensk in celo otrok. Raziskava, ki jo je objavil The Guardian, razkriva, da je bilo orodje uporabljeno za ustvarjanje pornografskih videov žensk brez njihovega soglasja ter podob skrajno nasilne vsebine. Neprofitna organizacija AI Forensics je dokumentirala približno 800 slik in videov z izrazito pornografsko ali seksualno nasilno vsebino, ustvarjenih z orodjem Grok Imagine. Čeprav je omejitev dostopa ocenjena kot korak v pravo smer kritiki opozarjajo, da težava s tem ni odpravljena. Britanska poslanka Jess Asato je poudarila, da možnost ustvarjanja takšne vsebine za plačljive uporabnike še vedno pomeni resno zlorabo tehnologije in jo označila kot obliko digitalnega spolnega nasilja. Ta primer odpira širša vprašanja o odgovornosti ponudnikov generativne umetne inteligence in učinkovitosti samoregulacije tehnoloških podjetij. Dogajanje kaže, da bodo regulatorji v prihodnje vse pogosteje posegali v delovanje UI orodij, zlasti tam, kjer obstaja tveganje za sistemske zlorabe in kršitve temeljnih pravic.

  language

  slv

  published at

  2026-01-09T13:02:45

  source

  Računalniške novice

  title

  Grok omejuje ustvarjanje slik po kritikah zaradi eksplicitne spolne UI vsebine

  url

  https://racunalniske-novice.com/grok-omejuje-ustvarjanje-slik-po-kritikah-zaradi-eksplicitne-spolne-ui-vsebine/

source scope

analyzed source count

5

omitted articles

omitted source count

0

total source count

5