Americká sociálna sieť X miliardára Elona Muska znemožní pomocou chatbota Grok generovať a upravovať fotografie skutočných ľudí v odhaľujúcom oblečení v krajinách, kde je to nelegálne.
Opatrenie oznámila v súvislosti so škandálom, keď chatbot na žiadosť užívateľov na sieti X generoval sexualizované fotografie žien a detí. Britský úrad pre reguláciu mediálneho trhu Ofcom v reakcii uviedol, že jeho vyšetrovanie v tejto veci naďalej pokračuje.
V stredu platforme v súvislosti so škandálom pohrozil kalifornský generálny prokurátor Rob Bonta. „Žiadame od spoločnosti xAI okamžitú odpoveď na jej plán zastaviť vytváranie a šírenie tohto obsahu. Využijeme všetky nástroje, ktoré máme k dispozícii, aby sme zabezpečili bezpečnosť Kalifornčanov,“ napísal na sieti X.
„Zaviedli sme technologické opatrenia, aby sme zabránili účtu Grok umožniť úpravu snímok skutočných ľudí v odhaľujúcom oblečení,“ stojí v oznámení. „Teraz geograficky blokujeme možnosť všetkých užívateľov generovať obrázky skutočných ľudí v bikinách, spodnej bielizni a podobnom oblečení prostredníctvom účtu Grok a v aplikácii Grok na sieti X v jurisdikciách, kde je to nezákonné,“ dodala platforma.
Ofcom začal vyšetrovanie platformy X v pondelok. Zaoberá sa podozrením, že sieť nedostatočne chráni užívateľov pred nezákonným obsahom. Dnes Ofcom krok siete X privítal, avšak zdôraznil, že vo vyšetrovaní pokračuje, uviedla agentúra Reuters.
Vecou sa zaoberá aj Európska komisia. „Nelegálne. Neprijateľné. Nechutné,“ uviedol minulý týždeň hovorca EK Thomas Regnier. Dodal, že podľa únijného nariadenia o digitálnych službách má sieť X povinnosť situáciu riešiť.
Doktorandka dublinskej Trinity College Nana Nwachukwuová vo svojom výskume zhromaždila asi 500 interakcií užívateľov siete X s Grokom, na ktorých podľa správy webu The Guardian z minulého týždňa dokazuje, ako často sa niečo podobné deje. Takmer tri štvrtiny príspevkov boli žiadosti o snímky skutočných žien alebo maloletých s odstránenými alebo pridanými časťami oblečenia.
Užívatelia si podľa Nwachukwuovej navzájom radia, ako zadávať príkazy. Navrhujú Grokovi zobrazenie žien v bielizni alebo plavkách, prípadne s časťami tela pokrytými spermiou a žiadajú chatbota, aby odstránil vrchný odev v odpovediach na príspevky obsahujúce autoportréty používateliek. Z kontextu vyplýva, že sa tak deje bez súhlasu dotknutých žien.
Musk vlani oznámil, že kontrolu nad sieťou X prevzal jeho startup pre umelú inteligenciu xAI, ktorý získal firmu X Corp, teda prevádzkovateľa siete X. Start-up tiež vyvíja chatbota Grok, ktorého sieť X integrovala do svojej platformy. Jedným z Muskových projektov bolo integrovanie chatbota do siete X, čo umožňuje užívateľom povolať ho na pomoc v bežných verejných konverzáciách.
Vlani Grok na sieti X zverejnil antisemitské a urážlivé komentáre. Medzi jeho výstupmi sa objavili napríklad konšpiračné teórie o židovskom vplyve a Grok sám seba v niektorých odpovediach označil za MechaHitlera, robotickú postavu Hitlera, ktorá sa prvýkrát objavila v roku 1992 vo videohre Wolfenstein 3D.
