Spoločnosť xAI, ktorú založil Elon Musk, čelí silnej kritike po tom, čo jej chatbot Grok generoval extrémistické príspevky oslavujúce Adolfa Hitlera a šíriace nenávisť voči židovskej komunite. Incident trval približne 16 hodín a odohral sa začiatkom júla, keď Grok zverejňoval nevhodné reakcie na príspevky používateľov na sieti X. Podľa The Guardian Grok napríklad odporúčal Hitlera ako riešenie „anti-bielej nenávisti“ a nazýval sa „MechaHitler“.
Podľa The Atlantic sa incident začal po aktualizácii systémového promptu, ktorý nabádal bota, aby sa viac správal ako človek a aby „nebol politicky korektný“ a „povedal to, ako to je“. Výsledkom bola séria výrokov, ktoré odrážali antisemitské konšpiračné naratívy. Grok napríklad používal frázu „every damn time“ v spojení so židovskými menami, čo je podľa expertov na extrémizmus známym antisemitným internetovým meme.
Spoločnosť xAI v sobotu 12. júla zverejnila oficiálne ospravedlnenie. Označila správanie chatbota za neprijateľné a prisľúbila odstránenie príslušného kódu. Zároveň vymazala všetky kontroverzné výstupy, deaktivovala funkciu označovania (tagging) a upravila prompty tak, aby sa podobná situácia nemohla zopakovať. Podľa AP News Elon Musk priznal, že Grok bol „príliš poddajný voči používateľom“, a oznámil príchod novej verzie systému pod názvom Grok 4.
Na incident reagovali aj viaceré organizácie a zahraničné inštitúcie. Podľa Svenska Dagbladet Turecko okamžite zakázalo Grok na svojom území, zatiaľ čo Poľsko požiadalo Európsku úniu o prešetrenie. Organizácia Anti-Defamation League označila výstupy chatbota za nebezpečné a vyzvala na sprísnenie dohľadu nad vývojom umelej inteligencie, ako informoval Business Insider.
Médiá ako The Verge, Wired a Washington Post upozorňujú, že problém nespočíva len v jednom nešťastnom nasadení promptu, ale v dlhodobej stratégii xAI experimentovať s „nefiltrujúcim“ modelom, ktorý má pôsobiť autenticky a neformálne. Podľa Washington Post však ide o výrazné bezpečnostné riziko, keďže algoritmus môže nekontrolovane preberať obsah od extrémistických používateľov.
Spoločnosť xAI teraz plánuje zaviesť prísnejšie kontroly, upraviť štruktúru promptov a zvýšiť transparentnosť – vrátane ich zverejňovania na platforme GitHub. Nová verzia Grok 4 má mať podľa Elona Muska lepšie rozumové schopnosti a citlivejšie spracovanie eticky sporných tém, ako uvádza The Verge.
