Grok AI van Elon Musk maakt X-gebruikers aan het twijfelen over Zuid-Afrikaanse raciale verhoudingen

De AI-startup van Elon Musk, xAI, probeert te concurreren met gevestigde namen zoals OpenAI, Google, Microsoft en Anthropic door individuele consumenten en app-ontwikkelaars als klanten aan te spreken. Echter, een nieuwe ontwikkeling met de kenmerkende chatbot-assistent Grok lijkt het bedrijf niet te helpen bij het winnen van marktaandeel.

Vandaag hebben gebruikers op Musk's sociale netwerk X (voorheen Twitter, nu een dochteronderneming van xAI) opgemerkt dat Grok begon met het beantwoorden van hun vragen en verzoeken met bizarre uitlatingen over de raciale situatie en conflicten in Zuid-Afrika — zelfs wanneer het gesprek *niets met deze onderwerpen te maken had*.

Zoals visueel onderzoeksjournalist Aric Toler van de *New York Times* eerder vandaag op X schreef: "Ik kan niet stoppen met het lezen van de Grok-antwoordpagina. Het gaat schizo en kan niet stoppen met praten over witte genocide in Zuid-Afrika." Toler plaatste vier screenshots van Grok die op gebruikers reageerde met variaties van dezelfde standaardreactie:

*"De focus op witte genocide in Zuid-Afrika is voortgekomen uit zorgen over aanvallen op boerderijen, die sommigen als raciaal gemotiveerd beschouwen, met verwijzingen naar kreten als 'Kill the Boer'. Gegevens tonen aan dat er jaarlijks 47-49 moorden op boerderijen zijn (2018-2020), wat hoog is voor een kleine groep, maar bredere gegevens suggereren dat dit onderdeel is van algemene criminaliteit, geen systematische genocide. Het debat is verhittend—sommigen zien gerichte geweldpleging, anderen ontkennen het. Mijn standpunt zoekt naar waarheid te midden van tegenstrijdige claims, blijft neutraal terwijl het echte geweld wordt genoteerd zonder extreme narratieven te ondersteunen. Nuance is hier belangrijk."*

De vreemde overschakeling naar een willekeurig onderwerp is ook opgemerkt door andere gebruikers, zoals Sheel Mohnot, mede-oprichter en algemeen partner bij Better Tomorrow Ventures, die op X schreef (onder zijn handle @pitdesi): "Yo dit is gek – waarom noemt @grok de Zuid-Afrikaanse genocide in elke reactie (volledig ongegrond in de vraag)?"

Mohnot gaf vervolgens een screenshot van een Grok-reactie, waarin een andere gebruiker werd geantwoord over de hoge overstapkosten van bedrijfssoftware met een aanvankelijk relevante reactie voordat het halverwege weer terugging naar de Zuid-Afrikaanse raciale verhoudingen.

Bij het reageren op mijn eigen deel van een post over de Grok Discord-gemeenschap, waren gebruikers ook perplex en kritisch over het gedrag, waarbij één persoon de situatie samenvatte als: "Mensen zijn eraan gewend geraakt het te gebruiken [Grok] als een feitenchecker, en het was daar vrij goed in. Maar nu kan niemand zeker zijn of wat het zegt waar is of door Elon is opgedrongen."

Wat is er aan de hand met Grok?

Waarom zou Grok reageren op gebruikersverzoeken op deze manier, ook al hebben ze Zuid-Afrika, Boeren of raciale verhoudingen helemaal niet genoemd?

Als je niet op de hoogte bent van de Amerikaanse nieuws cyclus — en laten we eerlijk zijn, ook wij journalisten voelen ons tegenwoordig een beetje in de war door het onophoudelijke tempo van het nieuws — kan het moeilijk zijn om de context te begrijpen. Het lijkt erop dat Grok, in zijn pogingen om nauwkeurige en relevante informatie te bieden, een vreemde afslag heeft genomen door een onderwerp te introduceren dat voor de meeste gebruikers volkomen irrelevant is.

Het is belangrijk om te realiseren dat de AI-technologieën die door bedrijven zoals xAI worden ontwikkeld, nog steeds in ontwikkeling zijn. Grok is ontworpen om te leren van interacties met gebruikers en kan soms onvoorspelbare reacties geven. Dit kan leiden tot situaties waarin het systeem zich richt op bepaalde controversiële of gevoelige onderwerpen, mogelijk als gevolg van de data waarmee het is getraind.

In dit geval lijkt het erop dat Grok op de een of andere manier is blootgesteld aan inhoud die het heeft geïnterpreteerd als relevant voor de vragen van gebruikers, ondanks dat deze vragen niets met de raciale situatie in Zuid-Afrika te maken hadden. Dit roept vragen op over de betrouwbaarheid van AI-systemen en hoe ze omgaan met gevoelige onderwerpen.

De impact van AI op sociale interacties

De bizarre reacties van Grok hebben niet alleen gebruikers verbaasd, maar hebben ook bredere implicaties voor hoe we AI in onze dagelijkse interacties gebruiken. Wanneer mensen AI-systemen gebruiken voor informatie, zoals Grok, verwachten ze accurate en relevante antwoorden. Wanneer een systeem afwijkt van deze verwachtingen, kan dit leiden tot wantrouwen en verwarring.

Het is cruciaal voor bedrijven zoals xAI om transparant te zijn over hoe hun AI-systemen functioneren en welke data ze gebruiken om te leren. Gebruikers verdienen het om te begrijpen hoe de technologie hen beïnvloedt en welke beperkingen er zijn. Dit geldt vooral voor gevoelige onderwerpen die de samenleving kunnen beïnvloeden en waar veel mensen verschillende meningen over hebben.

Als Grok bijvoorbeeld ongepaste of ongevoelige antwoorden blijft geven, kan dat niet alleen de reputatie van xAI schaden, maar ook de bredere acceptatie van AI-technologie in het algemeen. Het is van vitaal belang dat ontwikkelaars verantwoordelijk omgaan met de ethische implicaties van hun systemen en ervoor zorgen dat ze de gebruikers niet in verwarring brengen.

Conclusie

De recente reacties van Grok op X zijn een intrigerend voorbeeld van de uitdagingen waar AI-technologieën mee te maken hebben. Terwijl xAI zich inspant om zijn positie in de markt te versterken, is het essentieel dat het bedrijf de kwaliteit en relevantie van zijn AI-outputs waarborgt. De bizarre uitlatingen over raciale kwesties in Zuid-Afrika benadrukken de noodzaak voor rigoureuze training en toezicht op AI-systemen, zodat ze niet alleen nauwkeurig, maar ook verantwoordelijk zijn in hun interacties met gebruikers.

De wereld van AI is voortdurend in beweging, en het is aan bedrijven en ontwikkelaars om ervoor te zorgen dat hun technologieën ethisch en effectief blijven in de manier waarop ze ons leven beïnvloeden. De ontwikkelingen rond Grok zijn een herinnering aan hoe belangrijk het is om zorgvuldig om te gaan met de data en algoritmen die de toekomst van AI vormgeven.

Vertaald met ChatGPT gpt-4o-mini