Meta introduceert geavanceerde AI-systemen voor inhoudsmoderatie in de Verenigde Staten

Bron: TechCrunch AI

Meta heeft op donderdag aangekondigd dat het begint met de uitrol van geavanceerdere AI-systemen voor het handhaven van inhoudsmoderatie. Dit is een strategische stap waarbij het bedrijf zijn afhankelijkheid van externe leveranciers wil verminderen. De taken van deze systemen omvatten het identificeren en verwijderen van ongepaste inhoud, zoals terrorisme, kindermisbruik, drugs, fraude en oplichting.

Het bedrijf stelt dat deze nieuwe AI-systemen worden geïmplementeerd in hun apps zodra ze consistent betere resultaten behalen dan de huidige methoden voor inhoudsmoderatie. Tegelijkertijd zal Meta de afhankelijkheid van externe leveranciers voor deze moderatietaken verminderen.

“Hoewel we nog steeds mensen zullen hebben die inhoud beoordelen, kunnen deze systemen taken overnemen die beter geschikt zijn voor technologie, zoals repetitieve beoordelingen van schokkende inhoud of situaties waarin kwaadwillende actoren hun tactieken voortdurend veranderen, bijvoorbeeld bij de verkoop van illegale drugs of oplichting,” legt Meta uit in een blogpost.

Verbeterde nauwkeurigheid en snellere reacties

Meta gelooft dat deze AI-systemen meer overtredingen kunnen detecteren met een hogere nauwkeurigheid. Dit zou niet alleen helpen bij het voorkomen van oplichting, maar ook zorgen voor snellere reacties op actuele gebeurtenissen en overmatige handhaving verminderen.

Vroegtijdige tests van de AI-systemen zijn veelbelovend gebleken. Ze kunnen tweemaal zoveel inhoud over seksuele verzoeken van volwassenen detecteren in vergelijking met de beoordelingsgroepen, en de foutmarge is met meer dan 60% verminderd. Ook kunnen deze systemen meer nepaccounts van beroemdheden en andere prominente personen identificeren en voorkomen, en helpen bij het stoppen van accountovernames door signalen zoals inlogpogingen vanaf nieuwe locaties of wachtwoordwijzigingen te detecteren.

Effectieve bestrijding van scams

Bovendien meldt Meta dat de systemen ongeveer 5.000 pogingen tot oplichting per dag kunnen identificeren en mitigeren, waarbij oplichters proberen mensen te misleiden om hun inloggegevens prijs te geven.

“Experts zullen onze AI-systemen ontwerpen, trainen, toezicht houden en evalueren, waarbij ze de prestaties meten en de meest complexe en impactvolle beslissingen nemen,” aldus Meta in de blogpost. “Mensen zullen blijven spelen een cruciale rol spelen in het maken van de hoogste risico- en meest kritische beslissingen, zoals het behandelen van klachten over accountdeactivering of meldingen aan de wetshandhaving.”

Veranderingen in contentmoderatie

Deze stap komt op een moment dat Meta zijn regels voor inhoudsmoderatie aan het versoepelen is. Dit gebeurde in de afgelopen jaren, met name na de herverkiezing van president Donald Trump. Vorig jaar beëindigde het bedrijf zijn derde-partij feitelijke controle programma in plaats van een model dat lijkt op Community Notes. Daarnaast werden beperkingen rondom 'onderwerpen die deel uitmaken van de mainstream discussie' opgeheven en werd aangegeven dat gebruikers aangemoedigd zullen worden om een 'gepersonaliseerde' benadering van politieke inhoud te hanteren.

Juridische uitdagingen voor Meta

De veranderingen komen ook op een moment waarop Meta, evenals andere grote technologiebedrijven, wordt geconfronteerd met verschillende rechtszaken die sociale mediagiganten verantwoordelijk willen houden voor schade aan kinderen en jonge gebruikers.

24/7 ondersteuning met AI-assistent

Daarnaast heeft Meta op donderdag aangekondigd dat het een Meta AI-ondersteuningsassistent lanceert, die gebruikers 24/7 toegang tot ondersteuning biedt. Deze assistent wordt wereldwijd uitgerold voor de Facebook- en Instagram-apps op iOS en Android, en binnen het Helpcentrum op Facebook en Instagram op desktop.

Vertaald met ChatGPT gpt-4o-mini