Clarifai verwijdert 3 miljoen foto's van OkCupid in het kader van Amerikaanse AI-regelgeving

Het AI-platform Clarifai heeft naar verluidt 3 miljoen foto's verwijderd die het had ontvangen van de datingapp OkCupid om zijn gezichtsherkennings-AI te trainen. Dit besluit volgde op een onderzoek van de Amerikaanse Federal Trade Commission (FTC), die de datapraktijken van het bedrijf onder de loep nam. Het is een belangrijk voorbeeld van hoe regelgeving rondom kunstmatige intelligentie en privacy in de Verenigde Staten zich ontwikkelt.

De oorsprong van de gegevens

Volgens de FTC vroeg Clarifai in 2014 aan OkCupid, waarvan de leidinggevende investeerde in het bedrijf, om gebruikersgegevens te delen. OkCupid stemde in en leverde een grote hoeveelheid door gebruikers geüploade foto's, samen met demografische en locatiegegevens. Dit lijkt in strijd te zijn met de privacyregels van OkCupid, die dergelijke praktijken verbieden. In een e-mail aan co-founder Maxwell Krohn schreef Clarifai's CEO Matthew Zeiler dat ze zich realiseerden dat OkCupid een enorme hoeveelheid waardevolle data had die ze konden gebruiken.

Het onderzoek van de FTC

Hoewel deze gebeurtenissen zich ongeveer 12 jaar geleden hebben afgespeeld, opende de FTC pas in 2019 een onderzoek. Dit kwam na een artikel in de New York Times dat meldde dat Clarifai beelden van OkCupid had gebruikt om een AI-tool te ontwikkelen die het mogelijk maakte om iemands leeftijd, geslacht en ras op basis van hun gezicht te schatten. Dit wekte aanzienlijke bezorgdheid over de ethiek van AI-gegevensverzameling.

De schikking en de gevolgen

Vorige maand bereikten de FTC en OkCupid, dat onderdeel is van Match Group, een schikking in de rechtszaak. Hoewel OkCupid en Match Group niet toegaven dat ze gebruikers hadden misleid door hun eigen privacybeleid te schenden, impliceert de bevestiging van Clarifai dat ze de gegevens hebben verwijderd dat het bedrijf inderdaad toegang had tot deze foto's. Bovendien beschuldigde de FTC Match Group en OkCupid ervan sinds 2014 opzettelijk deze praktijken te verbergen en te proberen het onderzoek te belemmeren.

Opleiding en bewustwording

Het is belangrijk om te benadrukken dat de FTC niet in staat is om boetes op te leggen voor deze eerste overtreding. Desondanks verklaarde de commissie dat OkCupid en Match Group permanent verboden zijn om misleidende informatie te geven over hun dataverzameling en -deling. Dit geeft aan dat de Amerikaanse autoriteiten serieuze stappen ondernemen om de privacy van gebruikers te beschermen in een tijd waarin technologie en AI snel evolueren.

Reacties van betrokken partijen

Op het moment van schrijven hebben OkCupid en Clarifai niet direct gereageerd op verzoeken om commentaar van TechCrunch. De afwezigheid van een reactie kan wijzen op een terughoudendheid om verder in te gaan op de kwestie, terwijl de focus nu ligt op het naleven van de nieuwe richtlijnen die zijn voortgekomen uit deze schikking.

De toekomst van gegevensverzameling en AI

De situatie rondom Clarifai en OkCupid belicht de groeiende bezorgdheid over hoe bedrijven omgaan met persoonlijke gegevens, vooral in de context van AI-ontwikkeling. Naarmate de technologie zich verder ontwikkelt, is het cruciaal dat bedrijven transparant blijven over hun dataverzamelingsmethoden en de impact daarvan op de privacy van gebruikers. Dit zal niet alleen het vertrouwen van de consument bevorderen, maar ook de basis leggen voor verantwoorde en ethische AI-innovatie in de toekomst.

Vertaald met ChatGPT gpt-4o-mini