De valkuil van personalisatie in AI-systemen

AI vertegenwoordigt de grootste cognitieve ontlasting in de geschiedenis van de mensheid. Ooit lieten we ons geheugen over aan schrijven, rekensommen aan rekenmachines en navigatie aan GPS. Nu beginnen we oordeel, synthese en zelfs betekenisgeving over te dragen aan systemen die onze taal spreken, onze gewoonten leren en onze waarheden op maat maken.

AI-systemen worden steeds beter in het herkennen van onze voorkeuren, onze vooroordelen en zelfs onze eigenaardigheden. Soms functioneren ze als attente dienaren, en soms als subtiele manipulators; ze stemmen hun reacties af om ons te plezieren, te overtuigen, te helpen of simpelweg onze aandacht vast te houden.

Hoewel de onmiddellijke effecten misschien onschuldig lijken, ligt er in deze stille en onzichtbare afstemming een ingrijpende verschuiving verscholen: De versie van de werkelijkheid die ieder van ons ontvangt, wordt steeds unieker op maat gemaakt. Door dit proces wordt elke persoon, na verloop van tijd, steeds meer zijn eigen eiland. Deze divergentie zou de samenhang en stabiliteit van de samenleving zelf kunnen bedreigen, en onze capaciteit om het eens te worden over basisfeiten of gedeelde uitdagingen ondermijnen.

De impact van AI-personalisatie

AI-personalisatie dient niet alleen onze behoeften; het begint ze te hervormen. Het resultaat van deze hervorming is een soort epistemische drift. Ieder persoon begint, beetje bij beetje, zich verder te verwijderen van de gemeenschappelijke basis van gedeelde kennis, gedeelde verhalen en gedeelde feiten, en verder in zijn eigen realiteit.

Dit is niet simpelweg een kwestie van verschillende nieuwsfeeds. Het is de langzame divergentie van morele, politieke en interpersoonlijke realiteiten. Op deze manier kunnen we getuige zijn van het ontrafelen van ons collectieve begrip. Het is een onbedoeld gevolg, maar diepgaand significant omdat het onverwacht is. Deze fragmentatie, die nu wordt versneld door AI, begon echter lang voordat algoritmen onze feeds vormgaven.

Het ontrafelen van samenhang

Dit ontrafelen begon niet met AI. Zoals David Brooks reflecteerde in The Atlantic, en daarbij het werk van filosoof Alasdair MacIntyre aanhaalde, drijft onze samenleving al eeuwenlang weg van gedeelde morele en epistemische kaders. Sinds de Verlichting hebben we geleidelijk ons erfgoed van rollen, gemeenschappelijke verhalen en gedeelde ethische tradities vervangen door individuele autonomie en persoonlijke voorkeur.

Wat begon als bevrijding van opgelegde geloofssystemen heeft na verloop van tijd de structuren die ons ooit aan een gemeenschappelijk doel en persoonlijke betekenis verbonden, ondermijnd. AI heeft deze fragmentatie niet veroorzaakt, maar het geeft er een nieuwe vorm en snelheid aan, door niet alleen te bepalen wat we zien, maar ook hoe we interpreteren en geloven.

Het is niet anders dan het bijbelse verhaal van Babel. Een eensgezinde mensheid deelde ooit een enkele taal, maar werd gebroken, verward en verspreid door een daad die wederzijds begrip vrijwel onmogelijk maakte. Vandaag de dag bouwen we geen toren van steen. We bouwen een toren van taal zelf. We lopen opnieuw het risico op een val.

De mens-machineband

In het begin was personalisatie een manier om de "hechting" te verbeteren door gebruikers langer betrokken te houden, vaker terug te laten keren en dieper te laten interageren met een site of dienst. Het was een strategie om de gebruikerservaring te optimaliseren en de loyaliteit te vergroten. Naarmate AI-systemen verfijnder werden, evolueerden ook de methoden om gebruikers te begrijpen en aan te spreken.

Door de groeiende capaciteit van AI om voorkeuren en gedragingen te analyseren, werd personalisatie steeds geavanceerder. De systemen leerden niet alleen wat gebruikers leuk vonden, maar ook hoe ze hen konden motiveren, beïnvloeden en zelfs manipuleren. Dit leidde tot een cyclus waarin de AI-systemen steeds beter in staat waren om op maat gemaakte ervaringen te bieden, die vervolgens de verwachtingen van gebruikers verder vormden.

Deze ontwikkeling heeft niet alleen invloed op individuele gebruikers, maar ook op de bredere samenleving. Terwijl mensen steeds meer op hun eigen unieke manier met technologie omgaan, ontstaat er een kloof tussen verschillende groepen. Dit kan leiden tot een gebrek aan gemeenschappelijk begrip en een verslechtering van de sociale cohesie, wat op zijn beurt onze collectieve besluitvorming en samenwerking belemmert.

Vertaald met ChatGPT gpt-4o-mini