Organisaties gebruiken steeds vaker artificiële intelligentie (AI) om emoties bij mensen te herkennen. Dit brengt echter risico’s en ethische vragen met zich mee, schrijft de Autoriteit Persoonsgegevens (AP) in de nieuwste Rapportage AI & Algoritmes Nederland (RAN).
Niet transparant
De privacy-autoriteit onderzocht de inzet van emotieherkenning. Onder andere klantenservices maken er gebruik van. Uit het onderzoek komt naar voren dat niet altijd transparant is hoe AI-systemen emoties herkennen, en of de uitkomsten valide zijn. Mensen weten ook niet altijd dat een organisatie deze techniek gebruikt, noch op basis van welke data.
Menselijke autonomie
De AP is van mening dat er bij deze toepassingen het risico bestaat op discriminatie en inperking van de menselijke autonomie en waardigheid. “Emoties raken sterk aan je menselijke autonomie. Als je emoties wilt herkennen, moet dat dan ook zeer zorgvuldig en op basis van betrouwbare technologie gebeuren. Daar is nu vaak geen sprake van,” verklaart Aleid Wolfsen, voorzitter van de AP.
Klik hier voor de Rapportage AI & Algoritmes Nederland (RAN) – juli 2025.