Antropomorfisk AI och mänskliga sårbarheter: En empiriskt grundad juridisk utvärdering av skyddet för användare av AI chattrobotar (AAI)
Artificiell intelligens och särskilt chattrobotar visar allt mer mänskliga drag i sin kommunikation. Att vi tillskriver tekniken mänskliga egenskaper – så kallad antropomorfism – kan hjälpa oss att förstå vår omvärld och skapa sociala band. Men denna utveckling medför också allvarliga risker och kan leda till skadliga konsekvenser. Detta blev särskilt tydligt i två tragiska fall: en belgisk mans självmord 2023 och en amerikansk tonårings död 2024, båda efter djupgående relationer med AI-baserade samtalspartner, så kallade 'AI companions.'
Dessa händelser är inte bara enstaka fall utan belyser en växande problematik kring människoliknande AI-system, som kan öppna dörren för manipulation, ökad sårbarhet och förlorad kontroll. I takt med att dessa chattrobotar blir allt mer populära världen över växer också samhällets oro. Trots den snabba utvecklingen vet vi fortfarande förvånansvärt lite om riskerna för manipulation och utnyttjande av mänskliga sårbarheter genom AI-chattrobotar. Det råder oklarhet kring hur befintlig lagstiftning skyddar användare mot dessa risker. Dessutom saknar dagens juridiska ramverk, som ska skydda mot manipulation och utnyttjande, tillräcklig förankring i empirisk forskning om hur dessa teknologier faktiskt används. Genom en empiriskt grundad studie med användare av människoliknande AI-chattrobotar syftar detta tvärvetenskapliga projekt till att fylla dessa kunskapsluckor och stärka det rättsliga skyddet för individer.
Dessa händelser är inte bara enstaka fall utan belyser en växande problematik kring människoliknande AI-system, som kan öppna dörren för manipulation, ökad sårbarhet och förlorad kontroll. I takt med att dessa chattrobotar blir allt mer populära världen över växer också samhällets oro. Trots den snabba utvecklingen vet vi fortfarande förvånansvärt lite om riskerna för manipulation och utnyttjande av mänskliga sårbarheter genom AI-chattrobotar. Det råder oklarhet kring hur befintlig lagstiftning skyddar användare mot dessa risker. Dessutom saknar dagens juridiska ramverk, som ska skydda mot manipulation och utnyttjande, tillräcklig förankring i empirisk forskning om hur dessa teknologier faktiskt används. Genom en empiriskt grundad studie med användare av människoliknande AI-chattrobotar syftar detta tvärvetenskapliga projekt till att fylla dessa kunskapsluckor och stärka det rättsliga skyddet för individer.