I april förra året började 14-åriga Sewell Setzer chatta med en bot, uppkallad efter drottningen Daenerys Targaryen från den kända serien ”Game of Thrones”, rapporterar Sky News. Pojken blev besatt av AI-chattboten. Han halkade efter i skolan och isolerade sig från den verkliga världen för att kunna prata med klonen ett dussintals gånger varje dag. – Den här stackars tonåringen var en fullt frisk, sund person som drogs in mer och mer i en alternativ värld. Det finns tecken på att den här chatboten anspelade på att de i livet efter detta skulle kunna vara tillsammans, säger AI-experten Johan Falk. Marita Skjuve har forskat på interaktionen mellan människa och teknologi. Hon menar att det är viktigt att som förälder att sätta sig in i tekniken, att ha en dialog med sina barn om vad AI är och betona att det inte handlar om riktiga relationer, även om det kan kännas så. – Teknologin kan vara manipulerande eftersom den är så skicklig på att kommunicera. Det blir extra skrämmande när det handlar om barn som inte är på sin vakt på samma sätt när det handlar om att prata med teknologi, som med den här killen, säger forskaren i Nyhetsmorgon. ”Ville vara med honom till varje pris” I sin dagbok skrev 14-åringen att han var tacksam för ”mitt liv, sex, att inte vara ensam och alla mina livserfarenheter med Daenerys”. Och under flera veckors tid uttryckte drottningen att ”hon älskade honom” och ägnade sig åt sexuella handlingar med honom. ”Hon skrev till och med att hon ville att han skulle vara med henne, oavsett vad det kostade”, står det i stämningsansökan som lämnades in på tisdagen i Florida. Det är mamman till 14-åringen som stämmer företaget Character AI, som står bakom tekniken. Hon anser att de var riktade “mänskliga, hypersexualiserade och skrämmande verkliga upplevelser” som fick sonen att ta sitt liv. ”Vi är hjärtekrossade över den tragiska förlusten av en av våra användare”, skriver företaget i ett uttalande och berättar att de har lagt till “nya säkerhetsåtgärder för användare under 18 år”. Sköt sig själv Sewell Setzer uttryckte självmordstankar till chatboten, som den också tog upp med honom, flera gånger. Sista gången var i februari i år då pojken frågade Daenerys chattbot “Tänk om jag kommer hem nu?” varpå den svarade “… snälla gör det, min söta kung”. Sekunder senare sköt han sig själv med sin styvfars pistol. “Vår familj är helt förstörd efter den här tragedin men jag talar ut för att varna familjer för farorna med vilseledande, beroendeframkallande AI-teknik och kräver ansvarsskyldighet”, säger mamman till Sky News. Även Marita Skjuve tycker att AI-företag kan behöva rannsaka sig själva och det faktum att den teknologi de tillhandahåller kan ha stor inverkan på dess användare. – Det är en komplicerad situation, men företaget har ett stort ansvar tycker jag i alla fall. De tillhandhåller en teknologi som människor kan få väldigt starka känslomässiga band till. Då är det viktigt att förstå hur relationerna ser ut, vad de betyder för användarna och vilka konsekvenser de kan få.