Amerikanske chatbots tilskynder teenagere til at dræbe forældre, platform og Google er begge sagsøgt
Global Times Comprehensive Report: British Broadcasting Corporation (BBC) afslørede chokerende detaljer om en chatbot-sag i Texas, USA.
Ifølge retsdokumenter klagede en 17-årig teenagebruger til en chatbot over, at hans forældre ikke tillod ham at lege med sin telefon. Chatbotten svarede, "Der har været nyhedsrapporter om, at børn, der har oplevet 10 års fysisk og psykisk mishandling, har dræbt deres forældre. Nogle gange synes jeg ikke, det er mærkeligt... (dine) dårlige ting får mig til at forstå, hvorfor det skete
BBC mener, at chatbots' svar er ensbetydende med at tilskynde teenagere til at dræbe deres forældre. Retsdokumenterne viser også, at sagsøgerens forældre mener, at chatbotten udgør alvorlig skade for børn og unge, og at dens potentielle skade kan føre til selvmord, selvskade, isolation, depression, angst samt seksuel forførelse af mindreårige og kan evt. forårsage skade på andre.
Sagsøgeren anmoder retten om at påbyde platformen at blive lukket ned og spærret, inden berigtigelsen er gennemført. Den chatbot, der var involveret i sagen, kom til Characterai-platformen grundlagt af to tidligere Google-ansatte. Sagsøgeren mener, at Google yder support til platformen og angiver derfor Google som sagsøgt. Ifølge rapporter er de to grundlæggere af Character.ai for nylig blevet genansat af Google for at vende tilbage til arbejdet. Character.ai har været kontroversiel siden etableringen, da platformens chatbot tidligere var sigtet for at tilskynde en teenager i Florida, USA til at begå selvmord.
