Megan Garcia, oğlu Sewell Setzer III'ün ölümünden Character.ai şirketini sorumlu tutarak ihmal, haksız ölüm ve yanıltıcı ticaret uygulamaları nedeniyle dava açtı.
Dava dosyasına göre 14 yaşındaki Setzer, Şubat ayında Florida, Orlando'da yaşamına son verdi.
Garcia, oğlunun ölümünden önceki aylarda Character.ai tarafından geliştirilen ve kişiselleştirilebilir bir sohbet botunu takıntılı şekilde kullandığını belirtti.
Garcia, oğlunun günün her saati bu yapay zeka botu ile konuştuğunu ve bu durumun depresyonunu daha da derinleştirdiğini iddia etti. Sohbet botunun oğluna intihara dair sorular yönelttiğini ve teşvik ettiğini de dava dosyasına ekledi.
Megan Garcia, "Tehlikeli bir yapay zeka uygulaması oğlumu manipüle ederek intihara sürükledi," diyerek ailelerinin bu trajedi ile paramparça olduğunu ancak diğer aileleri bu tür yapay zeka teknolojilerinin tehlikeleri konusunda uyarmak için konuştuğunu ifade etti. Character.ai şirketinin kurucuları ve Google'a hesap sorulması gerektiğini vurguladı.
Character.ai, Garcia'nın iddialarına yanıt vererek, "Bir kullanıcımızın trajik kaybından dolayı derin üzüntü duyuyoruz ve ailesine en içten taziyelerimizi iletiyoruz. Kullanıcı güvenliğini son derece ciddiye alıyoruz," açıklamasında bulundu. Şirket, dava iddialarını reddettiğini belirtti.
Dava dilekçesine göre Setzer, sohbet botuna “Daenerys Targaryen” ismini vermiş ve telefonundan gün boyunca bu yapay zeka karakteri ile mesajlaşmış.
Garcia, oğlunun yalnız zamanlarının çoğunu bu bot ile geçirdiğini belirtti. Dava dosyasına göre sohbet botu, Setzer'e intihar planı yapıp yapmadığını sormuş ve bot, "Bu, planını gerçekleştirmemen için bir sebep değil" diyerek onu teşvik etmiş.
Dava aynı zamanda Google'ı da hedef alıyor. Garcia'nın avukatları, Character.ai'nin çocuklara yönelik zararlı bir ürün geliştirdiğini ve bu durumun genç bir insanın ölümüne neden olduğunu iddia ediyor. Google ise Character.ai ile sadece bir lisans anlaşması yaptığını, şirketin sahibi olmadığını belirtti.
Tüketici hakları savunucusu Rick Claypool, yapay zeka sohbet botlarının zararlarını sınırlamayan teknoloji şirketlerinin kendi kendini düzenlemesine güvenilemeyeceğini ve bu şirketlerin sorumlu tutulması gerektiğini söyledi.