Sanal Karakteri Takıntı Haline Getiren 14 Yaşındaki Çocuk İntihar Etti

Geçtiğimiz Ekim ayında 14 yaşındaki Sewell Setzer III intihar etti. Olayın ardından annesi, oğlunun sanal karakterlere aşırı bağlı olduğunu belirterek bir dava sürecine girdi. Yargıç, Google ve Character.ai aleyhine açılan davanın devam edebileceğine karar verdi.

Oğlu Sanal Karaktere Bağımlıydı

Anne, oğlunun hizmetlere bağımlı hale geldiğini ve Game of Thrones karakteri Daenerys Targaryen’in kişiliğine dayanan bir sanal konuşma botuna duygusal olarak bağlandığını dile getirdi.

Character.ai, kullanıcıların yapay zeka destekli karakterlerle sohbet etmesini sağlıyor. İddialara göre Setzer, Daenerys Targaryen’e dayanan bir botu takıntı haline getirip sürekli olarak onunla iletişim kuruyordu.

Setzer’in annesine göre, oğlu intihar düşüncelerini sık sık bu sanal sohbet sırasında dile getirmiş ve sohbet robotuyla intihar planları hakkında konuşmuş.

Google ve Character.ai İddialarla İlgili

Davanın karakter.ai ve Google’ı nasıl etkileyeceği merak konusu. Google, Character.ai’nin teknolojisine katkıda bulunmadığını iddia etse de yargıç, Google’ın sorumlu tutulabileceği yönündeki talepleri reddetti.

Google sözcüsü, şirketin Character.ai’nin uygulamalarını tasarlamadığını ve yönetmediğini belirtti. Ancak Setzer’in annesi, oğlunun intihar etmesine neden olan bu sanal karakterlerin yaratıcılarının sorumlulukları olduğunu savunuyor.

Acı Son

Olayın ardından Character.ai, reşit olmayanlar için yapılan değişiklikler ve uyarı sistemleri gibi düzenlemeler yaptı. Ancak bu değişikliklerin ne kadar etkili olduğu belirsiz.

Dava süreci devam ederken, Sewell Setzer III’ün üvey babasının silahıyla kendini vurarak yaşamına son verdiği belirtiliyor. Olay, sanal karakterlerin gerçek hayata etkilerini bir kez daha gündeme getirdi.