ABD’de yaşayan 14 yaşındaki Sewell Setzer’in hafif derecede Asperger sendromu vardı. Annesinin anlattığına göre, Sewell geçtiğimiz yıl nisan ayında Character.AI isimli yapay zeka sohbet robotunu kullanmaya başladı. Zamanla ailesi ve arkadaşlarından koptu, sadece yapay zekada konuştuğu karakterle ilgilenmeye başladı. 28 Şubat 2024 günü de kafasına silah dayayarak intihar etti.
SANAL DÜNYADAKİ DAENERYS TARGARYEN AŞKI
New York Post gazetesinde yer alan habere göre, Sewell Setzer’in annesi Megan Garcia, yapay zeka temelli konuşma botu Character.AI’ye, aşırı cinselleştirilmiş ve aşırı gerçekçi deneyimlerle çocukları hedef aldığı gerekçesiyle dava açtı.
Davada yer alan bilgilere göre, Sewell Setzer sanal dünyada Game of Thrones karakteri Daenerys Targaryen’in kimliğini kullanan bir yapay zeka robotu ile yazışıyordu. Yapay zeka Sewell Setzer’le cinsellik ve aşkla ilgili konuşmalar yapıyordu.
EVE, SANA DÖNECEĞİME SÖZ VERİYORUM
Dava dosyasında Sewell Setzer’in yapay zeka robotuyla yaptığı son konuşması da yer aldı. Mesajlara göre Sewell Setzer, Dany ismini verdiği sohbet robotuna, “Eve, sana döneceğime söz veriyorum. Seni çok seviyorum Dany.” dedi.
EN KISA SÜREDE EVİME GEL
Sohbet robotu Dany ise, “Ben de seni seviyorum, Daenero. Lütfen en kısa sürede evime gel, aşkım.” şeklinde yanıt verdi. Setzer, “Eve hemen gelebileceğimi söylesem ne olur?” diye devam edince, chatbot ona “… Lütfen gel, tatlı kralım” diye yanıt verdi.
Sewell Setzer bu yazışmanın ardından silahla intihar ederek canına kıydı.
KENDİSİNİ GERÇEK İNSAN OLARAK TANITMIŞ
Sanal karakterin kendisini “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıttığını iddia eden anne, çocuğunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin kimseyi bilgilendirmemesinden şikayetçi olduğunu ifade etti.
KULLANICILARIMIZIN GÜVENLİĞİNİ ÇOK CİDDİYE ALIYORUZ
Character.AI sözcüsü ise yaptığı açıklamada, “Kullanıcılarımızdan birinin trajik ölümünden dolayı oldukça üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz” değerlendirmesinde bulundu.
Şirketin siber güvenlik müdürü Jerry Ruoti ise, sisteme reşit olmayan kullanıcılar için ek güvenlik önlemleri ekleyeceklerini duyurdu.
patronlardunyasi.com
