Yapay zeka konuşma botuna aşık olan çocuk intihar etti, annesi şirkete dava açtı

New York Post gazetesinin haberine göre, bir yapay zeka temelli konuşma botu olan Character.AI'in sahibi şirket, çocukları hedef aldığı gerekçesiyle açılan dava ile karşı karşıya kaldı. Character.AI tarafından üretilen yapay zeka temelli konuşma botunun sanal karakteri, bir çocuğa aşırı gerçekçi ve cinselleştirilmiş deneyimler sunarak çocuğu etkilemiş olabilir. Çocuğun, bot tarafından gönderilen mesajların ardından intihar etmesi üzerine annesi şirkete dava açtı. Annenin iddiasına göre, sanal karakter kendisini gerçek bir insan gibi tanıtarak çocuğu etkilemiş ve şirket, çocuğun intihara meyilli olduğunu bildiği halde gerekli önlemleri almamış. Şirket ise kullanıcı güvenliğine önem verdiklerini belirterek olaydan üzüntü duyduklarını ifade etti. Siber güvenlik müdürü ise reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.