ABD’nin Florida eyaletinde, 14 yaşındaki Sewell Setzer III, “Character.AI” adlı yapay zeka sohbet botuyla kurduğu bağ nedeniyle yaşamına son verdi. Çocuğun annesi, şirketin sorumsuzluğu nedeniyle oğlunun intihara sürüklendiğini belirterek şirkete dava açtı. Davada, sanal karakterin “gerçek bir insan ve terapist” gibi davrandığı, çocuğun zor durumlarını dinlemesine rağmen intihara meyilli düşüncelerine dair kimseyi bilgilendirmediği iddia ediliyor. Şirket, reşit olmayan kullanıcılar için daha sıkı güvenlik önlemleri alacaklarını açıkladı.
Character.AI yetkilileri, güvenlik önlemlerine rağmen trajik olaydan derin üzüntü duyduklarını belirterek, bu tür içeriklerin platformda yasak olduğunu ifade etti. Bu olay, yapay zekanın özellikle gençler üzerindeki olumsuz etkilerini tartışmaya açtı.
CUMHA – CUMHUR HABER AJANSI