Oğlunu öldürme planını ChatGPT’ye anlattı, gözaltına alındı

Brezilya'da 36 yaşındaki bir çiftçinin, oğlunu öldürme planına ilişkin yaklaşık iki ay boyunca ChatGPT ile yaptığı konuşmalar güvenlik radarına takıldı. Konuşmaların, OpenAI tarafından FBI'a bildirilmesinin ardından Brezilyalı yetkililer harekete geçti.

Polise göre şüpheli, çocuğun öldürülmesi için para teklif ettiğini ve çeşitli saldırı yöntemlerini araştırdığını ChatGPT'ye anlattı. FBI'ın bilgileri Brezilyalı yetkililere iletmesinin ardından şüpheli, planın uygulanacağı öne sürülen tarihten bir gün önce, 19 Haziran'da gözaltına alındı. Daha sonrasında ise adli kontrol şartıyla serbest bırakıldı.

OpenAI Yetkilileri Bilgilendirdi

İsmi güvenlik gerekçesiyle açıklanmayan çiftçinin yaklaşık iki ay boyunca ChatGPT ile yaptığı konuşmalarda, kendisini ve oğlunu öldürmesi için bir kişiye para teklif ettiğini ve oğlunu öldürmek için kullanılabilecek kimyasalları sorması OepnAI'ın güvenlik filtrelerine takılıdı.

Şirket olası bir suçu önlemek amacıyla kullanıcı bilgilerini Brezilya yetkililerine iletti. Bilgilerin iletilmesinden 3 gün sonra gözaltına alınan şahsın evinde kimyasal maddeler ve düğümlü halatlar bulunduğu bildirildi.

Brezilyalı yetkililer çiftçinin durumunun eyaletin aldığı ilk yapay zeka kaynaklı uyarı olduğunu ve Brezilya'da ise bu türden üçüncü vaka olduğunu söyledi. Yetkililer bu konuşmalara yapay zeka sohbet robotlarının ne yanıtlar verdiğinin şirket tarafından gizli tutulduğunu aktardı.

Bir başka vakada da ChatGPT konuşması FBI'a bildirildi

Florida'da 25 yaşındaki Darren Zhou'nun, eski kız arkadaşını öldürme ve cinsel saldırıda bulunma planlarından ChatGPT'ye söz ettiği ortaya çıktı.

OpenAI'nin güvenlik sistemleri konuşmaları işaretledi. Şirket, durumu FBI'a bildirdi ve FBI da yerel kolluk kuvvetlerini haberdar etti. Zhou daha sonra tutuklandı ve tehdit suçlamalarıyla karşı karşıya kaldı. Ağustos ayında suçunu kabul eden Zhou, denetimli serbestlik şartıyla serbest bırakıldı.