Yapay zeka teknolojilerinin güvenlik ve hukuk sınırları dünya genelinde tartışılmaya devam ederken, Brezilya’da emsali az görülen bir operasyon imza atıldı. Yaklaşık iki ay boyunca ChatGPT adlı yapay zeka uygulamasına 8 yaşındaki oğlunu öldürme, kamu alanlarına saldırma ve intihar etme planlarını anlatan 36 yaşındaki bir çiftçi, sistem tarafından tespit edilerek polise ihbar edildi.
OpenAI’ın sohbet sırasında hayati risk tespit ederek durumu ABD Federal Soruşturma Bürosu’na (FBI) bildirmesi, FBI’ın ise Brezilya makamlarıyla iletişime geçmesi üzerine düğmeye basıldı. Brezilya Adalet Bakanlığı Siber Suçlar Birimi’nin yönlendirmesiyle 19 Haziran'da São Gabriel da Palha'da gözaltına alınan şüphelinin evinde yapılan aramada, tanımlanamayan maddeler içeren şişeler ve düğümlenmiş bir ip ele geçirildi.
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, babanın nafaka ödemelerinden kaynaklanan öfkeyle oğlunu öldürmeyi planladığını ve risin zehri de dahil olmak üzere tehlikeli maddeleri araştırdığını belirtti. Şüphelinin yapay zekaya, "Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem şehirde ünlü olurum" gibi ifadeler yazdığı aktarıldı.
Şüpheli avukatı Pedro Paulo Pessi ise müvekkilinin herhangi bir eyleme geçmediğini, yapay zekaya yalnızca "saçma sapan şeyler söylediğini" savunarak suçlamaları reddetti. 54 gün gözaltında kaldıktan sonra serbest bırakılan şüpheli hakkında elektronik kelepçe ve koruma tedbirleri uygulandı.
Olay, yapay zeka şirketlerinin kullanıcı verilerini polisle paylaşma yetkisini ve bunun hukuktaki yerini yeniden tartışmaya açtı. Ceza avukatı Maíra Fernandes, OpenAI'ın şüphelinin mesajlarını iletmesine rağmen ChatGPT’nin verdiği yanıtları polise sunmamasının bir delil sorunu yarattığını ifade etti. Fernandes, konuşmanın tamamı görülmeden yapay zekanın kullanıcıyı kışkırtıp kışkırtmadığının anlaşılamayacağını savundu.
Dijital hukuk uzmanı Prof. Patricia Peck ise sistemlerin yalnızca bir içerik aracı olmaktan çıkıp tehlikeli davranış kalıplarını tespit eden bir yapıya büründüğünü belirtti. Peck, aşırı gözetim riskine dikkat çekerek müdahalenin yalnızca "somut ve yakın risk" durumlarında yapılması gerektiğini vurguladı.