Yapay zekanın hukuk alanında kullanımına ilişkin tartışmalara ABD’den dikkat çekici bir örnek eklendi. New Mexico’da yaklaşık 40 yıllık mesleki deneyime sahip savunma avukatı Stephen Aarons, ChatGPT yardımıyla hazırladığı temyiz dilekçesinde gerçekte bulunmayan tanık ifadelerine ve hatalı hukuki emsallere yer verdiği gerekçesiyle mahkemeye itaatsizlikten suçlu bulundu.
Aarons, cinayet suçlamasıyla müebbet hapis cezasına çarptırılan müvekkilinin temyiz sürecini yürütüyordu. Dava kapsamında duruşma tutanakları ve çeşitli belgeleri ChatGPT’ye yükleyen avukat, yapay zekadan aldığı özet ve metinleri yeterli doğrulama yapmadan mahkemeye sundu. New Mexico Yüksek Mahkemesi bunun ardından Aarons’ın avukatlık lisansını geçici olarak askıya aldı. Ayrıca dosya, kişisel disiplin soruşturması yürütülmesi amacıyla disiplin kuruluna gönderildi.
Mahkeme incelemesinde en dikkat çeken noktalardan biri, dilekçede duruşmada hiç yer almamış polis memurları ile tanıklara ait olduğu öne sürülen ifadelerin bulunması oldu. Belgelerde ayrıca bazı dava emsallerinin yanlış veya çarpıtılmış biçimde aktarıldığı tespit edildi. Bu nedenle Aarons’a 5 bin dolar para cezası verildi. Avukat duruşmada, yapay zeka sistemlerinin zaman zaman gerçekte olmayan bilgiler üretebildiğini bilmediğini ve yapılan hatanın bundan kaynaklandığını savundu.
Ancak Yargıç C. Shannon Bacon bu açıklamayı yeterli bulmadı. Bacon, bir avukatın yapay zekadan, hukuk öğrencisinden ya da başka bir yardımcı kaynaktan yararlanabileceğini ancak mahkemeye sunulan belgeye imza attığı anda içeriğin doğruluğundan doğrudan sorumlu hale geldiğini vurguladı.
Soruşturma sırasında Aarons’ın, müvekkilini ve ailesini savunma sürecinde yapay zeka kullandığı konusunda bilgilendirmediği de ortaya çıktı. Aynı şekilde dilekçelerde uydurma içerik bulunduğuna dair herhangi bir açıklama da yapılmadı.
Mahkeme, Aarons tarafından sunulan tüm dilekçelerin dava dosyasından çıkarılmasına karar verdi. Cezaevinde bulunan sanığa ise temyiz sürecinin devam edebilmesi için kamu savunuculuğu ofisi üzerinden yeni bir avukat atanması kararlaştırıldı.