New Mexico’da cinayet mahkumiyetine itiraz eden avukat Stephen Aarons, müvekkili adına sunduğu temyiz dilekçesinde yapay zekanın ürettiği tanık anlatımlarına yer verdi. Yüksek mahkeme belgede uydurulmuş kişilere ait sözlerin ve sahte polis beyanlarının bulunduğunu belirledi. Aarons metni hazırlarken ChatGPT’den yararlandığını, fakat yapay zekanın bu kadar ciddi hatalar yapabileceğini bilmediğini söyledi.
Mahkeme avukatın sunduğu belgenin doğruluğunu denetlememesini ağır bir ihmal olarak değerlendirdi. Aarons’a 5 bin dolar para cezası kesildi. Ayrıca avukat hakkında disiplin soruşturması başlatılmasına da karar verildi. Aarons ise Reuters’a yaptığı açıklamada bunun kasıtlı olmayan bir hata olduğunu savundu. Yaşananların yapay zeka kullanan profesyoneller için önemli bir ders olduğunu da söyledi.
ChatGPT Halüsinasyonları Bitmek Bilmiyor
ChatGPT ve benzeri yapay zeka araçlarının hukuk alanındaki hataları daha önce de mahkemelerin gündemine gelmişti. Önceki vakaların çoğunda olmayan dava kararları veya yanlış hukuk alıntıları öne çıkıyordu. Bu dosyayı farklı kılan nokta ise yapay zekanın doğrudan hayali tanık ifadeleri üretmesi oldu.