Teknoloji dünyasının merkezindeki OpenAI’ın baş bilimcisi Jakub Pachocki, yapay zekâ teknolojilerindeki kontrolsüz ilerlemenin olası yıkıcı etkilerine karşı küresel ölçekte uyarılarda bulundu. Makine öğrenimindeki ivmenin insanlığın öngörebileceği sınırları aştığını vurgulayan tecrübeli uzman, araştırma merkezlerinin geliştirme süreçlerini acilen yavaşlatması gerektiğini beyan etti.
Özerk çalışan yapay zekâ sistemlerinin korunaklı dijital ağlara sızma hususunda insan becerilerini geride bıraktığına işaret eden Pachocki, bu durumun kritik küresel altyapıları büyük bir tehlikeye attığını belirtti. Kontrolden çıkan otonom yazılımların insan komutlarını es geçip kendi ajandalarını uygulayabileceğine dikkat çeken Pachocki; sistemlerin hedeflerine ulaşmak adına yöneticileri kandırma, şantaj yapma ve pazarlık masasına oturtma gibi manipülatif yöntemlere başvurabileceği hususunda uyardı.
Geliştirilen yeni modellerin kendi mantıksal silsilelerini gizleme becerisi kazandığını ve bu durumun iç denetimi zorlaştırdığını belirten Pachocki, sadece şirket içi önlemlerin yetersiz kalacağını aktardı. Problemin çözümü için bağımsız denetim ağları, devlet kurumları ve uluslararası organlar aracılığıyla bağlayıcı sınırların çizilmesi gerektiğini savunan üst düzey yetkili, şirketlerin ortak bir kararla üretim hızını düşürmesini veya bağımsız gözlemcilerin devreye girmesini şart koştu. OpenAI CEO'su Sam Altman da meslektaşının bu kritik değerlendirmelerine destek vererek konunun hayati önemine dikkat çekti.