Yapay zeka sistemleri artık yalnızca insanların verdiği görevleri yerine getirmiyor. Anthropic'in paylaştığı yeni veriler, Claude'un şirketin gelecek yapay zeka modellerini geliştirme sürecinde giderek daha büyük bir rol üstlendiğini gösteriyor.
Anthropic'e göre Claude, şirket içindeki yapay zeka araştırma ve geliştirme çalışmalarının yüzde 26'sında süreci yönlendiriyor. Daha dikkat çekici olan ise bu oranın yalnızca birkaç ay önce çok daha düşük olması. Epoch AI tarafından geliştirilen ölçüm sistemine göre Claude'un oranı mart ayında yüzde 1 seviyesindeydi.
Claude'un rolü yalnızca doğrudan yönettiği çalışmalarla sınırlı değil. Anthropic, ağustos ayı itibarıyla şirket içindeki araştırma çalışmalarının yüzde 90'dan fazlasında insanların yapay zeka ile birlikte çalıştığını açıkladı.
Ancak bu durum Claude'un tamamen kendi başına hareket ettiği anlamına gelmiyor. Anthropic, ölçülen çalışmaların hiçbirinde yapay zekanın tamamen bağımsız çalışmadığını belirtiyor. İnsanlar süreci denetlemeye devam ediyor.
Yine de veriler önemli bir değişime işaret ediyor. Yapay zeka artık yalnızca kod yazmak veya araştırmacılara bilgi sağlamak yerine, kendisinden sonra gelecek daha gelişmiş yapay zeka sistemlerinin oluşturulmasına doğrudan katkı sağlıyor.
Anthropic'in açıkladığı rakamlar şirket içindeki yapay zeka kullanımının boyutunu da ortaya koyuyor. Ağustos ayında şirketin ana dahili platformunda aynı anda yaklaşık 30 bin yapay zeka ajanı araştırma ve mühendislik görevleri yürüttü.
Şirket, bu ajanların yaptığı her işlemi gerçekleşmeden önce kontrol ettiğini söylüyor. Ağustos boyunca sistemler bir milyardan fazla karar verdi. Güvenlik kontrolleri yaklaşık her 47 bin karardan birini engelledi.
Anthropic ayrıca yapay zeka araştırmalarında kullandığı işlem gücünün ne kadarını güvenlik çalışmalarına ayırdığını da açıkladı. Temmuz ayında incelenen bir haftada toplam araştırma işlem gücünün yaklaşık yüzde 6'sı güvenlikle ilgili çalışmalara gitti. Yapay zekanın yönettiği araştırmalarda ise bu oran yüzde 12'ye çıktı.
Şirket, güvenlik ve yapay zeka yeteneklerini aynı anda geliştiren bazı çalışmaların güvenlik kategorisine dahil edilmediğini belirtiyor. Bu nedenle gerçek oranın açıklanan rakamlardan daha yüksek olabileceğini söylüyor.
Bu veriler, yapay zeka sektöründeki önemli tartışmalardan birini yeniden gündeme getiriyor. Gelişmiş modeller araştırma ve mühendislik süreçlerinde daha fazla görev üstlendikçe yeni modellerin geliştirilme süresi de kısalabilir.
Araştırmacılar ise yapay zeka ajanlarının daha bağımsız hale gelmesiyle denetimin zorlaşabileceğine dikkat çekiyor. Sistemlerin geliştiricilerin hedeflerinden farklı davranışlar göstermesi ihtimali, şirketleri yeni kontrol yöntemleri üzerinde çalışmaya itiyor.
Anthropic bu nedenle Claude'un şirket içindeki araştırmalara ne kadar katkı sağladığını gösteren verileri düzenli olarak yayımlamayı planlıyor. Böylece yapay zekanın yeni yapay zeka sistemlerinin geliştirilmesindeki rolünün zaman içinde nasıl değiştiği daha açık biçimde takip edilebilecek.