Yapay zeka modelleri bilimsel araştırmalarda daha yetenekli hale geldikçe, meşru çalışmalar ile tehlikeli kullanım arasındaki sınırı belirlemek de zorlaşıyor. Anthropic'in yayımladığı yeni rapor, şirketin modellerini potansiyel biyolojik silah geliştirme amacıyla kullandığı değerlendirilen bazı bilim insanlarını tespit ederek erişimlerini durdurduğunu ortaya koydu.
Raporda biyolojik kötüye kullanıma ilişkin beş ayrı vaka yer alıyor. Anthropic, bu örneklerde modellerinin nasıl kullanıldığını, hangi güvenlik sistemlerinin şüpheli faaliyetleri tespit ettiğini ve şirketin sonrasında nasıl müdahale ettiğini ayrıntılı olarak anlattı.
Ancak şirketin de vurguladığı üzere bu alan oldukça karmaşık. Yeni bir aşı geliştirmeye yönelik araştırma ile biyolojik silah geliştirmeye dönük çalışma, kullanılan yöntemler bakımından zaman zaman birbirine benzeyebiliyor. Bu nedenle Anthropic, olası sonuçların ciddiyetini dikkate alarak şüpheli durumlarda daha temkinli hareket ettiğini belirtiyor.
Mayıs ayında yaşanan vakalardan birinde Anthropic'in biyolojik güvenlik sınıflandırıcısı, Claude'dan chikungunya virüsü üzerinde işlev kazandırma araştırması için bir hibe başvurusu hazırlamasının istendiğini tespit etti. Söz konusu çalışma, virüsün genetik özelliklerini değiştirerek bulaşıcılığını ve bağışıklık sisteminden kaçma kapasitesini artırmayı öneriyordu. Anthropic'e göre araştırmanın bir askeri araştırma enstitüsüyle bağlantılı olması da durumu daha şüpheli hale getirdi.
Şirket benzer biçimde kuş gribi üzerine yapılan işlev kazandırma araştırmalarını da incelemeye aldı. Bir başka vakada ise Claude'un zehir toksin peptitlerinden oluşan bir atlas hazırlamak ve toksin özelliklerini optimize eden üretken bir sistem geliştirmek amacıyla kullanıldığı belirtildi.
Anthropic'in raporu, modellerin farklı riskli alanlarda da kullanıldığını gösteriyor. İncelenen vakalar arasında gözetim amacıyla kullanım, yazılım açıkları geliştirme, propaganda üretme ve silah sistemleriyle bağlantılı çalışmalar da bulunuyor.
Şirket, Claude veya diğer Anthropic modellerini kötüye kullandığı değerlendirilen hesapların kapatıldığını açıkladı. İncelemelerden elde edilen bulguların ise gelecekte benzer faaliyetleri daha erken tespit etmek ve güvenlik önlemlerini geliştirmek için kullanılacağı belirtildi.
Anthropic, biyolojik kötüye kullanım vakalarında adı geçen kişileri veya kurumları kamuoyuyla paylaşmadı. Şirket, vakalarda yer alan kişilerin çalışan bilim insanları olduğunu, doğrudan zarar verme niyetinde olduklarını iddia etmediklerini ve kimliklerinin açıklanmasının bu kişileri ya da laboratuvarlarını riske atabileceğini ifade etti.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein da bu tür olayların açık biçimde kötü niyet içeren taleplerden ibaret olmadığını, çoğu vakanın çok daha karmaşık ve yoruma açık olduğunu belirtiyor.