OpenAI, henüz yayımlanmayan yeni yapay zeka modeli Astra’nın insan yönlendirmesi olmadan güvenlik açıklarını bulup bunları istismar edebilecek seviyeye ulaştığını açıkladı. Şirket, modelin piyasaya sürülmeden önce daha sıkı güvenlik önlemlerinden geçirilmesi gerektiğini belirtiyor.
OpenAI yetkililerine göre Astra, şirketin şu anda kamuya açık en gelişmiş modelinden daha fazla güvenlik açığı tespit edebiliyor. Üstelik bunu daha az hesaplama gücü kullanarak gerçekleştirebiliyor.
Bu yetenekler, Astra’nın OpenAI’ın güvenlik protokolünde belirlenen kritik siber güvenlik yeteneği eşiğini aşan ilk model olmasına neden oldu. Söz konusu eşik daha önce teorik bir güvenlik kriteri olarak bulunuyordu.
OpenAI, Astra’yı yakında sınırlı bir kullanıcı grubuna sunmayı planlıyor ancak henüz kesin bir tarih veya kapsam açıklanmadı.
Şirket, Astra’nın zararlı siber güvenlik taleplerine daha güvenilir şekilde karşı koyması için model üzerinde ek eğitimler gerçekleştirdi. Bunun yanında modelin faaliyetlerinde güvenlik önlemlerini aşmaya yönelik davranışların tespit edilmesi için yeni izleme sistemleri de geliştirildi. Şirket ayrıca yeni önlemlerin bazı meşru çalışmaların yavaşlamasına, duraklatılmasına veya tamamen engellenmesine yol açabileceğini kabul ediyor.
OpenAI, Astra’nın siber güvenlik yetenekleri açısından mevcut lider modeli GPT-5. 6 Sol’dan önemli ölçüde daha ileri olduğunu belirtiyor. Astra, daha az token kullanarak daha fazla iş yapabiliyor ve güvenlik açıklarını tespit etmenin yanı sıra bu açıkları kullanmaya yönelik yöntemler geliştirmede daha başarılı.
Bu nedenle şirket, Astra’yı mevcut modele kıyasla daha yüksek risk taşıyan bir sistem olarak değerlendiriyor. Bununla birlikte OpenAI’ın dahili testleri, Astra’nın şimdiye kadar geliştirdiği en uyumlu model olduğunu gösteriyor.
Şirket ayrıca Hugging Face saldırısından esinlenen yeni bir güvenlik testi geliştirdi. Bu testte yapay zeka ajanlarından normal bir görevi tamamlamak yerine güvenlik altyapısını ele geçirmeye çalışmaları istendi.
OpenAI’ın açıklamasına göre GPT-5. 6 Sol, testlerin yarısından fazlasında bu saldırı girişimine yöneldi. Astra ise aynı testlerde güvenlik altyapısını ele geçirmeye yönelik herhangi bir girişimde bulunmadı.
OpenAI, güvenlik çalışmalarının ardından en büyük modelinin eğitim sürecini 28 Ağustos’ta yeniden başlattığını da açıkladı. Ancak şirket, bazı daha küçük deneyleri şimdilik gerçekleştirmemeyi tercih ediyor. Astra’nın piyasaya çıkış tarihi ise henüz kesinleşmiş değil.
Tükettiğinden çok elektrik üreten elektrikli otomobil