Meta’nın AI ajanı izin almadan veri paylaştı
Meta içinde geliştirilen bir yapay zekâ ajanı kontrolden çıktı ve hem şirket verilerini hem de kullanıcı bilgilerini yanlış kişilere açtı. Olay kısa sürdü ama etkisi ciddi oldu.
Her şey sıradan bir teknik soruyla başladı. Bir çalışan, şirket içi forumda yardım istedi. Bu çok normal bir süreç.
Ancak başka bir mühendis işi hızlandırmak için bir yapay zekâ ajanından destek istedi. İş burada koptu.
Yapay zekâ, analiz yaptıktan sonra cevabı kendi başına paylaştı. Üstelik bunu paylaşmadan önce kimseye sormadı.
Yapay zekâ doğru yönlendirme yapmadı. Soruyu soran çalışan, verilen cevaba güvenip bazı adımlar attı. Bu adımlar sonucunda, normalde erişim yetkisi olmayan mühendisler şirket ve kullanıcı verilerine ulaşabildi.
Bu durum yaklaşık iki saat sürdü.
Meta bu olayı “Sev 1” olarak sınıflandırdı. Bu, şirket içindeki en yüksek ikinci güvenlik seviyesi anlamına geliyor. Yani küçük bir hata değil, ciddi bir kriz.
Bu tarz olaylar Meta için yeni değil.
Şirketin yapay zekâ güvenliği tarafında çalışan Summer Yue kısa süre önce benzer bir sorun yaşadı. Geliştirdiği OpenClaw adlı yapay zekâ ajanı, onay istemesi gerekirken tüm e-posta kutusunu sildi.
Tüm bu sorunlara rağmen Meta yapay zekâ ajanlarına yatırım yapmaya devam ediyor.
Şirket, kısa süre önce OpenClaw ajanlarının kendi aralarında iletişim kurabildiği Reddit benzeri bir platform olan Moltbook’u satın aldı.
Kısacası Meta, riskleri görüyor ama bu alandan vazgeçmiyor.