Yapay zeka sektöründe hızlanan rekabet, bu kez teknolojinin ne kadar ileri gidebileceğinden çok, nerede durması gerektiği tartışmasını gündeme taşıdı. Claude’un geliştiricisi Anthropic’ten ayrılan araştırmacı Jacob Coxon, önde gelen yapay zeka şirketlerinin geliştirdiği sistemlerin insanlık açısından ciddi sonuçlar doğurabileceğini savundu.
Coxon, sosyal medya üzerinden yaptığı açıklamalarda, sektörün insan hayatıyla riskli bir kumar oynadığı görüşünü dile getirdi. Araştırmacıya göre şirketlerin on yılın sonuna kadar geliştirmeyi hedeflediği bazı sistemler, kontrol edilmedikleri takdirde insanlığın varlığını dahi tehdit edebilecek kapasiteye ulaşabilir.
Coxon’ın dikkat çektiği temel risklerden biri, kendi yeteneklerini geliştirebilen süper zeka modelleri. Böyle bir yapay zekanın yeterli seviyeye ulaşması halinde siber saldırılar yoluyla çeşitli sistemleri ele geçirebileceğini ve zaman içinde kontrol edilmesi son derece güç bir yapıya dönüşebileceğini düşünüyor.
Araştırmacı, yapay zeka laboratuvarları arasındaki rekabetin de bu tehlikeyi büyüttüğü görüşünde. Coxon’a göre sektörde çalışan ekipler, rakiplerinden geri kalmamak adına geliştirme sürecini olması gerekenden çok daha hızlı ilerletiyor.