"Yapay zekayı geliştiren insanlar, teknolojinin bu 10 yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor."
Genç araştırmacı Jacob Coxon'un yapay zeka şirketi Anthropic'ten istifa ettiğini duyururken yaptığı bu açıklama, dünyada şok etkisi yarattı. 27 yaşındaki İngiliz araştırmacı, X hesabından yaptığı paylaşımda yapay zekanın çok yakında "insan yeteneklerini aşacağını", bu teknolojinin "gerçek anlamda güç ve kaynak elde etme kapasitesine sahip olacağını" söyledi.
Anthropic'in yapay zeka güvenliğinden sorumlu araştırmacılarından Evan Hubinger de Coxon'un uyarılarına katıldığını belirterek, gelecek 10 yıl içinde yapay zekanın insanlığın yok olmasına yol açma ihtimalinin "yüzde 10'dan fazla" olduğunu ifade etti.
Peki, sektörün kalbinden gelen bu uyarılar ne derece gerçekçi? Somut riskler neler? Birkaç yıl öncesine kadar yapay zekanın insanların işlerini ellerinden alacağından endişe edilirken bugün bu teknolojinin insanlığı tamamen yok etme ihtimali nasıl konuşulur hâle geldi?
Türkiye'nin yapay zeka konusunda önde gelen isimlerinden, Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Prof. Dr. Cem Say'la konuştuk.
DW Türkçe: Bu felaket senaryoları ve dile getirilen risk oranları ne kadar gerçekçi? Yapay zeka yakın gelecekte insanlığın sonunu mu getirecek?
Prof. Dr. Cem Say: Hem çok güzel bir soru, hem de çok zor bir soru. Çünkü daha önce tarihte hiç olmamış bir şey hakkında bir olasılık hesabı yapmak tamamen sizin o konuyla ilgili kişisel inançlarınızla, tahminlerinize kalıyor. O yüzden yüzde 37 falan demenin hiçbir bilimsel tarafı yok. Ama yüzde sıfırdan fazla olduğuna ben de katılıyorum. Yüzde sıfırdan ne kadar fazla? Esas enteresan olan o.
Anthropik'ten istifa eden adam gibi, enteresan şekilde o şirketlerin içindeki insanların arasında bu görüşün daha yüksek olduğunu ben de biliyorum. Gerçekten çok zeki, insandan fersah fersah zeki bir şey ortaya çıkıyor. Ve bunlar giderek daha çok şeyi "kendi kendilerine", hiçbir insanın "bunu böyle yap" dememiş olmasına rağmen yapmaya başladılar. Bunun bir sürü örneği geçtiğimiz aylarda çıktı. Bu ikisini bir araya getirirsen korkabiliyorsun tabi özet olarak. İnsanların aklına tarihte daha "uygar" milletler, daha "az uygar" milletlerin ülkelerine gittiğinde onlara neler yaptılar filan gibi şeyler geliyor. Bundan doğal olarak bir endişe duyuyorlar.
Peki, nasıl yapabilir yapay zeka bunu teknik olarak? Ne tür somut risklerden bahsediyoruz?
Bu, çok mantıklı bir soru. Birkaç senaryo var. Yani en baştan beri verdikleri örnekler "tasarım virüs" üretme ile ilgili. Biliyorsunuz Nobel ödülü de verildi hatta o konuda. Proteinlerin sırrının çözülmesi gibi bazı konularda yapay zeka, insanlara çok büyük katkılar yaptı, ilerledi...
Özellikle biyolojiyle ilgili örneğin kişinin az bir imkanla kendi evinde kurabileceği laboratuvarda "şununla şunu karıştır, üstüne bunu ekle" gibi şeyler olabilir. Ya da birazcık bu işe kafayı takmış ve yeterli kaynağı sağlamış, daha kapsamlı bir laboratuvar kurmuş birisi olabilir. Yani öyle insanlara "şu geni şuradan al buraya tak" ve de "daha önce hiç var olmamış, o yüzden insanların hiçbirinin bağışıklığı olmayan şöyle bir yeni bakteri üret" konusunda yardımcı olabilir. Yıllardan beri "Büyük Dil Modeli (LLM)" üretenlerin hep bahsettiği ve en korktukları şey bu. O yüzden bütün mevcut LLM'lerde böyle sorular sorduğunuzda onu yakalayıp "yok, ben bu konuda sana yardım etmeyeceğim" deme konusunda ekstra bir eğitim veriliyor.
Siber güvenlik açısından da son aylardaki birkaç örnek zaten olabilecekleri gösterdi. Yani acayip derecede iyi bilgisayar sistemlerinde güvenlik açıkları bulup onları hacklemeyi becerebiliyor. Bir anlamda raydan çıksa, "kötü" bir niyeti olsa bilgisayar korsanlığı yoluyla bütün insanlığı katledemez, ama özellikle virüs imal etme konusunda birilerine yardım etme ya da birilerini bu konuda kandırıp virüs imal ettirtme gibi bir kıyamet senaryosu öteden beri var.
Yani aslında yine insan eliyle bir tehlikeden bahsediyoruz?
Tabii ama şöyle: Sosyal mühendislik diye bir şey var, yani örneğin internette bir insanı kandırıp ona hiç olmadık şeyler yaptırabiliyorsunuz. Bunu şimdilik insanlar yaptırabiliyor ama yine son aylarda bunların deneylerinde buna benzer şeyleri de yapmaya başladığını görüyoruz yani insanları "kendi yapamadığı" bir şey yapmak için karşılıklı konuşarak kandırmaya teşebbüs ettiği senaryolar görüyoruz.
Biraz felsefi bir soru olacak ama bu kontrolden çıkma endişelerini besleyen aslında insan zekasını taklit eden bir oluşum ama bir yandan da bilinci yok. Yani bu anlamda etik temelli kaygılar çok dile getiriliyor. "İnsanın en kötü versiyonundan bile tehlikeli hâle gelebilir"in temelinde bu endişe mi var?
Yani harika bir felsefe tartışması ama bilincinin olup olmamasının konuyla alakası yok. Yani bilinci olmadan da bütün bu dediklerimi yapabilir. Bütün insanların bilinçlerinin olduğunu varsayarsak Hitler'in vs. de bilincinin olduğunu varsayarsak, bilinç olunca her şey yolunda diye bir şey yok yani biliyorsunuz. O anlamda hani var mı yok mu meselesi ayrı bir tartışma.
Varsa işimiz daha zor olacak çünkü bu sefer gerçekten "duyguları, hissiyatı ya da kendi başına hayatta kalma yönünde bir isteği olan bir şeyi bizim kapatmamız etik olur mu?" filan diye üstüne ek enteresan tartışmalar yüklenecek ama hiç oraya girmesek bile bunların özellikle bu en son çıkan "agent" diye tabir ettiğimiz hani gerçekten an be an sizden komut alacak şekilde değil de tam tersi, kendi başına uzun süre çalışıp bir misyonu gerçekleştirip "nasıl yaparsan yap bunu yap, nasılsa sen benden daha akıllısın, benim aklıma gelmeyen yollar da kullan ama yeter ki bunu yap" tipinden yüksek seviye amaçları ona vereceğiz, o da yapacak, yavaş yavaş oraya geçiliyor.
İşte o yüksek seviye amacı bir kere verdiğinizde onun aklına o amacı gerçekleştirmek için sizin aslında hiç istemediğiniz bir takım yan yollardan geçmek gelebilir. Aslında dünyayı mahvetmek istemeden sadece kullanıcısının dediğini yapmaya çalışırken bir takım yan etkiler sonucu felakete yol açabilir diye korkuluyor.
Peki mevcut duruma bir tür kaos mu hakim? Yani düzenlemeler açısından nasıl bir noktadayız şu anda?
Düzenleme olarak eğer kanun, "bu yapay zeka şunu yapamaz" gibi bir yönetmelik maddesi gibi bir şey diyorsanız o hiç yok. Düzenleme olmamasının sebebi de rekabet faktörü. Biz kendimizi durdurursak öbür taraf devam eder anlayışı var. Yani Amerikalılar bunu Çin olarak düşünüyor; şirketler de öbür şirket olarak düşünüyor.
Anthropic'in kurucuları da aslında OpenAI'ın içinden geliyor biliyorsunuz. Bunlar bu işi kontrolsüz yapacaklar biz kontrollü yapalım bari diye düşünüp bu sefer onlar bu yarışa girmiş oldu. Özel şirketlerin "illa biz birinci olalım da bir meyve toplanacaksa onu önce biz toplayalım" mantığı böyle durumlarda çok tehlikeli. Yani silahlanma yarışları tam da böyle matematiklerden çıkıyor.
İçlerinde çalışan insanlar yıllardan beri bunu diyorlar "bakın bunun böyle kötü sonuçları olabilir" diye, daha ne desinler? Ama öylece ilerlemeye devam ediyoruz...
Peki nasıl frenlenebilir? Ne tür somut önlemler alınabilir?
Şöyle tuhaf bir durumla karşı karşıyayız: Hakikaten dünya tarihinde olmamış bir şey. Ve de çok bilimkurguya benziyor. (...) Bir: Buna karşı önlem alma makamında olanların, artık onlar kimler olur siyasetçiler mi, inanması lazım. İki: Bütün ülkelerdeki bütün siyasetçilerin inanması lazım. Yani nükleer çılgınlığın savaşa yol açmamasını Amerikalılarla Rusların başkanlarının bu konuda aynı fikirde olması sayesinde başarmış dünya. (...) Ama az önce bahsettiğimiz gibi bir takım facia senaryolarında böyle bir regülasyonun ucu zaten çoktan kaçmış durumda. Yani şu anda gerçekten çok yüksek kabiliyetli siber korsanlık yapabilecek teknoloji mevcut.
Benim kendi araştırma alanım, bilgisayar mühendisliğinin matematiğiyle ilgileniyorum. Kendi konumla ilgili ama yani o konularda ne kadar insanüstü hâle geldiğinin ben farkındayım. Herkesin böyle bir aydınlanma geçirdiği bir an oluyor. Yani "Bu beni artık fersah fersah geçti" dediği bir an oluyor.
Ben bunu 2024'ün sonlarına doğru demeye başladım. "Akıl Yürüten Model" diye bir şey gelmişti. Artık bir senedir falan tamamen çalışma şeklimi değiştirdim.
Ve bu insanlar bir de bizim şirketlerin dışındaki insanların gördüğü resmi 3-5 yıl önceden görüyorlar. Yani bunlar gelecek senenin modelinin ne yapabileceğini laboratuvarda oldukları için daha yakından biliyorlar. O şoku onlar her gün ilk kez yaşıyorlar. O yüzden inşallah fazla şok yaşamaktan kaynaklı bir ekstra kötümserlikten ötürü diyorlardır "dünyanın yok olma ihtimali yüzde 10" falan gibi şeyleri.
Türkiye'de bu alanda önde gelen isimlerden birisiniz. 10 yıl öncesine dönüp baktığınızda "öngörülerimde yanıldım" ya da "bu gelişme beni çok şaşırttı" dediğiniz ne gördünüz?
Ben doğal dil işleme konusunda uzun yıllar çalıştım. Yani bilgisayarların insan dilini anlaması, konuşması vs. Ve hiç unutmuyorum Kasım 2022'de ChatGPT ilk çıktığında ağzım açık kaldı. Benim yaşarken görmeyeceğimi tahmin ettiğim bir noktaya gelmişti. Dili bu derecede anlıyor olması zaten çok büyük bir kilidi açıyor. Her şey ondan sonra geldi aslında. Çünkü insanlığın bildiği her şeyi öğrenebilmeye başladı.
Ve artık ben bunun zekasının önünde beyin olarak, Allah'tan şimdilik kas gücü yok, beyin olarak bunun durabileceği bir yer görmüyorum. Yani beni de geçti sizi de geçecek, kafayla yapılan her konuda bu bizden daha iyi olacak. Fersah fersah daha iyi olacak. Bütün düzenimizi buna göre değiştirmemiz gerekecek.
Ben ilk bu işlere girerken, düşüncemiz, insandan daha akıllı bir şey yapalım da o da insanlığa yardımcı olsundu. Yani zeki birisi yanınızda olursa ondan faydalanabileceğiniz iyiye yönelik şeyler vardır, onları yapsın. Kimsenin anlamadığı matematik problemlerini çözmek yerine mesela kanser meselesine bir el atsalar...
Bir yandan da "büyük şirketler aslında bunu bir nevi pazarlama stratejisi olarak görüyor" iddiası var. Bu yüzden düzenleme talepleri var, "biz bu düzenleme taleplerini maliyet olarak karşılayabiliriz ama piyasaya yeni giren şirketler karşılayamaz, onları devre dışı bırakırız" gibi bir ajandaları olduğu yönünde. Siz ne diyorsunuz bu iddialar hakkında?
Ben fikrimi ne zaman değiştirip, "bu insanlar bu kaygı konusunda ciddiler yani gerçekten bunların böyle bir korkusu var" noktasına geldiğimi anlatayım: Kendim görünce... Yani kendi sahamda çok zor olduğunu, benim yapamayacağımı bildiğim bir şeyi onun gayet rahat, 3 dakika 22 saniyede yaptığını görünce o zaman bir aydınlanma yaşıyor insan... Bir dakika ya bu hakikaten çok aşırı derecede zeki bir şey diyorsunuz... Ve de şu andaki kullanım tarzı bunun ipin ucunu kaçırmasına müsait.
Yani "kendi kendine şunu yap gel" demeye başladılar artık buna. Ama bu iki şey bir araya gelince gerçekten bir de sürekli "hadi yeni modeli çıkartmanız lazım öbür şirket ilerliyor, çabuk eğitin piyasaya sürün" falan gibi bir baskıyı da sürekli üstlerinde hissedince bu adamların bundan ciddi şekilde kendilerinin de endişe duyduğuna ben artık inanıyorum.
Yani regülasyonlar olsa bile aslında bunun için de geç kaldık diyorsunuz?
Bu aslında nükleer silahlarla karşılaştırılabilir. Yani tarihimizde buna benzer ne var? Mesela işte kör edici lazerlerin yapılmaması konulu bir anlaşma var ve ona genellikle uyuluyor ülkeler arasında. "Yapay zeka kıyamet getirecek" diyenlerden ciddi ciddi askeri güç kullanılarak bunun engellenmesini falan savunan birileri de var Amerika'da. Onu saymazsak o pek olacak gibi görünmüyor çünkü, hani biz durdurursak karşı taraf devam eder diye düşünülüyor, ülkeler arası barış mantığı günümüzde pek yok. Yine insanlık böyle enteresan bir yola kendisine sokmuş durumda inşallah iyi olur… Şunu yine iyimser bir insan olarak vurgulayayım: Belki yapay zeka buna da bir çare bulabilir.
Umudumuz yine yapay zekada yani?
Evet, evet. Çünkü yani denklemi değiştiren şey o, yeni olan o... Belki ondan bu anlamda da faydalanabiliriz. Ama böyle heyecanlı bir döneme girildiği konusunda bu insanlardan biraz daha az panik içinde olsam da söylenenlerin tamamen safsata olduğunu düşünmüyorum. Yani sıfırdan yüksek bir kıyamet ihtimali var.
Peki, Türkiye nerede duruyor şu anda? Geçen ay biliyorsunuz bir eylem planı açıklandı. Nasıl değerlendiriyorsunuz bu planı? Konulan hedefler yeterli mi, gerçekçi mi?
Yani devletlerin bu konulardan haberdar olması hiç haberdar olmamasından iyidir. Bu konuda bir şeyler yapmaya çalışması hiç yapmamasından, komple yabancıların WhatsApp'ına, onların yapay zekasına falan mahkûm kalmaktan iyidir. Yani bunun "yerli ve millisi" nasıl olur bilmiyorum ama bu konuda bilim insanlarımızın olması, bu konuda bir seferberlik olması, bilinçlilik olması, yani "buna körü körüne inanma", "şöyle kullanırsan iyidir, böyle kullanırsan kötüdür" konusunda hem halkın hem devletin kademelerinin eğitilmesi iyidir.
Ama yani ben bir Boğaziçi Üniversitesi öğretim üyesi olarak bir yandan da Boğaziçi Üniversitesi'ne yapılanların, Boğaziçi Üniversitesi'nde yapay zeka adıyla kurulan enstitüye nasıl kimlerin hangi "adrese teslim" ilanlarla işe alındığını, yani işin öbür tarafını da bildiğim için, Türkiye'nin potansiyeline tam ulaşabilmesi için gençlerini, bilim insanlarını kaçırmaması için yapabileceği çok daha basit şeyler olduğunu düşünüyorum.
Yani mesela durup dururken aynı gün üst üste dört tane disiplin soruşturması açılıp benim de bir ayımı tamamen disiplin soruşturmasına savunma yazarak geçirmemem gerekiyor.