Yapay zekâ şirketi Anthropic’ten ayrılan araştırmacı Jacob Coxon BBC’ye konuştu. “Yapay zekâ” (AI/YZ) teknolojisi üzerinde çalışan kişilerin, teknolojinin ilerleme hızından ve insanlığın geleceğinden “gerçekten korktuklarını” söyledi.
“Eğer mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal var” dedi.
Jacob Coxon’ın günler önce yayımladığı ve yapay zekânın tehlikeleri hakkında bilgiler içeren istifası tüm dünyada popüler olmuştu.
27 yaşındaki gencin eski patronu, Anthropic’in başkanı Dario Amodei de yakın zamanda yapay zekâ geliştirme çalışmalarının yavaşlatılması çağrısında bulundu.
Ancak bazıları bu çağrının ardındaki motivasyonları sorguluyor.
Rakip iki yapay zekâ şirketinin patronları, OpenAI’den Sam Altman ve xAI’den Elon Musk, Amodei’nin sektör genelinde yavaşlama önerisine katıldıklarını söylediler.
Amodei 12 Eylül Cumartesi günü yazdığı bir makalede, teknolojinin geliştirilmesinin tartışma konusu olmadığını, ancak bununla ilişkili risklerin “ciddi” olduğunu ve şirketlere ve hükümetlere bu riskleri gidermek için zaman tanınması gerektiğini belirtti.
Anthropic’e katılmadan önce OpenAI’da çalışan Coxon, yavaşlama önerisini memnuniyetle karşıladı ancak “uluslararası ölçekte bir yarıştan” kaçınmak için bunun Çin ile koordineli bir şekilde yapılması gerektiğini söyledi.
Coxon BBC’den Laura Kuenssberg’e “Bu şirketlerde çalışan insanlar, düzenleme talep ederken tamamen ciddiler çünkü kendilerini bir yarışın içinde sıkışmış buluyorlar. Ve bu yarışın sonuçlarından korkuyorlar” dedi.
YZ KIYAMAETİ
Coxon’a göre, cevaplanması en zor soru, yapay zekâ kıyametinin nasıl bir şey olacağıydı.
Amodei’nin açıklamalarında belirtilen risklerden biri, süper bilgisayar gibi davranabilmesi ve interneti ele geçirebilmesiydi.
Coxon, bu senaryonun altı ay ila bir yıl içinde gerçekçi olabileceğini söyledi.
Coxon’ın ayrılışına yanıt olarak, Anthropic sözcüsü BBC News’e şunları söyledi:
“Yapay zekânın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk.
“Bu riskleri gidermek için, sektördeki en güçlü güvenlik önlemlerine sahip modeller geliştirmeye devam ediyoruz.”
Şirket sözcüsü, firmanın yapay zekâ modellerinin nasıl çalıştığını incelemede öncü olduğunu da anlattı.
Bu modellerin geliştirilmesinden kaynaklanan riskleri azaltmaya yönelik bir çerçeve yayımlayan ilk firma olduklarını ve ayrıca modellerini “agresif bir şekilde” test edip bulgularını yayımlayarak incelemeye yardımcı olduklarını ve “yapay zekâ uyumsuzluğu” olaylarını önlediklerini belirtti.
Coxon, meslektaşlarının tehlikenin önümüzdeki iki yıl içinde bile ortaya çıkabileceğinden endişe duyduğunu söyledi.
Yapay zekâ şirketlerindeki çalışanların “hayatlarıyla ne yapacaklarını planladıklarını ve işlerinin etkilerini düşündüklerini”, bazılarının ise “yapay zekânın hızlı ilerlemesinin sonucu olarak ortaya çıkacak istikrarsızlıktan çok korktukları için bir yerlerde arazi satın almayı düşündüklerini” söyledi.
Ancak Coxon, yapay zekânın geleceği konusunda bir miktar iyimserliğe sahipti ve BBC’ye yaptığı konuşmada, teknolojiyi araştıran kişilerin “hastalıkları çözmek ve herkesin hayatını iyileştirmek” gibi olumlu yönleri “gerçekten görmek istediklerini” söyledi.
ENDİŞELER ARTTI
Coxon’ın sosyal medya paylaşımından bu yana sektördeki birçok kişi de endişelerini dile getirdi; bunların arasında Anthropic’ten Evan Hubinger de bulunuyor.
Hubinger önümüzdeki 10 yıl içinde “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğuna inandığını söyledi.
Nobel ödüllü ve “yapay zekânın babası” olarak bilinen Geoffrey Hinton, 11 Eylül’de BBC’ye yaptığı açıklamada, yapay zekânın tüm insanları yok etme olasılığının %10 olmasının “makul olmayan bir ihtimal olmadığını” söyledi.
Bu arada, yapay zekâ güvenliği firması Faculty’nin CEO’su Marc Warner, BBC’nin The World This Weekend programına yaptığı konuşmada, yapay zekânın tüm insanları öldürme olasılığını “kesin olarak belirlemenin son derece zor” olduğunu söyledi.
KARŞI ÇIKANLAR VAR
Ancak bazı sektör temsilcileri, yorumların abartılı olduğunu veya sansasyon yaratmak amacıyla yapılmış olabileceğini öne sürdüler.
Yapay zekâ platformu Hugging Face’in CEO’su Clement Delangue sosyal medyada, “Üzgünüm ama Jacob’a [Coxon] yapay zekânın yok olma riski hakkında soru sormak, klimacınıza iklim değişikliği hakkında soru sormak gibidir” dedi.
Ancak Amodei’nin makalesi yayımlandıktan sonra Delangue, Anthropic patronunun önerdiği potansiyel çözümlerin bir parçası olmayı teklif etti.
Grindr CEO’su George Arison, BBC’ye verdiği demeçte benzer görüşleri dile getirerek Anthropic ve diğerlerinin açıklamalarının yatırımcı desteğini artırmak için yapıldığını öne sürdü.
Yapay zekâ çip üreticisi Nvidia’nın patronu Jensen Huang da Coxon’ın yorumlarının doğru olmadığını söyleyerek reddetti.
Diğer eleştirmenler ise Anthropic’in rekabeti engellemek için düzenleyici bir baskı başlatmaya çalıştığını söylüyor.
Anthropic’in, potansiyel olarak rekor kıracak bir halka arz için hazırlık yaptığı ve bu sayede insanların şirket hisselerini satın almasına olanak tanıyacağı bildiriliyorlar.
Son olarak 852 milyar dolar değer biçilen OpenAI’ın da aynı şeyi (halka arz çalışması) yapması bekleniyordu, ancak OpenAI’ın CEO’su Altman, 11 Eylül Cuma günü yaptığı açıklamada yapay zekâ güvenliği endişelerini gerekçe göstererek bunun bu yıl gerçekleşmeyeceğini söyledi. (BBC Türkçe’den derlenmiştir)
