Yapay zekanın babası Hinton'dan korkutan uyarı: Keşke icat etmeseydik

Yapay zekânın öncülerinden Nobel ödüllü bilim insanı Geoffrey Hinton, teknolojinin geleceğine ilişkin dikkat çekici uyarılarda bulundu. İnsanlığın yapay zekâyı hiç geliştirmemiş olmasının daha iyi olabileceğini söyleyen Hinton, önümüzdeki bir yıl içerisinde dünya genelinde ciddi sonuçlar doğurabilecek bir yapay zekâ krizinin yaşanabileceğini öne sürdü.

İngiliz The Guardian gazetesine konuşan Hinton, olası bir felaketi 1986'daki Çernobil nükleer kazasına benzetti. Bilim insanına göre yapay zekâ destekli bir siber saldırı, geniş çaplı elektrik kesintilerine neden olabilir veya finansal sistemleri bir hafta boyunca işlemez hale getirebilir.

Yapay zekâda Çernobil benzeri felaket uyarısı

Hinton, 2026'nın sonlarında veya 2027'de yaşanabilecek büyük çaplı bir olayın, hükümetleri ve teknoloji şirketlerini yapay zekânın risklerini daha ciddi değerlendirmeye zorlayabileceğini belirtti.

Özellikle elektrik şebekeleri, enerji altyapısı ve finans sistemlerinin hedef alınabileceğine dikkat çeken bilim insanı, yapay zekânın siber saldırıları daha tehlikeli hale getirebileceği uyarısında bulundu.

Hinton'ın sözünü ettiği senaryolar henüz gerçekleşmiş olaylara değil, teknolojinin gelişimine ilişkin öngörülerine dayanıyor. Ancak kritik altyapıların yapay zekâ kaynaklı tehditlere karşı korunması, uluslararası güvenlik çalışmalarında giderek daha fazla önem kazanıyor.

İnsanlığın önünde kritik 10 yıl

Yapay zekânın insanlığa büyük faydalar sağlayabileceğini kabul eden Hinton, teknolojinin kontrol altına alınamaması durumunda ciddi toplumsal sonuçlarla karşılaşılabileceğini söyledi.

Bilim insanına göre önümüzdeki 10 yıl, insanlığın yapay zekâdan kaynaklanan tehlikeleri yönetip yönetemeyeceğini ortaya koyacak.

Hinton, risklerin önlenememesi halinde kitlesel işsizlik, ekonomik eşitsizliklerin derinleşmesi ve toplumsal kutuplaşmanın artması gibi sonuçların ortaya çıkabileceğini belirtti. Buna karşılık, teknolojinin doğru yönetilmesi durumunda insanlık için oldukça olumlu bir geleceğin de mümkün olduğunu vurguladı.

Teknoloji devlerine sert eleştiri

Hinton'ın eleştirilerinin hedefinde yalnızca yapay zekânın kendisi değil, teknolojiyi geliştiren büyük şirketlerin yöneticileri de vardı.

Başta OpenAI CEO'su Sam Altman olmak üzere sektörün önde gelen isimlerini eleştiren Hinton, şirketlerin rekabet ve ekonomik kazanç uğruna güvenlik risklerini ikinci plana attığını savundu.

Bilim insanı, teknoloji yöneticilerinin yapay zekânın taşıdığı tehlikelerin farkında olduklarını ancak yeterli önlemleri almak konusunda gerekli iradeyi göstermediklerini öne sürdü.

İlaçlar gibi test edilmeli

Hinton, yapay zeka sistemlerinin kullanıma sunulmadan önce ilaç sektöründekine benzer bağımsız güvenlik testlerinden geçirilmesi gerektiğini savundu.

Bu yaklaşım kapsamında teknoloji şirketlerinin, geliştirdikleri modellerin topluma sağlayacağı yararların olası zararlarından daha fazla olduğunu bilimsel kanıtlarla ortaya koyması gerektiğini belirtti.

ABD Başkanı Donald Trump yönetiminin yapay zekâ alanındaki uluslararası düzenlemelere mesafeli yaklaşımına karşın Hinton, ortak güvenlik standartlarının oluşturulmasının önemini vurguladı.

Hinton'a göre şirketlerin, ürünler piyasaya sürülüp zarar ortaya çıktıktan sonra hukuki sorumlulukla karşılaşması yeterli değil. Güvenlik değerlendirmelerinin teknolojiler kullanıma açılmadan önce yapılması gerekiyor.

Kontrolü kaybetmek kaçınılmaz mı?

Tüm uyarılarına rağmen Hinton, insanlığın yapay zekâ üzerindeki kontrolünü tamamen kaybettiği düşüncesinde değil.

Bilim insanı, teknolojinin tehlikelerini azaltmak için hâlâ fırsat bulunduğunu ancak bunun hükümetlerin, araştırmacıların ve şirketlerin ortak çabasını gerektirdiğini ifade etti.

2024 Nobel Fizik Ödülü'nün sahiplerinden olan Hinton, 2023 yılında Google'daki görevinden ayrılmış ve yapay zekânın olası tehlikeleri hakkında daha açık konuşmaya başlamıştı.