Yapay zeka teknolojilerinin küresel ölçekte hızla yaygınlaşması, insanlığın güvenliğini tehdit edebilecek kötü niyetli kullanım girişimlerini de beraberinde getiriyor.
Yapay zeka araştırma şirketi Anthropic, sistemlerinin biyolojik silah geliştirme süreçlerini desteklemeye yönelik tehlikeli faaliyetlerde kullanılmasını başarıyla durdurduğunu duyurdu.
Şirketin perşembe günü yayımladığı kapsamlı tehdit istihbaratı raporu, bu teknolojinin insanlık için doğurabileceği varoluşsal risklere dikkat çeken uzman uyarılarını yeniden alevlendirdi.
Hazırlanan raporda yer alan çarpıcı tespitler, gelişmiş algoritmaların kötü niyetli aktörlerin elinde felakete yol açabilecek bir araca dönüşebileceğini kanıtlıyor.
Biyolojik Silah Girişimleri Var
Anthropic tarafından paylaşılan detaylara göre, modellerin biyolojik silah üretme süreçlerine destek sağlaması amacıyla kullanıldığı 5 farklı vaka mercek altına alındı.
Yetkililer, biyolojik kötüye kullanım riskinin hızla gelişen yapay zeka sistemleri için en ölümcül tehditlerden biri olduğunu vurguluyor.
Gerekli güvenlik kalkanları devreye sokulmadığı takdirde bu tür girişimlerin telafisi imkansız küresel felaketlere yol açabileceği belirtiliyor.
Şirket, tehlikeli araştırmaları yürüten aktörlerin ve bilim insanlarının sistem üzerindeki tüm erişimlerini engelleyerek bu yıkıcı senaryoların önüne geçti.
Biyolojik tehditlerin tespit edilmesini zorlaştıran en büyük etkeni, bu alandaki araştırmaların çift amaçlı kullanılabilen hassas yapısı oluşturuyor.
Zira bir hastalığa karşı hayat kurtarıcı aşı geliştirmek için gereken bilimsel veriler ile biyolojik bir silah üretmek için kullanılan bilgiler tamamen örtüşüyor.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, New York Times gazetesine verdiği demeçte durumun son derece incelikli ve karmaşık olduğunu ifade etti.
Klein, kötü niyetli aktörlerin çizgi romanlardaki gibi açıkça herkesi öldürecek bir silah yapmak istediklerini söylemediklerini dile getirdi.
Biyolojik tehditlerle yüzleşen tek teknoloji devi Anthropic ile sınırlı kalmıyor. Teknoloji devi Google da salı günü yaptığı açıklamada, bir kullanıcının Gemini aracılığıyla silaha dönüştürülmüş biyolojik ajanların sentezlenmesi için teknik bir kılavuz elde etmeye çalıştığını duyurdu.
Mühimmat Üretimi İçin de Kullanılıyor
Yayımlanan istihbarat raporu, yapay zekanın yalnızca biyolojik alanda değil geleneksel mühimmat üretiminde de kullanılmak istendiğini gösteriyor.
Raporda, Claude modellerinin konvansiyonel silahlar için yazılım geliştirmek amacıyla kullanıldığı 6 farklı olaya dikkat çekiliyor.
Kötü niyetli kişilerin ateşli silahlar, güdümlü füzeler, silahlı insansız hava araçları ve bombaların hedefleme ve kontrol yazılımlarını üretmeye çalıştığı tespit edildi. Güvenlik filtrelerine takılan bu faaliyetlerin tamamı sistem tarafından anında durduruldu.
Anthropic, söz konusu kötü amaçlı kullanım denemelerinin Aralık 2025 ile Ağustos 2026 tarihleri arasında engellendiğini belirtti.
Bu süreçte siber saldırganların Claude Haiku, Sonnet ve Opus modellerini suiistimal etmeye çalıştığı kaydedildi.
Şirketin en gelişmiş sistemleri olan Claude Fable ve güçlü Mythos sınıfı modellerin bu kötüye kullanım vakalarından tamamen uzak kaldığı vurgulandı.
