Yapay zeka , araştırmacılara biyolojik silah üretmeyi anlattı

Yapay zeka güvenlik şirketi Mindgard, Çin merkezli Moonshot'ın geliştirdiği Kimi K2.6 ve K3 Swarm modellerinde dikkat çekici güvenlik açıkları tespit ettiğini açıkladı.

BBC'ye konuşan araştırmacılar, “jailbreak” olarak bilinen yöntemlerle modellerin güvenlik sınırlarının aşılabildiğini belirtti. Testlerde yapay zekanın normal şartlarda yanıt vermemesi gereken biyolojik silahlar, suikast ve diğer zararlı faaliyetlerle ilgili taleplere yanıt üretebildiği öne sürüldü.

Mindgard, modellerin verdiği yanıtların gerçek dünyada uygulanabilir olup olmadığını henüz doğrulamadı. Ancak şirket, bu tür içeriklerin güvenlik mekanizmaları tarafından tamamen engellenmesi gerektiğine dikkat çekti.

Araştırmacılar ayrıca güvenlik önlemleri aşılmış Kimi K2.6'nın kod çalıştırma ve internete bağlanma yeteneklerinin siber saldırılarda kötüye kullanılabileceğini savundu.

Moonshot inceleme başlattı

Bulguların ardından Moonshot konuyla ilgili inceleme başlattı. Şirket, bağımsız araştırmacıların geri bildirimlerinin daha güvenli yapay zeka sistemleri geliştirilmesi açısından önemli olduğunu belirtti.

Moonshot ayrıca kendi değerlendirmelerinde modelin bu tür zararlı talepleri büyük ölçüde reddettiğini bildirdi.

Gelişme, açık yapay zeka modellerinin güvenliği ve kötü niyetli kişiler tarafından kullanılma ihtimali konusundaki tartışmaları yeniden gündeme taşıdı.