19 sayfalık Yapay Süper Zekayı Yasaklama Yasası, yapay zekayı düzenlemek ve denetlemek üzere bir yapay zeka sekreterinin liderliğinde kabine düzeyinde bir Yapay Zeka Bakanlığı kurulana kadar gelişmiş yapay zeka geliştirmesinin durdurulmasını gerektiriyor.
Kuralların ihlali, kurumsal ölüm cezası olarak adlandırdıkları cezanın yanı sıra 20 yıla kadar hapis cezası içeriyor.
Sanders bunun yasadışı nükleer silah üretmekle aynı ceza olduğunu söyledi.
Tasarı, yapay zekayı düzenlemeye yönelik bir dizi kongre teklifinin en sert olanlarından biri olarak öne çıkıyor. Araştırmacıların bu ay feci olasılıklar konusunda uyarıda bulunmasıyla yapay zeka Kongre’de önemli bir tartışma konusu olsa da, bu yıl anlamlı bir yasanın geçeceğine dair çok az beklenti bulunuyor. Sanders çarşamba günü gazetecilerle yaptığı bir görüşmede Kongre’de yaklaşan tsunamiye hazırlık için neredeyse hiçbir şey yapılmadığını belirtti.
Süper zekanın tanımı ve hedefleri
Casar ile birlikte sunduğu tasarı, yapay zeka araştırma ve geliştirme sürecini otomatikleştirme veya büyük ölçüde hızlandırma kapasitesi de dahil olmak üzere süper zekanın gelişimini tanımlamayı amaçlayan bir dizi ön koşul içeriyor.
Tasarının hazırlanmasında görev alan bir danışmana göre amaç özyineli kişisel gelişimi engellemekten geçiyor. Bazı yapay zeka uzmanları, özyineli kişisel gelişimin yapay zeka sistemlerinin daha akıllı ve daha yetenekli olmak için kendilerini eğitmesine ve sonunda insan kontrolünden çıkmasına yol açabileceği konusunda uyarıda bulunmuştu.
Sanders çarşamba günkü görüşmede, insanlığın daha önce hiç görmediği bir şeyle uğraştıklarını ifade etti. Bunun dünya tarihindeki en dönüştürücü teknoloji olduğunu ve çok hızlı ilerlediğini belirten Sanders, yapay zeka alanının dünyadaki en zengin az sayıda insan tarafından geliştirilip yönlendirildiğini ve temel amaçlarının sadece servetlerini ve güçlerini artırmak olduğunu söyledi.
Uzmanlar, farklı yapay zeka yetenek seviyeleri arasındaki belirsiz sınırlar nedeniyle süper zekayı teknik düzeyde tanımlamanın karmaşık olacağını belirtiyor. ABD Başkanı Donald Trump’ın salı günü Birleşmiş Milletler Genel Kurulu’nda yaptığı konuşmada hükümet belgelerinde yapay zekayı süper zeka olarak yeniden adlandıracağını açıklamasıyla bu sınırlar daha da belirsizleşti.
Tasarıya destek ve eleştiriler
Sanders ve Casar tasarısı, teknolojiye koruyucu önlemler getirilmesini savunan ControlAI grubunun liderlerinden övgü aldı.
Grup yayımladığı yazıda, süper zeki yapay zekayı federal hükümeti alt etme kapasitesine göre tanımlama tercihini takdir ettiklerini, bunun böyle bir yapay zekanın nasıl çalışacağının teknik detaylarını önceden belirlemek zorunda kalmadan yok olma riski oluşturan yapay zeka geliştirme türünü hedeflediğini belirtti.
Texas Üniversitesi Hukuk Fakültesi Profesörü ve yapay zeka politika uzmanı Kevin Frazier da milletvekillerinin çabalarını takdir etti. Frazier, Sanders ve Casar tarafından önerilen yasağın, Kongrenin yapay zeka gelişiminin istenmeyen ve geri döndürülemez olumsuz sonuçlara yol açmamasını sağlamak için hızlı hareket etmesi gerektiğini haklı olarak kabul ettiğini söyledi.
Ancak Frazier, tasarının yapay zeka kaynaklı zararları önlemeye yönelik diğer yolları göz ardı ettiğini ifade etti. Önde gelen yapay zeka şirketlerinin güvenlik uygulamalarına ışık tutmaya yardımcı olabilecek bağımsız doğrulama kuruluşları kurmaya yönelik mevcut tekliflerin altını çizdi.
Sektörden ve siyasilerden itirazlar
Washington’daki bazı isimler Sanders ve Casar’ın çabasının kışkırtıcı ancak gerçekçi olmadığını savundu.
