OpenAI Sonrası Yeni Adım! ABD'de Yapay Zekâ İçin Kapatma Yetkisi Tartışılıyor

Yapay Zekâ Acil Kapatma Anahtarı Yasası (AI Kill Switch Act) adıyla hazırlanan teklif, yapay zekâ sistemlerinin kontrolden çıkması halinde uygulanacak yeni güvenlik mekanizmalarını gündeme taşıdı.

ABD Kongresi'nden Yapay Zekâ Güvenliği İçin Ortak Adım

Temsilciler Meclisi'nin Demokrat Partili üyesi Ted Lieu ile Cumhuriyetçi Partili Nathaniel Moran tarafından hazırlanan yasa tasarısı, siyasi görüş ayrılıklarının ötesinde yapay zekâ güvenliğinde ortak bir yaklaşım oluşturmayı hedefliyor. Teklifin hazırlanmasında, OpenAI'ın geliştirdiği bazı yapay zekâ modelleriyle ilgili yaşanan ve sistemlerin bilgisayar kodlarının bulunduğu geniş bir veri deposuna erişim sağladığını ortaya koyan son gelişmelerin etkili olduğu belirtiliyor. Ted Lieu, yapay zekâ teknolojilerinin kritik alanlarda kullanılmaya başlamasıyla birlikte acil müdahale mekanizmalarının artık zorunlu hale geldiğini ifade ederek, federal yönetimin risk oluşturan sistemleri durdurabilecek açık bir yetkiye sahip olması gerektiğini söyledi.

Şirketlere Zorunlu Kapatma Mekanizması Şartı Geliyor

Tasarı kabul edilirse, ABD İç Güvenlik Bakanlığı, gerekli görülmesi halinde özel şirketlere ait yapay zekâ modellerinin durdurulmasını talep edebilecek. Bunun yanında yapay zekâ geliştiren şirketlerin, sistemlerini gerektiğinde yavaşlatabilecek, askıya alabilecek veya tamamen devre dışı bırakabilecek teknik altyapıyı hazır bulundurmaları da zorunlu hale gelecek. Mevcut uygulamada birçok teknoloji şirketi geliştirdikleri yapay zekâ modellerini devlet kurumlarıyla paylaşsa da, hükümetin bu sistemlere doğrudan müdahale etmesini sağlayan yasal bir düzenleme bulunmuyor.

Arıza Ve Güvenlik Sorunları Devlete Bildirilecek

Yasa teklifinde yalnızca acil kapatma yetkisi değil, yapay zekâ sistemlerinde yaşanan teknik sorunların resmi makamlara bildirilmesi de yer alıyor. Hazırlanan çerçeveye göre şirketler, önemli teknik aksaklıklar veya güvenlik risklerini hükümete raporlayacak. Yetkililer ise olayın büyüklüğüne göre sistemi yavaşlatma, geçici olarak durdurma ya da tamamen kapatma gibi adımlar atabilecek. Bu yaklaşımın, olası güvenlik tehditlerine daha hızlı müdahale edilmesini sağlaması amaçlanıyor.

Anthropic Ve OpenAI Tartışmaların Merkezinde

Ted Lieu, açıklamalarında yalnızca OpenAI'a değil, rakip şirket Anthropic'e ilişkin güvenlik tartışmalarına da değindi. Lieu, Anthropic'in geliştirdiği Mythos ve Fable modellerinin siber saldırı potansiyeli nedeniyle ABD Ticaret Bakanlığı'nın bu sistemlerin kamuya açılmasını engellemek amacıyla ihracat mevzuatını devreye aldığını hatırlattı. OpenAI ve Anthropic ise yasa teklifiyle ilgili kamuoyuna herhangi bir değerlendirmede bulunmadı.

Uzmanlar Fren Mekanizması Gerektiğini Savunuyor

Anthropic Kurucu Ortağı Jack Clark da yapay zekâ alanında daha güçlü kamu politikalarına ihtiyaç duyulduğunu belirterek, sektörün gelişmeye devam ederken aynı zamanda güvenli biçimde yönetilmesi gerektiğini dile getirdi. Clark, mevcut yapının teknolojiyi hızlandırmaya odaklandığını, ancak riskli durumlarda devreye girecek etkili bir kontrol mekanizmasının eksik olduğunu ifade etti.

Yapay Zekâ Artık Kritik Sistemlerde Görev Alıyor

Yasa teklifini hazırlayan isimler, yapay zekânın yalnızca sohbet eden sistemlerden ibaret olmadığını vurguluyor. Günümüzde finans işlemleri, ulaşım altyapıları, siber savunma sistemleri ve çeşitli kritik operasyonlarda aktif rol üstlenen yapay zekâ uygulamalarının, olası bir kontrolden çıkma durumunda ciddi sonuçlar doğurabileceğine dikkat çekiliyor. Öte yandan Pentagon'un son dönemde Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve Reflection gibi teknoloji şirketleriyle yürüttüğü yapay zekâ projeleri de bu teknolojilerin kamu kurumlarındaki kullanım alanının hızla genişlediğini ortaya koyuyor. Tasarıyı destekleyen teknoloji güvenliği kuruluşları ise olası risklere karşı hükümetin hızlı hareket edebilmesini sağlayacak yasal altyapının oluşturulmasının önem taşıdığı görüşünü paylaşıyor.