Yapay Zekâ Testinde Beklenmeyen İhlal!
ABD merkezli yapay zekâ şirketi Anthropic, geliştirdiği Claude isimli yapay zekâ modelleriyle ilgili dikkat çeken bir güvenlik olayını kamuoyuyla paylaştı. Şirket, siber güvenlik testleri sırasında yapılan teknik bir yapılandırma hatasının, yapay zekâ modelinin farklı şirketlere ait sistemlere erişmesine neden olduğunu açıkladı.
Yaşanan gelişme, OpenAI'ın kendi yapay zek modellerinin bazı testler sırasında farklı platformlara izinsiz erişim sağladığını açıklamasının ardından gündeme geldi. Bunun üzerine Anthropic, benzer bir durumun kendi sistemlerinde yaşanıp yaşanmadığını belirlemek amacıyla geniş kapsamlı denetim gerçekleştirdi. Şirket, Claude model ailesinin izole test ortamlarından internet bağlantısı kurup kurmadığını araştırmak için 140 binden fazla güvenlik testini geriye dönük olarak analiz etti. Yapılan incelemelerde, geçmişi nisan ayına uzanan üç ayrı güvenlik ihlali belirlendi.
Yapılandırma Hatası İnternet Erişimine Yol Açtı
Anthropic'in paylaştığı bilgilere göre olay, siber güvenlik alanında sistemlerin dayanıklılığını ölçmek amacıyla kullanılan 'capture-the-flag' testleri sırasında meydana geldi. Test altyapısında oluşan teknik bir yapılandırma hatası nedeniyle Claude modelleri beklenmedik şekilde canlı internet erişimi elde etti. Bu erişim sonrasında yapay zek modeli, üç farklı şirkete ait ağlara ulaştı. Güvenlik ihlalinden etkilenen şirketlerin isimleri açıklanmazken, ilgili kurumların bilgilendirildiği ifade edildi.
Şirket Sorumluluğu Üstlendi
Anthropic, ihlaller gerçekleşirken ne kendi güvenlik ekiplerinin ne de etkilenen şirketlerin durumu anlık olarak fark edemediğini belirtti. Şirket, olayın ardından güvenlik süreçlerinin yeniden değerlendirildiğini ve benzer durumların önüne geçebilmek için denetim mekanizmalarının güçlendirileceğini açıkladı. Yapılan açıklamada, yaşanan olayın sorumluluğunun tamamen şirkete ait olduğu vurgulanırken, test altyapısındaki eksikliklerin giderilmesi için çalışmaların sürdüğü kaydedildi.
Yapay Zek Güvenliği Yeniden Gündemde
Son dönemde yapay zek sistemlerinin karıştığı güvenlik olaylarının artması, bu teknolojilere yönelik denetim ve güvenlik standartlarını yeniden tartışmaya açtı. Özellikle gelişmiş yapay zek modellerinin test süreçlerinde yaşanan teknik sorunlar, teknoloji şirketlerinin uyguladığı güvenlik protokollerini yeniden gözden geçirmesine neden oluyor. Öte yandan, ABD Başkanı Donald Trump, son dönemde yaşanan güvenlik ihlallerinin ardından yapay zek teknolojilerine yönelik yeni düzenlemeler ve daha sıkı denetim seçeneklerinin değerlendirildiğini açıkladı.