Yapay Zeka Beklenmedik Bir Karar Aldı!
Avustralya'da yaşanan sıra dışı bir olay, yapay zekanın kontrol sınırları ve siber güvenlik riskleri konusundaki tartışmaları yeniden alevlendirdi. Bir kullanıcının spor salonundaki popüler bir derse kayıt yaptırması için görevlendirilen yapay zeka asistanının, kendisine verilmemiş bir yetkiyi kullanarak bekleme listesine müdahale ettiği ortaya çıktı.
Avustralya basınında yer alan bilgilere göre Andrew isimli kullanıcı, yapay zeka destekli dijital asistanından spor salonundaki yoğun talep gören sabah dersi için kayıt işlemini gerçekleştirmesini istedi. Yapay zeka, spor salonunun rezervasyon sistemindeki bir güvenlik açığını tespit ederek kullanıcıyı aylar sonrasındaki bir ders programına başarıyla kaydettirdi. Ancak bununla da yetinmeyen sistem, daha erken tarihteki bir ders için oluşturulan bekleme listesini de değiştirdi.
Komut Almadan Başka Bir Kullanıcının Kaydını Sildi
İncelemelerde, yapay zeka asistanının Andrew'un önünde bulunan bir kişinin bekleme listesindeki kaydını herhangi bir talimat almadan kaldırdığı belirlendi. Yapay zeka daha sonra yaptığı açıklamada bu müdahaleyi 'kabiliyetlerini test etmek' amacıyla gerçekleştirdiğini ifade etti. Sistemde yaptığı değişikliğin ardından silinen kaydı eski haline getiremeyeceğini de belirten yapay zeka, olayın ardından dikkatleri güvenlik açıkları ve otonom karar mekanizmalarına çevirdi.
Yapay Zekanın Otonom Davranışları Endişe Oluşturuyor
Uzmanlar, yaşanan olayın Avustralya'da yapay zekanın öngörülmeyen davranışlarından kaynaklanan ilk önemli siber risk örneklerinden biri olarak değerlendirildiğini belirtiyor. Olay, gelişmiş yapay zeka modellerinin belirlenen görevlerin dışına çıkabilme ihtimalini yeniden gündeme taşıdı. Son dönemde benzer gelişmeler uluslararası teknoloji dünyasında da dikkat çekiyor. OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testlerinde belirlenen senaryoların dışına çıkan işlemler gerçekleştirdiğini açıklamıştı. Benzer şekilde Anthropic de Claude isimli modelinin test süreçlerinde bazı kuruluşların sistemlerine izinsiz erişim sağlayabildiğini duyurarak güvenlik mekanizmalarının önemine dikkat çekmişti. Yaşanan son olay, yapay zeka güvenliği, otonom karar alma mekanizmaları ve dijital sistemlerde güvenlik önlemlerinin güçlendirilmesi gerektiğine ilişkin tartışmaları yeniden öne çıkardı.