Anthropic Araştırmacısından Yapay Zeka Uyarısı!

Yapay zeka alanındaki ilerlemenin mevcut hızından endişe duyduğunu belirten Evan Hubinger, sosyal medya üzerinden yaptığı değerlendirmede bugünkü yapay zeka modellerinin oluşturduğu riskin henüz düşük seviyede olduğunu ifade etti. Ancak teknolojinin kendi gelişimini hızlandırabilecek bir aşamaya ulaşması halinde tablonun ciddi biçimde değişebileceği uyarısında bulundu. Hubinger, önümüzdeki 10 yıllık dönemde yapay zekanın insanlığın varlığını tehdit edecek seviyeye ulaşma ihtimalini yüzde 10’dan daha yüksek gördüğünü belirtti. Araştırmacı, böyle bir senaryonun nasıl gerçekleşebileceğine ilişkin ayrıntılı bir mekanizma paylaşmadı.

Yapay Zeka Şirketlerine Sorumluluk Eleştirisi

Tartışmanın fitilini ateşleyen açıklamalardan biri de daha önce Anthropic ve OpenAI bünyesinde görev yapan araştırmacı Jacob Coxon’dan geldi. Şirketlerin yapay zeka güvenliği konusunda yeterince sorumlu davranmadığını savunan Coxon, gelecekteki sistemlerin mevcut kapasitenin çok ötesine geçebileceğini öne sürdü. Coxon’a göre yapay zeka sistemleri yakın gelecekte siber saldırılar gerçekleştirme, farklı alanlarda büyük değişimler yaratma ve önemli miktarda güç ile kaynağa erişme kapasitesine ulaşabilir. Bu açıklamalar, sektörde yapay zekanın kontrol altında tutulması ve güvenliğinin sağlanması konusundaki tartışmaları yeniden gündeme taşıdı.

Yatırımcılara Yapay Zeka Şirketleri İçin Uyarı

Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall da yaşanan tartışmaya ilişkin değerlendirmede bulundu. Hall, şirketlerin halka arz öncesinde bu tür söylemleri yatırımcıların ilgisini çekmek amacıyla kullanabileceği ihtimaline dikkat çekti. Hall, yapay zekanın geleceğine ilişkin riskli senaryoları gündeme getiren ve buna rağmen gerekli güvenlik yaklaşımını ortaya koymayan şirketlere karşı yatırımcıların temkinli olması gerektiğini savundu. Tartışma İngiltere'de de yankı bulurken, eski Hazine Başsekreteri Darren Jones hükümete çağrıda bulundu. Jones, yapay zekanın güvenli biçimde geliştirilmesi için ülkelerin ortak hareket etmesini sağlayacak yeni bir uluslararası anlaşmaya ihtiyaç olduğunu dile getirdi.

İngiltere'deki Yapay Zeka Modeli İddiası

Yapay zeka güvenliğiyle ilgili tartışmalar sürerken Anthropic hakkında İngiltere merkezli yeni bir iddia da ortaya atıldı. Financial Times'ın haberine göre şirket, geliştirdiği son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünün incelemesinden geçirmedi. Anthropic, hem çalışanlarının sosyal medya paylaşımları hem de modelin enstitüden gizlendiği yönündeki iddialar hakkında açıklama yapmadı. İngiltere Kabine Ofisi ise söz konusu modelin gizlenip gizlenmediğine ilişkin net bir değerlendirme paylaşmazken, yapay zeka sistemlerinin güvenliğinin artırılması amacıyla sektör şirketleriyle iş birliğinin sürdüğünü belirtti.

Süper Zekaya Karşı Henüz Net Bir Plan Bulunmuyor

Hubinger'ın açıklamalarında dikkat çeken bir diğer nokta ise yapay zekanın insan denetiminin ötesine geçmesi ihtimaline karşı hazırlıkların henüz yeterli seviyede olmadığı yönündeki değerlendirmesi oldu. Araştırmacı, süper zeka ortaya çıkması durumunda sistemlerin insan değerleriyle uyumlu çalışmasını sağlamaya yönelik çalışmalar yürüttüklerini ancak bu konuda henüz kesin bir planlarının bulunmadığını ifade etti. Bu endişeler, son dönemde yapay zeka araçlarının siber güvenlik alanında daha otonom hareket edebilmesiyle birlikte daha da büyüdü. OpenAI, Anthropic ve Meta'nın geliştirdiği sistemlerin bazı siber saldırı girişimleriyle ilişkilendirildiğine yönelik gelişmeler, yapay zeka güvenliği konusundaki kaygıları artırdı.

Yapay Zekanın Güvenliği Konusunda Endişeler Artıyor

Anthropic'in ağustos ayında yayımladığı güvenlik raporunda da mevcut durumda büyük çaplı felaket risklerinin düşük olduğu değerlendirmesine yer verildi. Ancak raporda, bu değerlendirmeye duyulan güvenin önceki dönemlere kıyasla azaldığına dikkat çekildi. Yapay zeka sektörünün önde gelen isimleri de teknolojik gelişmelerin daha sıkı kurallara bağlanması gerektiğini savunuyor. OpenAI Başbilimcisi Jakub Pachocki ile Anthropic yöneticileri Dario Amodei ve Jared Kaplan'ın da aralarında bulunduğu isimler, uluslararası denetim mekanizmalarının oluşturulması ve yapay zeka gelişiminin daha kontrollü ilerlemesi yönündeki çağrılarını sürdürüyor.