Yapay Zekada Tehlike Alarmı! Eski Anthropic Araştırmacısından Çarpıcı Uyarı
Yapay zeka sektöründeki hızlı gelişmeler, teknolojiyi geliştiren isimler arasında da endişeye neden oluyor. Anthropic'te araştırmacı olarak görev yaptıktan sonra şirketten ayrılan Jacob Coxon, sektörde çalışanların yapay zekanın ilerleme hızından ve ortaya çıkabilecek sonuçlardan ciddi biçimde kaygı duyduğunu söyledi.
BBC'ye konuşan Coxon, yapay zekadaki gelişmelerin yalnızca teknolojik fırsatlar açısından değerlendirilmemesi gerektiğini belirtti. Teknolojinin mevcut hızla ilerlemeye devam etmesinin insanlığın geleceği açısından önemli riskler taşıdığını savunan Coxon, sektördeki çalışanların da bu ihtimalleri göz ardı etmediğini ifade etti. Coxon'a göre yapay zeka şirketlerinde görev yapan birçok kişi, teknolojik yarışın giderek daha yoğun hale gelmesinden rahatsız. Araştırmacı, çalışanların kendilerini kontrol edilmesi zor bir rekabet ortamının içerisinde gördüğünü ve bu yarışın nereye varacağından endişe ettiğini dile getirdi.
Coxon'dan Yapay Zeka Gelişimine Yavaşlama Çağrısı
Yapay zeka sistemlerinin geliştirilme hızının yeniden değerlendirilmesi gerektiğini söyleyen Coxon, mevcut ivmenin korunmasının ciddi sonuçlar doğurabileceği görüşünde. Araştırmacı, ilerleme hızının düşürülmemesi durumunda yakın gelecekte insanlığın varlığını tehdit edebilecek bir tabloyla karşılaşılabileceğini savundu. Coxon, bu konuda yalnızca şirketlerin alacağı kararların yeterli olmayacağını da belirtti. Yapay zeka alanındaki rekabetin kontrol altına alınabilmesi için özellikle ABD ve Çin arasında uluslararası koordinasyon sağlanması gerektiğini ifade etti.
Yapay Zeka Yarışı Kontrol Edilmeli
Coxon, ülkeler arasındaki rekabetin devam etmesi halinde yapay zeka yarışının sınırlandırılmasının zorlaşabileceğine dikkat çekti. Özellikle gelişmiş yapay zeka sistemlerinin kısa sürede çok daha güçlü hale gelmesinin, teknolojinin denetimi konusunda yeni sorunlar yaratabileceğini söyledi. Bununla birlikte Coxon, yapay zekanın yalnızca risklerden ibaret olmadığının da altını çizdi. Teknolojinin hastalıkların tedavisinde kullanılabilmesi, sağlık alanında ilerleme sağlaması ve insanların yaşamını kolaylaştırabilecek yeni imkanlar sunması gibi önemli faydalar sağlayabileceğini belirtti.
Anthropic CEO'su da Hız Konusunda Uyarıda Bulunmuştu
Yapay zeka sistemlerinin güvenliği ve kontrolü konusunda yaşanan tartışmalar, Anthropic yönetiminin de gündeminde bulunuyor. Şirketin CEO'su Dario Amodei, daha önce yayımladığı değerlendirmesinde yapay zeka modellerinin geliştirilme hızının düşürülmesi gerektiğine yönelik çağrıda bulunmuştu. Amodei'nin açıklamalarına Elon Musk ve OpenAI CEO'su Sam Altman da sosyal medya üzerinden destek vermişti. Böylece yapay zekanın gelişim hızının kontrol edilmesi gerektiğine ilişkin tartışma, sektörün önde gelen isimleri arasında da daha görünür hale gelmişti.
Jacob Coxon Neden Anthropic'ten Ayrıldı?
Jacob Coxon, OpenAI ve Anthropic bünyesinde yaklaşık üç yıl araştırmacı olarak çalıştıktan sonra Anthropic'ten ayrıldı. İstifasının ardından yaptığı değerlendirmelerde, her iki şirketin de yapay zeka geliştirme sürecinde yeterince sorumlu davranmadığını düşündüğünü açıklamıştı. Coxon, şirketlerin kendi yeteneklerini geliştirebilen yapay zeka sistemleri konusunda yoğun bir rekabete girdiğini savunmuştu. Bu sistemlerin gelecekte çok daha ileri düzey yeteneklere ulaşabileceğini belirten araştırmacı, yapay zekanın siber sistemlere müdahale edebilmesinden ekonomik ve toplumsal alanlarda çok hızlı değişim yaratabilmesine kadar uzanan çeşitli risklere dikkat çekmişti. Araştırmacı daha önce yaptığı açıklamalarda, yapay zeka alanında çalışan bazı kişilerin gelişmiş sistemlerin önümüzdeki 10 yıl içerisinde insanlık için ölümcül bir tehdit oluşturabileceğine ciddi şekilde inandığını da öne sürmüştü.