AI Dünyasında Şok İstifa: “İnsanlığın Sonunu Getirebilir”

Yapay zekâ dünyasında güvenlik tartışmalarını yeniden alevlendiren dikkat çekici bir gelişme yaşandı. Daha önce OpenAI ve Anthropic’te araştırmalar yürüten yapay zekâ araştırmacısı Jacob Coxon, görevinden ayrıldığını açıklayarak hızla gelişen yapay zekâ sistemlerinin insanlık açısından ciddi riskler taşıdığı uyarısında bulundu.

Coxon, 8 Eylül’de sosyal medya platformu X üzerinden yaptığı açıklamalarda, teknoloji şirketlerinin kendi kendini geliştirebilecek “süper zekâ” seviyesindeki sistemlere doğru ilerlerken yeterince sorumlu davranmadığını savundu. Araştırmacının en çarpıcı iddiası ise sektörde çalışan bazı kişilerin gelişmiş yapay zekânın insanlığın varlığını tehdit edebileceğine gerçekten inandığı yönünde oldu.

“Bu Teknolojinin Gücünü Hafife Almayın”

Yapay zekânın gelişim hızına dikkat çeken Coxon, gelecekteki sistemlerin insan kapasitesini birçok alanda aşabileceğini öne sürdü. Bu sistemlerin siber saldırılar gerçekleştirme, bilimsel ve teknolojik alanlarda çok hızlı ilerleme sağlama, gerçek dünyada kaynak ve güç elde etme potansiyeline sahip olabileceğini belirtti.

Coxon, yapay zekâ geliştiren bazı araştırmacı ve yöneticilerin önümüzdeki yıllarda ortaya çıkabilecek sistemlerden ciddi şekilde endişe duyduğunu ileri sürdü.

Araştırmacıya göre kamuoyuna yapılan açıklamalarda daha ölçülü ifadeler tercih edilse de sektör içindeki özel görüşmelerde çok daha ciddi kaygılar dile getiriliyor.

OpenAI ve Anthropic Hakkında Dikkat Çeken İddia

Coxon, daha önce çalıştığı OpenAI ve Anthropic’in süper zekâ yarışındaki yaklaşımlarını da eleştirdi.

OpenAI’de bazı çalışanların yapay zekânın oluşturabileceği “medeniyet ölçeğindeki riskleri” yeterince içselleştirmediğini öne süren Coxon, Anthropic tarafında ise risklerin daha iyi anlaşıldığını ancak şirketin başka aktörlerden önce güvenli bir sistem geliştirme düşüncesiyle yarışın içinde kalmaya devam ettiğini savundu.

Habere göre OpenAI ve Anthropic, Coxon’ın açıklamalarına ilişkin yorum taleplerine yayın saatine kadar yanıt vermedi.

Güvenlik Tartışması Washington’a Taşındı

Yapay zekânın kontrolü konusundaki endişeler yalnızca teknoloji dünyasıyla sınırlı değil. ABD Senatörü Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar, federal düzenleyiciler kapsamlı güvenlik kuralları oluşturana kadar ileri düzey yapay zekâ geliştirilmesinin geçici olarak durdurulmasını ve yapay süper zekânın yasaklanmasını öngören bir düzenleme hazırladıklarını duyurdu.

Tartışmanın merkezindeki konulardan biri ise gelecekteki yapay zekâ sistemlerinin insan müdahalesi olmadan kendi yeteneklerini geliştirebilme ihtimali.

OpenAI Baş Bilim İnsanından “Aşırı Dikkat” Çağrısı

OpenAI Baş Bilim İnsanı Jakub Pachocki de 6 Eylül’de yayımladığı yazıda gelişmiş yapay zekânın oluşturabileceği tehlikelere dikkat çekti.

Pachocki, yalnızca üç yıl içerisinde akıl yürütme yeteneğine sahip dil modellerinin ekonominin giderek büyüyen bir parçası haline geldiğini; bilgisayarları kullanabildiğini, insanlarla ve diğer sistemlerle iş birliği yapabildiğini ve araştırma projeleri yürütebildiğini belirtti.

Özellikle siber güvenlik alanındaki gelişmelerin yeni riskler ortaya çıkardığını vurgulayan Pachocki, yapay zekâ geliştirilirken “aşırı dikkat” gerektiğini ifade etti. Buna karşın gelişmiş sistemlerin diğer yapay zekâların yaratabileceği tehditlere karşı savunmada kullanılabileceğini belirterek araştırmaların sürdürülmesini destekleyen gerekçeler bulunduğunu da kaydetti.

Anthropic İçinden Benzer Uyarılar

Coxon’ın açıklamalarına Anthropic bünyesindeki bazı araştırmacılardan da destek geldi.

Anthropic araştırmacısı Evan Hubinger, mevcut yapay zekâ modellerinin oluşturduğu riskin düşük olduğunu düşündüğünü ancak gelecekte kendi kendini geliştirebilecek süper zekâ sistemlerinden endişe duyduğunu açıkladı. Hubinger, önümüzdeki on yılda insanlığın varlığını tehdit edecek bir sonuç ortaya çıkma ihtimalini yüzde 10’un altında değerlendirdiğini söyledi.

Anthropic’te güvenlik araştırmaları yapan Samuel Marks da yapay zekânın önümüzdeki birkaç yıl içerisinde dahi çok ciddi sonuçlara yol açabileceği görüşünü dile getirdi. Marks, şirketlerin risklere rağmen çalışmalarını sürdürmesinin arkasında ticari teşviklerin ve “daha az sorumlu” rakiplerden önce teknolojiyi geliştirme düşüncesinin bulunduğunu savundu.

Yapay Zekâ Yarışında Kritik Soru

Coxon’ın istifasıyla birlikte teknoloji dünyasının uzun süredir tartıştığı soru yeniden gündemin merkezine yerleşti: Yapay zekâ insanlardan daha yetenekli hale gelmeden önce onu güvenli biçimde kontrol etmenin yolu bulunabilecek mi?

Bir tarafta bilim, sağlık, ekonomi ve teknoloji alanlarında büyük ilerlemeler vadeden yapay zekâ sistemleri bulunurken diğer tarafta aynı teknolojinin kontrol edilemez hale gelmesinden endişe eden araştırmacılar var.

Coxon ve diğer güvenlik araştırmacılarının açıklamaları ise tartışmayı artık uzak bir gelecek senaryosundan çıkarıp önümüzdeki birkaç yıl içinde alınacak kararların sonuçlarına odaklıyor.