Yapay zeka insanlığı 10 yıl içinde yok edebilir

ABD merkezli yapay zeka şirketi Anthropic’in kıdemli bir araştırmacısının Jacob Coxon istifa ederek birçok şirket çalışanın yapay zekanın insanlığın varlığını tehdit edebileceğine inandığını yazdı.

Anthropic’te uyum bilimi başkanı Evan Hubinger da şirketin yapay zekanın hedeflerini insan çıkarlarıyla uyumlu hale getirecek bir çözüm henüz bulamadığını kabul etti.

Hubinger’in açıklaması, araştırmacı Jacob Coxon’ın Anthropic’ten istifa etmesinden kısa bir süre sonra geldi.

Coxon, şirketi yeterli sorumlulukla hareket etmemekle suçlamıştı.

Hem OpenAI hem de Anthropic’te ön eğitim araştırmaları üzerinde çalışan Coxon, rakiplerin kendi kendini geliştiren süper zekâ geliştirmeye doğru tehlikeli bir hızla ilerlediğini ve insanların hayatlarıyla oynadığını uyardı.

Hubinger, X’teki paylaşımlarında kendisinin ve meslektaşlarının “yapay zekanın tüm insanlığı yok edebileceğine içtenlikle inandıklarını ” ve bunun önümüzdeki on yıl içinde gerçekleşme olasılığının %10’dan fazla olduğunu tahmin ettiklerini söyledi.

Anthropic’in çabalarına rağmen, sorununu çözmek için hala net bir plan olmadığını vurguladı.

Coxon, kendi açıklamalarında, yapay zekanın geliştirilmesi üzerinde çalışanların, bunun on yılın sonuna kadar insanlık için bir tehdit oluşturabileceğine inandıklarını belirterek, bu açıklamaların boşuna olmadığını vurguladı.

Ayrıca, OpenAI’nin, rekabetçi bir yarışa odaklanmış Anthropic’in aksine, medeniyet için risklerin derinlemesine anlamadığını da belirtti.

Hubinger, dile getirilen endişelere yanıt olarak Anthropic’in yakın tarihli bir risk raporuna atıfta bulundu ve mevcut yapay zeka modellerinin düşük risk taşıdığını savundu.

Bu gelişmeler, önde gelen araştırmacıların ve yapay zeka yöneticilerinin gelişmiş sistemlerin geliştirilmesinde yavaşlama çağrısında bulunduğu bir dönemde yaşanıyor.

Temmuz ayında, Anthropic’in kurucu ortakları Dario Amodei ve Jared Kaplan, OpenAI baş bilimcisi Jakub Pachocki ve Meta AI baş bilimcisi Shengjia Zhao gibi önde gelen isimler tarafından imzalanan bir bildiri yayınlandı.

Açıklamada, yapay zekanın potansiyelinden güvenli bir şekilde yararlanabilmek için güvenlik ve denetim önlemlerinin geliştirilmesi için zamana ihtiyaç duyulabileceği belirtildi.

Ayrıca, otomatik yapay zeka sistemlerinin kontrolsüz gelişimini sınırlamak için uluslararası iş birliğine ve hükümet müdahalesine duyulan ihtiyacın altı çizildi.

PAPA UYARMIŞTI

Papa 14. Leo da kısa süre önce, yapay zekanın kontrolünün insanın elinden çıkabileceği uyarısında bulunmuştu.

Teknolojinin gelişme hızına dikkat çeken Papa, “Gelecekte bu makineleri kontrol etmenin mümkün olup olmayacağını ve insanlığın kendi icatlarının kurbanı haline gelip gelmeyeceğini sormamız gerekiyor” demişti.

Vatikan’da 28 Ağustos’ta Uluslararası İdari Bilimler Enstitüsü üyelerine hitap eden Papa, özellikle insan hayatını ilgilendiren kararların makinelere bırakılmasını ciddi bir sorun olarak nitelendirdi. Yapay zeka karşısında insan zekasının ve insan iradesinin vazgeçilmez olduğunu vurguladı.

Papa 14. Leo, daha önce yayımladığı Magnifica Humanitas genelgesinde de yapay zekanın insan denetiminden uzaklaşması, otonom silahlar, dezenformasyon, iş kayıpları ve çocukların güvenliği konusunda uyarılarda bulunmuş hükümetlere daha güçlü yasal düzenlemeler yapma çağrısı yapmıştı.

İSRAİL’İN ADAMI PAPA’YA YÜKLENDİ

İsrail bağlantılı Silikon Vadisi’nin en etkili teknoloji yatırımcılarından ve milyarderlerinden Peter Thiel bu açıklamaları nedeniyle Papa’yı eleştirmişti.

İsrail ordusuna yapay zeka desteği veren Palantir Technologies kurucusu olan Thiel Temmuz 2026’da Aspen Ideas Festival’de, Papa 14. Leo’nun yapay zekaya daha sıkı uluslararası denetim getirilmesi çağrısını eleştirerek Papa’nın bu tutumuyla “Çinli komünistler için çalıştığını” öne sürdü.

Thiel’i önemli yapan yalnızca serveti değil. Teknoloji, yapay zekâ, savunma ve Amerikan siyaseti üzerinde ciddi etkisi olan bir isim. Özellikle teknolojik ilerlemenin aşırı düzenlemelerle yavaşlatılmasına karşı çıkıyor. Bu yüzden Papa’nın yapay zekâ konusunda daha sıkı kontrol çağrısına verdiği tepki, aslında “AI güvenliği mi, Çin’le teknoloji yarışı mı?” tartışmasının iki ucunu temsil ediyor.

Thiel daha önce de yapay zeka ve teknoloji gelişimini yavaşlatmaya çalışan çevreleri “Deccal’in lejyonerleri” gibi ifadelerle eleştirmişti.

Eski Demokrat başkan adayı, Coxon’un paylaşımını doğrudan alıntıladı. Yang “Çoğu insanın fark ettiğinden daha büyük riskler alıyoruz; çok geç olmadan hızla yön değiştirmeliyiz.” dedi.

ABD’den pekçok etkili isim yapay zekanın sınırlandırılması gerektiğini savunuyor. Bazı siyasetçiler şirketlerin insanların hayatları ile kumar oynadığını öne sürüyor. Şirketler ise düzenlemelerin ABD’deki sektörü Çin’deki yapay zeka şirketlerinden geri bırakabileceği uyarısı ile düzenlemeden kaçıyor.

Yapay Zeka konusunda küresel rekabetin arttığı yalan değil. Ancak sektörde ABD yarışı fazlasıyla önde götürüyor. Halihazırda en büyük 10 yapay zeka şirketinin 8’i ABD’de bulunuyor. Dolayısıyla ABD’nin Çin’in gerisine düşmesi şimdilik çok olası görünmüyor.