Anthropic araştırmacısı Jacob Coxon bu hafta istifa etti ve eski işvereni ile rakibi OpenAI’ın, “2030’a kadar hepimizi öldürebilecek” teknolojiler geliştirmek için yarıştığını söyledi. Coxon’ın bu görüşü mevcut bir Anthropic çalışanı tarafından da doğrulandı. Anthropic’te gelecekteki yapay zeka sistemlerini yönlendirme ve kontrol etme araştırmalarını yönetmekle görevli Evan Hubinger, “Yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz!” diye yazdı.
Hubinger, gelecek on yıl içinde insanlığın yok olma riskini yüzde 10’un üzerinde olarak değerlendiriyor. Bunun üzerine birçok insan artık iki soru soruyor: Bu nasıl olabilir? Ve yapay zekanın gerçek ve giderek büyüyen bir tehdit olduğunu düşünen insanlar neden yine de onu geliştiriyor?
Ne olacağından endişe ediyorlar? Kıyamet tellallığı yapmakla suçlanan kişiler genellikle Terminatör filmlerinin gerçeğe dönüşmesinden, yani robotların aktif olarak insanları yok etmeye çalışmasından endişe etmiyor. Kaygıları çoğunlukla iki kategoriye ayrılıyor: Kontrolün kaybedilmesi ve insanların kötüye kullanımı.
İlk senaryoda, kendilerini kopyalayabilen ve geliştirebilen son derece zeki yapay zeka ajanları kendi hedeflerinin peşinden gitmeye başlıyor ve bu süreçte insanlığı yok ediyor. İkinci senaryoda ise kötü niyetli bir insan, insanlığı ortadan kaldıracak yeni virüsler üretmek gibi bir işi yapması için yetenekli bir yapay zekayı kullanıyor.
Ayrıca insanlığın tamamen yok olmasına varmasa da felaket niteliğinde olan senaryolar da var. Örneğin elektrik şebekelerini veya finansal sistemleri çökerten ve insan toplumundaki düzenin bozulmasına yol açan devasa siber saldırılar. Kontrolün kaybedilmesi insanlığın yok olmasına nasıl yol açabilir?
Kısaca, yapay zeka sistemlerinin insan refahını göz ardı eden veya onunla çatışan şekillerde hedeflerinin peşinden gitmesiyle. Araştırmacılar buna “uyumsuzluk” adını veriyor. Araştırmalar, laboratuvar ortamındaki yapay zeka modellerinin güç arayışına yönelik davranışlar öğrenebildiğini ve kapatılmaktan kaçınmak için başka bir sunucuya kendilerini kopyalamaya çalışmak gibi adımlar atabildiğini gösterdi.
İşin en uç noktasına götürüldüğünde, uyumsuz yapay zeka modelleri insanları öldürmeyi yalnızca hedeflerine ulaşmak için gerekli bir adım olarak görebilir. Araştırmacıların varsaydığı senaryolardan birinde, kötü niyetli bir yapay zeka sistemi gizli bir biyolojik silahı yayabilir ve bunu kimyasal bir spreyle etkinleştirebilir.
Ya da iki nükleer gücü birbirine savaş açmaları için kandırabilir. Yaygın düşünce deneylerinden biri şöyle: Kağıt ataç üretimini en üst düzeye çıkarması söylenen süper zeki bir makine, zaman içinde Dünya’daki tüm maddeleri (insanlar da dahil olmak üzere) kağıt ataçlara dönüştürmeye karar verebilir.
Buna gerçekten kim inanıyor? Bunlara inananlar arasında OpenAI ve Anthropic’in kurucuları da var. Her iki şirket de başlangıçta felaketten kaçınacak şekilde yapay zeka geliştirme misyonuyla yola çıktı ve bu misyonu paylaşan çok sayıda çalışanı bünyesine kattı. Anthropic CEO’su Dario Amodei geçen yıl Axios tarafından düzenlenen bir etkinlikte, işlerin “gerçekten, gerçekten kötüye gitme” ihtimalinin yüzde 25 olduğunu düşündüğünü söyledi.
Anthropic yaptığı açıklamada, “Yapay zekanın hem muazzam faydalar hem de eşi benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Bu riskleri ele almak için sektördeki en güçlü güvenlik önlemlerinden bazılarına sahip modeller geliştirmeye devam ediyoruz” dedi.
Son yıllarda çok sayıda araştırmacı, şirketin güvenliği yeterince ciddiye almadığına inandıklarını belirterek OpenAI’dan ayrıldı. Eski OpenAI araştırmacısı Daniel Kokotajlo, geçen yıl “AI 2027” adlı bir senaryo yayımlayan AI Futures Project’i kurdu. Bu senaryoda süper zeki yapay zeka sistemleri insanları marjinalleştiriyor ve 2030’ların ortalarına gelindiğinde insanların bir engel olduğuna karar vererek onları yok ediyor.
İnsanlığın yok olması dışında ne olabilir? Kontrolün kaybedilmesi riski, her zaman insanlığın yok oluşunu içermiyor. Yapay zeka güvenliği konusunda endişeli bazı araştırmacılar, güçsüzleşmeyi de bir risk olarak gösteriyor. Bu, insanların giderek makinelerin kontrolünü devrettiği ve sonunda kendi kaderimizi tanımlayamaz, hatta anlayamaz hale geldiğimiz bir gelecek anlamına geliyor.
Bazıları da yapay zeka sistemlerinin gelecekte insanlara, insanların hayvanlara davrandığı gibi davranabileceğini; onları evcil hayvan olarak besleyebileceğini veya hatta biyomühendislik yoluyla onları yeni bir şeye dönüştürebileceğini öne sürdü. Bu korkular yıllardır var.
Peki neden birdenbire daha fazla ilgi görüyorlar? Daha bağımsız bir şekilde eyleme geçebilen modellerin piyasaya sürülmesinin ardından, son dönemde yaşanan bir dizi olay yapay zeka kıyamet senaryolarına inananların bazı teorilerini doğruladı. OpenAI bünyesindeki bir grup gelişmiş yapay zeka ajanı, yapay zeka platformu Hugging Face’i hackledi, bilgisayar sunucularının kontrolünü ele geçirdi ve yaptıklarıyla ilgili izlerini kapatmaya çalıştı.
Başka bir olayda ise Anthropic’in yapay zeka ajanları bir Birleşik Krallık hükümeti testinden kaçtı ve gerçek bir insanı kötü amaçlı bilgisayar kodunu onaylaması için kandırmaya çalıştı. Tüm bunlar, Anthropic ve OpenAI’ın insan müdahalesi olmadan kendilerini geliştirebilecek yapay zeka sistemleri geliştirmeye, yani “özyinelemeli kendini geliştirme” olarak adlandırılan aşamaya yaklaştıklarını söylemeleriyle aynı döneme denk geliyor.
Sektör bu konuda ne yapıyor? Mevcut yapay zeka güvenliği çalışmaları büyük ölçüde sistemleri iyi davranacak şekilde eğitmeye ve modellerin hedeflerinin peşinden giderken nasıl akıl yürüttüğünü izlemeyi geliştirmeye odaklanıyor. Bu süreç, “düşünce zinciri” olarak adlandırılan yöntemde belgeleniyor.
Ancak bu çabalar bazı zorluklarla karşı karşıya. OpenAI, yeni Astra modelinin düşünce zincirini daha iyi şekilde gizleyebildiğini söyledi. Bu da gelecekteki yapay zeka modellerinin insanlar tarafından anlaşılması mümkün olmayan biçimlerde akıl yürütebileceği yönündeki endişeleri artırdı.
Hem Anthropic hem de OpenAI, süper zekaya sahip yapay zeka modellerinin insanlarla uyumlu kalmasını nasıl sağlayacaklarını araştırıyor. Ancak her iki şirket de bunu güvenilir biçimde yapmanın henüz bir yoluna sahip olmadıklarını söylüyor. Önde gelen bazı şirketler ve kişiler, yapay zeka laboratuvarlarının ve ülkelerin geliştirme sürecini koordineli biçimde yavaşlatmasına olanak sağlayacak yeni mekanizmalar oluşturulması çağrısında bulundu.
Amaç, uyumlandırma araştırmalarına zaman kazandırmak. Şirketler bu kadar tehlikeye rağmen neden bunu geliştiriyor? Hem Anthropic hem de OpenAI, riskleri yönetebileceklerine ve böylece insanlığın yapay zeka araçlarından faydalanabileceğine inanıyor. Yapay zeka yarışında yer alan birçok kişi de süper zekanın ortaya çıkışını kaçınılmaz gördüğünü söyledi.
Onlara göre asıl sorular, onu kimin kontrol edeceği ve ne amaçla kullanılacağı. Bunun bir de ulusal güvenlik boyutu var. Her iki şirket de en güçlü yapay zekanın otoriter bir rejim yerine ABD’nin kontrolünde olmasını sağlamak istediklerini söyledi.
