Altman: Yapay zekâ gücü tek elde toplanmamalı

OpenAI CEO’su Sam Altman, yapay zekâ şirketleri arasındaki rekabetin yalnızca ticari hedeflerle açıklanamayacağını düşünüyor. Altman’a göre Elon Musk ve OpenAI’dan ayrılan bazı isimler, yapay zekânın getireceği risklerin yüksek olduğunu düşündükleri için kendi sistemlerini geliştirmeye yöneliyor. Bu kaygıların başında da gücün tek bir kişinin ya da kuruluşun elinde toplanması geliyor.

Altman bu değerlendirmelerini Raj Shamani’nin podcast yayınında paylaştı. Yapay zekânın kötü sonuçlar doğurabileceği iki temel senaryo tarif eden OpenAI CEO’su, bunlardan birinin sistemlerin kontrolünü kaybetmek, diğerinin ise tek bir yapının rakiplerine kıyasla aşırı güç kazanması olduğunu söyledi. Bu yaklaşım, aynı alanda birden fazla laboratuvarın çalışmasını neden olumlu bulduğunu da açıklıyor.

Altman’ın işaret ettiği iki temel risk

Altman’ın ilk senaryosu, insanların kontrolünün fark edilmeden veya istemeden daha yetenekli yapay zekâ sistemlerine bırakılması. Böyle bir durumda sistemlerin karar ve davranışlarını yönlendirmek zorlaşabilir; kontrolü geri almak da mümkün olmayabilir. Altman bu ihtimali, yapay zekânın yalnızca daha gelişmiş hâle gelmesiyle değil, insanların denetim kapasitesinin geride kalmasıyla ilgili bir sorun olarak ele alıyor.

İkinci senaryo ise teknolojinin kontrolünün tek bir kuruluşta yoğunlaşması. Altman’a göre, farklı yaklaşımlar geliştiren ve birbiriyle rekabet eden birden fazla yapay zekâ laboratuvarının bulunması dünya açısından daha iyi. Böylece teknoloji üzerindeki kararların ve gücün tek merkezde toplanma ihtimali azalabilir. Altman, bu çeşitliliği yalnızca şirketler arasındaki yarış olarak değil, yapay zekânın geleceğini etkileyen bir denge unsuru olarak değerlendiriyor.

İki risk birbiriyle bağlantılı olsa da aynı anlama gelmiyor. İlkinde sorun, yapay zekânın insan denetiminin dışına çıkması; ikincisinde ise teknolojiyi geliştiren veya yöneten bir aktörün aşırı güç kazanması. Altman’ın açıklamasına göre, yapay zekâ alanında farklı ekiplerin bulunması bu iki ihtimalin de tartışılmasını sağlıyor. Ancak birden fazla şirketin varlığı, tek başına kontrolün güvence altında olduğu anlamına gelmiyor.

Musk ve eski OpenAI çalışanları neden kendi yollarını çiziyor?

Altman, Musk’ın ve başka isimlerin kendi yapay zekâ çalışmalarını başlatmasını, meselenin çok yüksek risk taşıdığı düşüncesiyle ilişkilendirdi. Bazı kişilerin, bu kadar önemli sonuçları olabilecek bir teknolojiyi ancak kendilerinin güvenli biçimde geliştirebileceğine inandığını söyledi. Sunucunun güç yoğunlaşması endişesinin de bu tercihlerde rol oynayıp oynamadığını sorması üzerine Altman, iki motivasyonun birlikte bulunabileceğini belirtti.

Yapay zekâ sektöründe OpenAI’ın eski çalışanları da kendi laboratuvarlarını kurdu. Dario Amodei Anthropic’i yönetirken Mira Murati de kendi yapay zekâ girişiminin başında. Musk ise OpenAI’ın yönü ve yapısı hakkındaki anlaşmazlıklarını kamuoyu önünde dile getiriyor. Altman’ın yorumları, bu şirketlerin ortaya çıkışını yalnızca kurucular arasındaki rekabet üzerinden okumamak gerektiğini gösteriyor: Kurucular, yüksek riskli gördükleri bir alanda kendi kararlarının ve yaklaşımlarının belirleyici olmasını isteyebiliyor.

Musk da yapay zekânın kontrolü konusunda kaygılarını daha önce gündeme getirdi. Altman’ın aktardığı çerçeve, bu tür uyarıların yalnızca sistemlerin ne kadar yetenekli olacağıyla değil, onları kimin geliştirdiği ve hangi kurumların karar gücüne sahip olduğu sorularıyla da ilgili olduğunu ortaya koyuyor. Böylece teknoloji yarışındaki rekabet, aynı zamanda yapay zekâ yönetiminin nasıl şekilleneceğine dair bir tartışmaya dönüşüyor.

Rekabet tek başına güvence değil

Altman’ın birden fazla laboratuvarı destekleyen yaklaşımı, yapay zekâ sektörünün geleceğine dair önemli bir gerilimi yansıtıyor. Bir yandan farklı şirketlerin geliştirdiği sistemler, gücün tek elde toplanmasını önleyebilir. Diğer yandan şirketler arasındaki rekabet, sistemlerin güvenliği ve denetimiyle ilgili soruları ortadan kaldırmıyor. Altman’ın sözleri, kontrol kaybı ile güç yoğunlaşmasını ayrı ayrı değerlendirmek gerektiğini ortaya koyuyor.

Bu nedenle tartışmanın odağında yalnızca hangi şirketin daha gelişmiş yapay zekâ geliştireceği yok. Teknolojiyi kimin yöneteceği, insan denetiminin nasıl korunacağı ve karar gücünün nasıl dağıtılacağı da sektörün geleceğini belirleyecek. Altman, Musk ve eski OpenAI çalışanlarının kendi projelerini kurmasını bu büyük bahisler ve güç dengesi endişeleriyle ilişkilendiriyor; yapay zekâ alanında rekabetin sürmesini de daha dengeli bir yapı açısından tercih ediyor.