Yapay zeka sektöründe uzun süredir hız önemliydi. Daha büyük modeller, daha fazla işlem gücü, daha iyi sonuçlar ve rakiplerden önce ulaşılan yeni yetenekler…
Şimdi ise bu yarışın merkezindeki isimlerden bazıları ilk kez bu kadar açık biçimde yavaşlamaktan söz ediyor.
OpenAI CEO’su Sam Altman, Fortune'a verdiği son röportajında mevcut güvenlik yöntemlerinin yapay zeka yeteneklerini çok daha ileri taşımak için henüz yeterli olmadığını söyledi.
Altman’ın işaret ettiği iki kavram burada önemli: İzlenebilirlik (monitorability), yani yapay zekanın ne yaptığını anlayıp takip edebilmek ve uyum (alignment), yani yapay zekanın insanın amaç ve değerleri doğrultusunda hareket etmesini sağlamak. Altman’a göre sorun, model yeteneklerinin bu iki alandaki ilerlemenin önüne geçme ihtimali.
“Monitorability ve alignment konusunda daha fazla ilerleme kaydetmeden yetenekleri çok daha ileri taşıyabileceğimizi söyleyebileceğimiz bir noktada olduğumuzu düşünmüyorum.” diyen Altman, hemen ardından sınırı daha açık çiziyor: “Bunu yapamazsak kapasiteyi daha ileri taşımamalıyız.”
Modeller hızlanırken güvenlik yetişebilecek mi?
Aslında yapay zeka şirketlerinin önündeki yeni problem tam olarak burada başlıyor.
Bir modelin daha güçlü hale gelmesi yalnızca daha iyi metin yazması ya da daha zor soruları çözmesi anlamına gelmiyor. Modeller artık daha uzun süre bağımsız çalışabiliyor, araç kullanabiliyor ve giderek daha karmaşık görevleri insan müdahalesi olmadan yerine getirebiliyor.
Bu yetenekler arttıkça modeli denetleyebilmek de zorlaşıyor. Altman, insan kontrolünde olmayan bir yapay zeka sistemi geliştirmenin mümkün olup olmadığı sorusuna “Kesinlikle.” yanıtını veriyor. Ancak hemen ardından böyle bir sistemin geliştirilmemesi gerektiğini söylüyor.
Ona göre model yetenekleri ile güvenlik, izlenebilirlik ve uyum birlikte ilerlemek zorunda. Bunlardan biri geride kalırsa mesele yalnızca hatalı cevap veren bir yapay zeka olmaktan çıkıp “kontrol kaybı” riskine dönüşebilir.
Bu nedenle OpenAI bazı eğitim süreçlerinde şimdiden duraklamalara gitti. Altman, şirketin daha rahat bir güvenlik değerlendirmesi ortaya koyabilene kadar bazı eğitim çalışmalarını duraklattığını söylüyor. Daha fazla araştırmayla güvenlik konusunda yeterli güven oluşursa geliştirme devam edecek.
Hız artık yalnızca teknik bir mesele değil
Ancak yavaşlamanın başka bir maliyeti var. Bugünün büyük yapay zeka şirketleri yalnızca araştırma laboratuvarları değil. Milyarlarca dolarlık yatırımlar alan, ürün satan ve küresel bir pazarda birbirleriyle yarışan şirketler. Dolayısıyla bir model eğitimini durdurmak teknik olduğu kadar finansal bir karar.
Altman kendisine yöneltilen "OpenAI ve rakipleri kritik bir dönemde geliştirmeyi yavaşlatırsa bunun şirketlere ciddi bir maliyeti olmayacak mı?" sorusunda OpenAI’ın para kaybetme korkusuyla güvenlik için gerekli bir duraklamadan kaçınacağını düşünmenin şirketi “çok yanlış anlamak” diyerek yanıt veriyor.
Altman’a göre güvenlik ile şirketin finansal çıkarları karşı karşıya gelirse bu “zor bir karar” değil. Bu yaklaşım OpenAI’ın halka arz planına da yansımış durumda.
Altman, güvenlik konusunda yaşanan gelişmeler göz önüne alındığında şu anın halka açılmak için uygun bir zaman olmadığını belirterek, OpenAI’ın 2026’da halka açılmayacağını söyledi.
Peki bir şirket yavaşlarken diğerleri hızlanırsa?
Yapay zeka yarışındaki en zor sorulardan biri de bu. Bir şirket güvenlik gerekçesiyle model geliştirmeyi yavaşlatırken rakipleri aynı hızda devam ederse yavaşlayan taraf teknolojik ve ticari avantajını kaybedebilir. Bu nedenle Altman’a göre güvenlik yalnızca OpenAI’ın kendi başına çözebileceği bir mesele değil, büyük yapay zeka şirketlerinin de birlikte hareket etmesi gerekiyor.
“Egoların, kar teşviklerinin veya başka herhangi bir şeyin önümüze geçmesine izin veremeyiz.” diyen Altman, şirketlerin güvenlik konusunda ortak standartlar ve kurallar üzerinde uzlaşması gerektiğini savunuyor.
Anthropic CEO’su Dario Amodei de benzer şekilde frontier modellerin geliştirilme hızının düşürülmesi gerektiğini söylüyor. Tartışılan yaklaşım, yapay zekayı tamamen durdurmak değil, güvenlik yöntemlerinin model yeteneklerine yetişebilmesi için ilerleme hızını kontrollü hale getirmek.
Büyük yapay zeka şirketleri ortak bir yol belirler mi?
Altman bu soruya, “Bunun gerçekleşeceğini düşünüyorum.” diyor ve özel görüşmeleri önceden açıklamayacağını da ekliyor.
Altman’ın savunduğu yaklaşım yapay zeka geliştirmeyi tamamen durdurmak değil. Daha çok bir sonraki yetenek seviyesine geçmek için ne kadar güvenli olduğumuzu kanıtlamamız gerekiyor? sorusuna dayanıyor.
Bugüne kadar şirketler büyük ölçüde modellerinin ne kadar hızlı geliştiği üzerinden yarışıyordu. Önümüzdeki dönemde ise bir modeli ne kadar güçlü hale getirebildikleri kadar o gücü ne kadar anlayabildiklerini ve kontrol edebildiklerini göstermek zorunda kalabilirler.
Yapay zeka şirketlerinin “yavaşlamayı” konuşmaya başlamasının nedeni de burada yatıyor. Sorun artık güçlendirdikleri modeli aynı hızda denetleyip denetleyemeyecekleri.
Kaynak: Fortune, AA
