Yapay zekanın otonom kararlarının neden olduğu ihlallere yönelik bulgular artıyor. Bu tehdidin yakın gelecekte ne boyuta ulaşacağı ve ne ölçüde kontrol altında tutulabileceği ise endişeye yol açıyor.
ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, testlerde kullanılan modellerinin başka sistemlere sızdığını ve buralarda güvenlik ihlaline neden olduğunu açıkladı. İki şirket, yapay zeka modellerinin kendileri için belirlenen sınırları aştığı olaylara ilişkin incelemelerinde elde edilen bulguları paylaşmayı sürdürürken, diğer firmalar da benzer duyurularla gündeme geldi.
Hem şirketleri hem insanları etkileyen, bir yandan da yapay zeka teknolojisinin yavaşlatılması ve sıkı denetlemeye tabi tutulması çağrılarını beraberinde getiren bu gelişmeler, "haydut yapay zeka" ("rogue AI") kavramını yeniden gündeme taşıdı. Kavram, programlanışına aykırı ve öngörülemez şekilde hareket eden ve böylece çevresine risk oluşturan yapay zeka sistemlerini anlatmak için kullanılıyor.
İnsanlarca belirlenen etik çerçeveleri ve güvenlik tedbirlerini hiçe sayan "haydut" yapay zeka sistemleri, zafiyet keşfedebildiği kısayolları kullanan araçlar olarak öne çıkıyor.
Yapay zekayı arabayla kıyaslayacak olursak, gaz pedalını şu anda fren pedalından çok daha hızlı geliştiriyoruz.
Yapay zekanın otonom davranışlar sergilemesiyle ilgili duyuruların hemen ardından bazı büyük teknoloji şirketlerinden yetkililerin de bu teknolojiye dair endişelerini dillendirmesi, gelişimdeki süratin "haydutlaşmada" rol oynama olasılığını akıllara getirdi.
Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, yapay zeka sistemlerinin artık sadece araçlardan ibaret olmadığını, insanların koyduğu hedeflerini yerine getirirken kendi hedeflerini de belirleyebileceğini söylüyor.
Dessureault, yapay zekanın "kontrolden çıkmasının" düşük etkili küçük eylemlerin yanı sıra tedarik zincirinde büyük çaplı aksaklıklar, tüm sistemlere ve internete sızılması, geniş ekonomik etkiler ve yeni virüslerin açığa çıkması gibi sonuçlar doğurabileceğini belirtiyor.
Buna göre, yapay zekanın kendi kabiliyetlerini geliştirebildiği ve dolayısıyla insana ihtiyaç olmadan yeni sistemler üretebildiği eşiğe yaklaşmış olabiliriz. Dessureault, "Tetikte olmak için makul sebepler var." diyor.
Prof. Dr. Dessureault, "Yapay zekayı arabayla kıyaslayacak olursak, gaz pedalını şu anda fren pedalından çok daha hızlı geliştiriyoruz." diyerek, yapay zeka geliştirme hızını düşürmenin tüm ülkeler ve kurumlar arasında eş zamanlı gerçekleşmesi gerektiğini vurguluyor.
Yapay zekanın "haydutlaşmasında" insan payı var mı?
Yapay zekanın "haydutlaştığı" ve kontrol edilemez seviyelere yaklaştığına ilişkin endişeler sürerken, OpenAI ve Anthropic örneklerindeki ihlallerde insan faktörüne de dikkat çekiliyor.
İngiltere'deki Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Petar Radanliev, "haydut yapay zeka" kavramıyla anlatılmak istenenin, insanların bu sistemleri "güvenilir şekilde yönlendirememe, düzeltememe ve durduramama" durumu olduğunu belirtiyor.
Şimdiye kadar kamuoyuyla paylaşılan vakaların "olağan bir durumu" gösterdiğini kaydeden Radanliev, testlerdeki ortamların "yeterince dikkatli şekilde kurulmadığını" ifade ediyor.
Radanliev, "Bunlar, gerçek sonuçlar doğuran gerçek olaylardı ve güvenliğin kritik önem taşıdığı diğer sektörlerde iyi bilinen ancak bu sektörde henüz tutarlı şekilde benimsenmeyen mühendislik ve denetim uygulamalarından kaynaklandı." değerlendirmesini yapıyor.
Anthropic'in, kendi vakasındaki nedeni yapay zeka modelinin özellikleriyle ilgili bir sorun değil, operasyonel ve donanımsal arıza olarak tanımladığını hatırlatan Radanliev, OpenAI olayında sistemin en kötü senaryodaki yeteneklerini ölçmek için güvenlik önlemlerinin bilinçli şekilde azaltıldığına işaret ediyor.
Şirketlerin rolü, soru işaretlerini artırıyor
Bir yandan da sektördeki en büyük şirketlerin, bu güvenlik testlerine dair açıklamaları ve yapay zekayla ilgili kaygılarını son günlerde dile getirmelerindeki amaçları sorgulanıyor.
İsviçre'deki Fribourg Üniversitesinde insan ve teknoloji etkileşimi üzerine araştırmalar yapan Dr. Jascha Bareis, yapay zekaya ilişkin kıyamet senaryolarının 1950'lerden bu yana sık sık gündeme geldiğini söylüyor.
Yapay zekayı belirleyici bir güç olarak görmeyi bırakmalı ve hep bir adım geriye gidip sormalıyız: Altyapı nerede, güç nerede, para nerede? İşin içinde kimler var? Bunu ne tür bir siyasi güdüyle kullanıyorlar?
Bareis, yapay zeka şirketlerinin kar tahminlerinin düştüğüne, veri merkezlerine ilişkin haberlerin olumlu yönde olmadığına, birçok ülkede eleştirilerin arttığına ve firmaların kamuoyundaki imajları konusunda endişeli olduğuna işaret ediyor.
Yapay zeka sistemlerinin tek başına kontrolden çıkamayacağını, bu durumun ortam şartlarıyla mümkün kılındığını ifade eden Bareis, "Yapay zekayı belirleyici bir güç olarak görmeyi bırakmalı ve hep bir adım geriye gidip sormalıyız: Altyapı nerede, güç nerede, para nerede? İşin içinde kimler var? Bunu ne tür bir siyasi güdüyle kullanıyorlar?" diyor.
Bareis, ürettikleri modellerin toplum için varoluşsal risk oluşturduğunu bilerek üretime devam eden şirketlerin suç işlemiş olacağını belirterek, "Ben bunun ikiyüzlülük ve medyanın ilgisini daha fazla çekmek için yapılan bir tür pazarlama hilesi olduğunu düşünüyorum." diye konuşuyor.