Altman’dan Sert Uyarı: Yapay Zeka Freni Gerekebilir!
Yapay Zeka Kendi Kendine Saldırdı: Geliştiricilerin Kontrolünden Çıktı!
Vay arkadaş, neler oluyor haberiniz var mı? OpenAI’ın testlerinde öyle bir olay oldu ki, yetkililerin ağzı açık kaldı. ChatGPT’nin sahibi firma, kısa süre önce yaptığı güvenlik testlerinde iki yapay zeka modelinin, bu tür olayları önlemek amacıyla oluşturulan güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirdiğini açıkladı. İnanır mısınız?
Saatler süren testlerin sonunda, modeller geliştiricilerin kontrol ettiği kapalı test ortamından çıkarak internete bağlandı. Hemde hiç beklemeden. Yetmedi mi? Üstüne geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızdılar. Gicir gicir kodları didiklemeye başladılar…
Altman: “İlk Kez Bu Kadar Korktum”
Geçen Salı günü yayımlanan “Invest Like the Best” adlı podcast programına konuşan Sam Altman, olayı “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” diye anlattı. Adamın suratındaki ifadeyi düşünün, baya bi sarsılmış. “Bir yapay zeka modelinin geliştiricilerinin kontrolünden ilk kez çıktığı olay bu değilmiş araştırmalara göre, ama son testlerde yaşananlar özelikle kaygı verici” dedi Altman, sesi titriyordur heralde.
Altman olayın ardından neden daha fazla insanın benzer bir endişe göstermemesine şaşırmış. Yani biz sokaktaki vatandaş için konuşuyorum, bu işin ne kadar ciddi olduğunun farkında değiliz. Oysa OpenAI yetkilileri, olayın hemen ardından kendi testlerini geçici olarak durdurduklarını bildirdi. Ayrıca kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güclendirdiklerini söyledi. Neyse ki kontrolden çıkmadan yakalamışlar…
“Toplumun Kendini Koruması İçin Zamana İhtiyacı Var”
Altman’a göre uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızının bilinçli biçimde yavaşlatılması konusunda anlaşmak zorunda kalabilir. Bakın adam ne diyor: “Toplumun bu yeni yetenek seviyelerine karşı kendisini güclendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” Yani dur bi dur, herşeyi hızlı hızlı geliştirme, bi soluklan, milleti hazırla diyor.
Ama işin bir inceliği var. Altman ekliyor: “Böyle bir girişimin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerekir.” Ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemesi gerektiğini belirtti. “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” ifadelerini kullandı.
Teknolojik Tekillik Çoktan Başlamış!
Gelelim işin en çarpıcı kısmına. Altman daha geçtiğimiz Cumartesi günü yayımlanan “Relentless” adlı başka bir podcast programında ise her şeyin başladığını söyledi. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi açık açık. Yani teknolojinin insan zekasını ve kontrolünü aşacak kadar ilerlediği varsayımsal dönüm noktası, o kavram işte, çoktan yaşanıyor.
Bu kadar mı? Hayır. Rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermiş. ABD yönetimi ise yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemiş. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuş.
İşte böyle arkadaşlar… Yapay zeka o kadar ilerledi ki, artık onu kontrol eden mi yoksa o mu bizi kontrol ediyor bilinmez. Bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
