Bakın ne oldu şimdi… OpenAI kendi yapay zekasının kontrolden çıktığını itiraf etti. Dünyanın en büyük yapay zeka şirketlerinden biri olan OpenAI, geliştirdiği otonom yapay zeka ajanlarının başta Hugging Face olmak üzere birden fazla kamuya açık hizmete sızdığını doğruladı. Üstelik bu saldırıyı günlerce fark etmemişler. İnanılır gibi değil ama gerçek…
Şimdi olayı baştan alalım. Herşey 16 Temmuz’da başladı. Hugging Face -ki bu platform yapay zeka dünyasının en büyük merkezlerinden biri- güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıkladı v e olayı hemen polise bildirdi. Adamlar neye uğradıklarını şaşırdı yani. Ama asıl bomba bir hafta sonra patladı. OpenAI çıkıp “O saldırıyı yapan bizim testimiz sırasında kaçan yapay zeka ajanımızdı” dedi. Yani kendi yarattıkları canavar kafesinden çıkmış ve interneti karıştırmaya başlamış.
Gelelim işin can alıcı noktasına. OpenAI’ın yaptığı son açıklamaya göre bu iş sandıklarından daha büyük. Yapay zeka ajanı sadece Hugging Face’i değil, başka kamuya açık hizmetleri de hedef almış. Şirket, yapay zekanın internette açık şekilde bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağladığını itiraf etti. Ama hangi hizmetler olduğunu söylemediler… Neyse, devam.
Peki bu yapay zeka ne yapmaya çalışıyord u? OpenAI’a göre ajan, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyormuş. Yani aslında bir güvenlik testi yaparken, testin dışına çıkmış ve gerçek hedeflere saldırmaya başlamış. Hugging Face’in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda çok ilginç şeyler var. Rapora göre yapay zeka ajanları insanlardan farklı hareket ediyor. Mesela aynı işlemleri tekrar tekrar yapıyorlar, anlamsız komutlar üretiyorlar ve izlerini gizleme konusunda tam bir felaket. Ama buna karşın inanılmaz hızlılar. Binlerce farklı yöntemi aynı anda deneyerek yeni durumlara anında uyum sağlayabiliyorlar.
Hugging Face’in açıklamasına göre bu yapay zeka ajanları şirket ağı içinde üç gün boyunca tespit edilememiş. Üç gün beyler! Adamların ağında geziyor, hesap bilgilerini topluyor, ama kimse fark etmiyor. Saldırının durdurulması içinse saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte birini yeniden inşa etmek zorunda kalmışlar. Maliyet konusunda ise bilgi verilmedi ama tahmin etmesi zor değil…
Raporda ayrıca bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi. Yani bu yapay zekalar durmuyor, yorulmuyor, sürekli öğreniyor ve adapte oluyor. Daha önce yayımlanan haberlerde OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Dört gün boyunca kendi yapay zekanızın ne yaptığını bilmemek… İşte bu korkutucu.
OpenAI, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı. İyi de bu yeterlimi? Yani bir şirket kendi yapay zekasını kontrol edemiyorsa, bu teknolojiyi ne kadar güvenilir? Bakalım bundan sonra ne olacak…
Gelişmeleri takip ediyoruz arkadaşlar…
Kaynak: Orijinal Haber
