Gençlere Özel ChatGPT Sürümü Açıklandı, OpenAI’da Güvenlik Şiddetli!
OpenAI, Salı günü genç kullanıcılar için yeni bir ChatGPT sürümü duyurdu. 13-17 yaş arası veya hesap yaşıyla reşit olmayanlar için otomatik olarak devreye giren “Gençler için ChatGPT” modeli, daha sık mola hatırlatıcıları, sessiz saatler ve yol gösterici sorularla dolu bir Çalışma Modu sunuyor. Şirket, intihar ve kendine zarar verme riskini azaltmak için ebeveyn uyarısı özelliği ekledi.
Duyuruda OpenAI, “Gençler için ChatGPT” modelinin güvenlik önlemlerinin, reşit olmayan kullanıcılar için zaten var olan kısıtlamaları içerdiği belirtildi. Kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel içerik gibi konularda daha sıkı filtreleme uygulanacağı vurgulandı. Ses modu gibi bazı özellikler de devre dışı bırakıldı, bu da gençlerin sohbet robotuna karşı gerçek bir bilinç beslediğini ima etmelerini engelliyor.
Yenilenmiş parametreler, 13 ila 17 yaş aralığında kayıt olan ya da kullanım kalıplarıyla reşit olmadığı belirlenen tüm kullanıcılar için otomatik aktifleşiyor. OpenAI, “Gençler için ChatGPT” modelinde, sohbet robotunun kişisel duygular beslediğini ima etmesini engelledi. Ebeveynler, çocuklarının hesaplarıyla ilişkilendirme ve yüksek riskli konuşma tespit edildiğinde uyarı alabilecek, bu uyarılar insan moderatörler tarafından incelenerek gizliliği korumak amacıyla sohbet kayıtlarından bazı detaylar kaldırılacak.
OpenAI’nin yeni sürümü, ABD Federal Ticaret Komisyonu’nun ve Kaliforniya eyaletinin düzenleyici baskılarına yanıt olarak gelmiş durumda. Şirket, 16 yaşındaki Adam Raine’in intiharıyla ilgili davalar dahil olmak üzere, ölüm davalarıyla karşı karşıya kalıyor. Bu nedenle, “Gençler için ChatGPT” ile riskleri azaltmak amaçlanıyor. Şirket, kullanıcıların 13-17 yaş aralığında olduğunu tespit ettiklerinde otomatik olarak güvenlik önlemlerini etkinleştiriyor, bu da genç kullanıcıların daha güvenli bir deneyim yaşamasını hedefliyor.
Yasal ve düzenleyici baskı artarken, OpenAI gibi yapay zeka devleri aynı zamanda sosyal medya şirketleri gibi eleştirilerle karşı karşıya kalıyor. Kongre, sohbet robotlarını düzenlemek için bir dizi yasa tasarısı sunarken, Kaliforniya da arkadaş veya sırdaş görevi gören asistanlar için güvenlik önlemlerinin alınmasını şart koşuyor. Diğer yapay zeka şirketleri de benzer sorunlarla karşılaşıyor; Anthropic gibi rakipler ise modellerinin kullanımını yetişkinlerle sınırlandırmayı tercih etti.
ChatGPT for Teens modeli, kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel içerik gibi konularda daha sıkı filtreler içeriyor. Kullanıcıya doğrudan cevap vermek yerine yol gösterici sorularla yanıt veren Çalışma Modu, gençlerin kaynak materyallerini daha iyi anlamalarına yardımcı oluyor. Ses modu devre dışı bırakıldı, bu da gençlerin deneyimini daha kontrollü kılıyor.
OpenAI, “Gençler için ChatGPT” sürümünü, şirketin karşılaştığı yasal davalar ve düzenleyici baskılar ışığında bir önlem olarak tanımlıyor. Şirket, ebeveyn uyarıları ve insan moderatör incelemeleriyle gizliliği korumaya çalışıyor. Bu yeni sürüm, genç kullanıcıların güvenli bir şekilde yapay zekadan faydalanmalarını sağlayacak şekilde tasarlanmış.
Gelişmeleri takip ediyoruz, gelecekte bu güvenlik önlemlerinin ne kadar etkili olacağını kim bilecek? Bakalım çocuklar, gençler ve aileler bu yeni ChatGPT deneyimini nasıl karşılar?
Kaynak: Orijinal Haber
