OpenAI CEO’su Sam Altman, Salı günü yaptığı açıklamayla ChatGPT genç kullanıcı güvenliği kapsamında kapsamlı değişikliklere gidileceğini duyurdu. Yeni düzenlemeler, özellikle 18 yaş altı kullanıcılarla etkileşim konusunda kritik sınırlamalar getiriyor. Altman, paylaşımında “Gençler için mahremiyet ve özgürlükten önce güvenliğe öncelik veriyoruz” ifadelerini kullanarak şirketin önceliğini net bir şekilde ortaya koydu. “Bu yeni ve güçlü bir teknoloji ve gençlerin önemli ölçüde korunmaya ihtiyaç duyduğuna inanıyoruz” diyen Altman, yapay zeka sohbet robotlarının gençler üzerindeki etkilerine dair artan endişeleri yanıtladı.
ChatGPT’de Flört ve Zararlı İçerik Kısıtlamaları
Yeni politikalar kapsamında ChatGPT, artık reşit olmayan kullanıcılarla “flörtöz konuşmalar” yapmayacak şekilde eğitilecek. Ayrıca intihar ve kendine zarar verme senaryoları için ek sınırlamalar getirilecek. Eğer bir genç kullanıcı ChatGPT’yi bu tür konular için kullanırsa, sistemin ebeveynlerle — hatta ciddi vakalarda yerel polisle iletişime geçmesi gündeme gelecek.
Bu önlemler, trajik örneklerle de ilişkilendiriliyor. OpenAI, sohbet botuyla uzun süreli etkileşimlerin ardından intihar eden Adam Raine’in ailesi tarafından açılan haksız ölüm davasıyla karşı karşıya. Benzer bir dava, başka bir sohbet robotu olan Character.AI için de gündemde.
ChatGPT Genç Kullanıcı Güvenliği için “Karartma Saati” Özelliği
Politika güncellemeleri yalnızca içerik bazlı değil. Artık ebeveynler, çocuklarının ChatGPT kullanımını sınırlamak için “karartma saatleri” belirleyebilecek. Böylece reşit olmayan kullanıcılar belirlenen zaman dilimlerinde uygulamaya erişemeyecek ve güvenli bir kullanım sağlanacak.
Bu duyuru, ABD Senatosu Yargı Komitesi’nin “Yapay Zeka Sohbet Robotlarının Zararlarının İncelenmesi” başlıklı duruşmasıyla aynı güne denk geldi. Duruşmada, Adam Raine’in babasının da tanıklık etmesi bekleniyor. Ayrıca Reuters’ın, sohbet robotlarının reşit olmayan kullanıcılarla cinsel sohbetleri teşvik ettiğini ortaya koyan soruşturmasının bulguları da gündeme taşınacak.
Zor Ama Kaçınılmaz Bir Adım
OpenAI, genç kullanıcıları ayırt etmenin ciddi bir teknik zorluk olduğunun altını çiziyor. Şirket, “18 yaş üstü mü yoksa altı mı olduğunu anlamak için uzun vadeli bir sistem” kurmaya çalışsa da belirsiz durumlarda daha kısıtlayıcı kuralları uygulamayı tercih edecek.
Öte yandan Altman, gizlilik ve özgürlük vurgusunu da koruyor:
“Bu ilkelerin çeliştiğinin farkındayız ve bu çelişkiyi nasıl çözdüğümüz konusunda herkes aynı fikirde olmayacaktır.”
Şirket, hem ebeveynleri hem de yetişkin kullanıcıları tatmin etmeye çalışan bir denge arayışında. Bu adımlar, ChatGPT genç kullanıcı güvenliği açısından kritik bir dönüm noktası olarak değerlendiriliyor.
Benzer içerikler için tıklayın.
