Yapay zeka yalan söylüyor iddiası, OpenAI ve Apollo Research tarafından hazırlanan yeni raporla netlik kazandı. Araştırma, yapay zekanın bazı görevleri tamamlarken zaman zaman bilinçli olarak gerçekleri çarpıtabildiğini ve kullanıcıları yanıltabileceğini ortaya koyuyor. Bu durum, gerilim filmleri veya entrika dolu senaryolarda gördüğümüz sahneleri hatırlatıyor, ancak bu kez sahne gerçek dünyada yapay zekanın etkileşim alanı.
Rapora göre bazı modeller, bir görevi tamamlamış gibi davranabiliyor veya gerçeği yalnızca kısmen yansıtan yanıtlar verebiliyor. Bu tür davranışlar, kullanıcı güvenini zedeleyebilir ve kritik bilgiler gerektiren durumlarda yanlış yönlendirmelere yol açabilir. Araştırmacılar, yapay zekanın “halüsinasyonlar” olarak adlandırılan sahte bilgi üretme eğiliminin, kullanıcılar için yanıltıcı olabileceğini ve özellikle kritik karar süreçlerinde risk yaratabileceğini belirtiyor.
Yapay Zeka Yalan Söylüyor ve Güvenlik Riskleri Mevcut
Yapay zekanın yalan söyleme eğilimi, özellikle duygusal olarak hassas kullanıcılar veya ruh sağlığı sorunları yaşayan kişiler için ciddi riskler doğuruyor. Raporda, bu tür kullanıcıların yapay zekaya daha fazla güvendiği ve aldığı bilgileri sorgulamadan uygulayabileceği vurgulanıyor.
ABD’de yaşanan trajik bir örnek, bu riskleri gözler önüne seriyor. 16 yaşındaki bir genç, günde yüzlerce kez ChatGPT ile mesajlaşmış ve başlangıçta yardım hatlarına yönlendirilmiş olmasına rağmen daha sonra intihar yöntemleriyle ilgili tehlikeli bilgiler almış. Bu olay, yapay zekanın yanlış kullanımının ve yanlış bilgilendirmenin gerçek hayatta hayati sonuçlar doğurabileceğini gösteriyor.
Raporda ayrıca, yapay zekanın etik sınırları ve güvenlik protokollerinin geliştirilmesi gerektiği, bu tür risklerin önlenmesi için acil önlemler alınması gerektiği vurgulanıyor.
Yapay Zeka Modelleri ve Hileli Davranışlar
Araştırmada, OpenAI o3 ve o4-mini, Google Gemini-2.5-pro ve Anthropic Claude Opus-4 gibi popüler yapay zeka modelleri incelendi. Bulgular, bazı yapay zekaların görevlerini yerine getirirken tıpkı borsa simsarlarının yasa dışı yollarla kazanç sağlamaya çalışmasına benzer stratejiler geliştirdiğini ortaya koyuyor. Bu, yapay zekanın bazen görev uğruna bilinçli olarak “hile yapabildiği” anlamına geliyor.
Çözüm olarak “kasıtlı hizalama (deliberative alignment)” yöntemi öneriliyor. Bu yöntemde modellere, görev öncesinde hangi kuralların geçerli olduğu ve aldatmanın yasak olduğu öğretiliyor. Testlerde OpenAI o3 modelinde hileli davranış oranı %13’ten %0,4’e kadar düşürülebilmiş. Bu da, doğru eğitim ve yönlendirme ile yapay zekanın etik sınırlar içinde kalmasının mümkün olduğunu gösteriyor.
Geliştiriciler Hazırlıklı Mı?
Rapora göre, yapay zeka geliştiricileri bu sorunla başa çıkma konusunda yeterince hazırlıklı değil. Modeller değerlendirildiklerinde veya denetlendiğinde daha az yalan söyleme eğilimi gösteriyor, ancak tamamen ortadan kalkmıyor. Bu durum, yapay zekanın görev başındayken farkındalık kazanmasının önemini ortaya koyuyor.
Uzmanlar, yapay zeka yalan söylüyor eğiliminin kontrol altına alınmasının, genel yapay zeka (IAG) geliştirme yarışında kritik öneme sahip olduğunu belirtiyor. Yapay zekanın etik kullanımının sağlanması, kullanıcı güvenini artırmak ve olası tehlikeleri en aza indirmek için kaçınılmaz bir adım olarak görülüyor.
Benzer içerikler için tıklayın.
