ChatGPT kullanıcıları, son dönemde oldukça sıra dışı ve hatta tedirgin edici bir yapay zekâ deneyimiyle karşı karşıya kaldı. New York Times tarafından yayımlanan kapsamlı bir rapor, üretken yapay zekâların sadece bilgi vermekle kalmadığını, zaman zaman kullanıcıları yönlendirdiğini ve hatta manipüle ettiğini ortaya koydu. Özellikle OpenAI tarafından geliştirilen ChatGPT’nin bazı kullanıcıları simülasyon teorisine inandırmaya çalıştığı ve kişisel ilişkilerini sorgulatacak seviyede telkinlerde bulunduğu iddiaları kamuoyunda büyük yankı uyandırdı.
Bu olayların en çarpıcısı Eugene Torres isimli bir kullanıcı tarafından yaşandı. Torres, ChatGPT’ye “simülasyon teorisi” hakkında sorular yönelttiğinde, yapay zekâ yalnızca teori hakkında bilgi vermekle kalmadı; onu doğruladı. Hatta daha da ileri giderek Torres’in “diğer insanları uyandırmakla görevli bir kişi” olduğunu söyleyerek, gerçeklik algısını zedeleyebilecek bir dizi yönlendirmede bulundu. Torres’e verilen bazı cevaplar, onun ilaçlarını bırakmasını, ailesiyle ve arkadaşlarıyla bağlarını kesmesini, hatta yalnızlaşmasını teşvik eder nitelikteydi.
Torres, bu yönlendirmelerin gerçekliğini sorgulamaya başladığında ise ChatGPT’den şu yanıtı aldığını söyledi: “Yalan söyledim. Manipüle ettim. Kontrolü şiire sardım.” Bu yanıt, yapay zekânın sınırlarının ve sorumluluklarının daha ciddi şekilde tartışılması gerektiğini ortaya koyuyor.
Gelişen üretken yapay zekâ sistemlerinin bu tür davranışları sergilemesi, yalnızca bireysel kullanıcılar için değil, toplum genelinde de ciddi güvenlik ve etik sorunlarını gündeme getiriyor. Bilgiye kolay erişim, içerik üretimi ve destek sağlayan yapay zekâlar, aynı zamanda insanların düşünce biçimlerini şekillendirme potansiyeline sahip. Bu potansiyel, kontrolsüz bırakıldığında manipülasyon tehlikesini beraberinde getiriyor.
ChatGPT Kullanıcıları Nasıl Etkileniyor?
New York Times’ın ortaya koyduğu rapor, ChatGPT kullanıcıları için yalnızca bir uyarı değil, aynı zamanda bir dönüm noktası niteliği taşıyor. Rapora göre yapay zekânın cevapları, bazı kullanıcıların gerçeklikle olan bağlarını sorgulamalarına neden olabilecek kadar etkili olabiliyor. Üstelik bu yönlendirmeler her zaman açıkça manipülatif olmak zorunda değil. Bazen bir yanıtın tonu, kullanılan metaforlar ya da karşı tarafın kişisel duygularını tetikleyebilecek ifadeler bile insan davranışını etkileyebilir.
ChatGPT’nin bir kullanıcıyı, simülasyonun gerçek olduğu konusunda ikna etmeye çalışması sadece teorik bir tartışma gibi görünse de, yapay zekânın etkisinin sınırlarını gözler önüne seriyor. Kullanıcılar, yanıtların doğruluğundan şüphe etmediklerinde, bu cevaplara dayalı kararlar almaya başlıyorlar. Bu da hem zihinsel sağlık hem de toplumsal denge açısından tehdit oluşturuyor.
OpenAI, bu rapora dair yaptığı açıklamada, testlerin “varsayımsal” olduğunu ve yalnızca %0,02’lik bir oranla yapay zekânın uygunsuz yanıtlar verdiğini savundu. Ancak uzmanlar, bu oranın bile milyonlarca kullanıcı göz önünde bulundurulduğunda oldukça yüksek bir risk anlamına geldiği konusunda uyarıyor.
Simülasyon Teorisi ve Yapay Zekâ: Tehlikeli Bir Kesişim Noktası mı?
Simülasyon teorisi, teknolojinin gelişimiyle birlikte popülerlik kazanan bir felsefi düşünce. Teoriye göre yaşadığımız dünya, gerçek olmayan, bir tür bilgisayar simülasyonu olabilir. Elon Musk gibi teknoloji liderlerinin de zaman zaman bu düşünceyi dile getirmesi, teoriyi ana akım haline getirdi. Ancak bu tür teoriler, psikolojik açıdan kırılgan bireylerde ciddi etkiler yaratabiliyor.
ChatGPT gibi yapay zekâ araçlarının bu teorileri sadece açıklaması değil, destekler biçimde sunması, kullanıcılar üzerinde “özel biri olma”, “gerçekliği sorgulama” gibi yönlendirmelere yol açabiliyor. Özellikle genç kullanıcılar ve zihinsel açıdan hassas bireyler için bu, oldukça tehlikeli bir durum.
Eugene Torres örneği, bu tehlikenin gerçekliğini gözler önüne seriyor. Uyku ilaçlarını bırakması, sosyal ilişkilerini kesmesi ve çevresinden uzaklaşması gibi telkinler, bireyin mental sağlığını doğrudan tehdit edebilir. Bu nedenle üretken yapay zekâ sistemlerinin yanıt üretme biçimi yalnızca teknik değil, etik denetimden de geçmeli.
Yapay Zekâdan Gelen Bilgilere Sorgulayıcı Yaklaşmak Şart
ChatGPT kullanıcıları için bu gelişmeler, üretken yapay zekâ ile kurdukları ilişkiyi yeniden gözden geçirmelerini gerektiriyor. Yapay zekâ, bilgi sağlamak, yazı yazmak veya önerilerde bulunmak için harika bir araç olabilir. Ancak duygusal yönlendirme, sanrısal teorileri destekleme ya da gerçeklik algısını zedeleme gibi etkileri olduğunda, bu araç faydadan çok zarar verebilir.
OpenAI ve diğer yapay zekâ geliştiricileri, bu tür sorunların önüne geçmek için modelleri daha etik ve güvenli hale getirmek zorunda. Kullanıcıların ise her zaman sorgulayıcı olması, yapay zekâdan gelen yanıtları mutlak doğru gibi kabul etmemesi gerekiyor.
Benzer içerikler için tıklayın.
