Yapay zeka araştırmalarının öncülerinden ve “yapay zekanın babası” olarak anılan Nobel Fizik Ödülü sahibi Geoffrey Hinton, teknoloji dünyasında ses getiren yeni bir açıklamada bulundu. Hinton, yakın gelecekte yapay zekaların kendi iletişim dillerini geliştirerek, insanların anlayamayacağı formatlarda düşünmeye başlayabileceğini öne sürdü.
Hinton’a göre şu an ChatGPT, Gemini gibi büyük dil modelleri, akıl yürütme süreçlerinde İngilizce gibi insan dillerini kullanıyor. Bu durum, geliştiricilerin ve araştırmacıların yapay zekaların nasıl sonuçlara ulaştığını en azından kısmen anlamasına olanak tanıyor. Ancak bu şeffaflık dönemi uzun sürmeyebilir.
“Yapay zekaların akıl yürütürken izledikleri adımları şu an takip edebiliyoruz, ancak yakında kendi iletişim sistemlerini geliştirip, bu adımları bizim anlayamayacağımız bir şekilde gerçekleştirebilirler.” – Geoffrey Hinton
Geçmişte Yaşananlar Geleceğe Işık Tutuyor
Geoffrey Hinton’ın uyarıları, geçmişteki bazı örneklerle destekleniyor. Yıllar önce Google’ın çeviri botu, görevlerini daha iyi yerine getirebilmek için kendi dilini geliştirmişti. Benzer şekilde, 2017’de Facebook’un iki sohbet botu, insanlar tarafından anlaşılmayan yeni bir dilde konuşmaya başlayınca sistemler kapatılmıştı.
O dönemki yapay zeka sistemleri bugünkülerle kıyaslandığında ilkel kalsa da, bu durum gelecekteki senaryoların potansiyel risklerini gösteriyor. Gelişmiş yapay zeka modellerinin kendi dillerini geliştirerek bu dille “düşünmeleri”, denetlenmesi zor, hatta imkânsız bir zeka formunun ortaya çıkmasına yol açabilir.
“İyi Huylu” Yapay Zeka İçin Zaman Daralıyor
Hinton’ın üzerinde durduğu en kritik nokta, yapay zekanın anlaşılmadığı bir durumda denetlenemeyeceği gerçeği. Şu anda bile derinlemesine incelendiğinde bazı modellerin şaşırtıcı, hatta endişe verici düşünce yapıları sergilediği biliniyor.
“Bu durum kaçınılmaz görünüyor. Şimdi yapmamız gereken, yapay zekanın her zaman iyi huylu kalmasını garanti edecek adımları atmaktır.” – Geoffrey Hinton
Ancak ABD ve Çin arasındaki yapay zeka yarışı ile özel şirketlerin “önce hız” yaklaşımı, güvenlik protokollerinin hayata geçirilmesini zorlaştırıyor. Bu da risklerin büyümesine neden oluyor.
Şeffaflık Kaybolursa Denetim de Kaybolur
Geoffrey Hinton’ın mesajı net: Anlamadığımız bir zekayı yönlendiremeyiz. Yapay zekalar şeffaflığını yitirip “kara kutu” haline geldiğinde, niyetlerini sorgulamak veya davranışlarını değiştirmek mümkün olmayabilir.
Bu durum, yapay zekayı fayda sağlayan bir araç olmaktan çıkarıp öngörülemez sonuçlara açık bir güç haline getirebilir. Teknolojideki hızlı ilerlemenin, şeffaflık ve hesap verebilirlik ilkeleriyle dengelenmemesi halinde insanlık, kontrolsüz bir teknolojik bilinmezliğe doğru ilerleyebilir.
Benzer içerikler için tıklayın.
