Yapay zeka ve otonom sürüş teknolojilerinin öncüsü Tesla, Çin’deki sürücülerin geliştirdiği son derece basit ve maliyetsiz bir yöntemle karşı karşıya kaldı.
Araç içi kabin kamerası, dikiz aynasının önüne yerleştirilen küçük plastik figür kafalarıyla kandırılarak Autopilot ve FSD sistemlerinin güvenlik uyarıları devre dışı bırakılıyor.
Otonom sürüş güvenliğini en üst düzeye çıkarmak amacıyla geliştirilen kabin içi sürücü takip sistemleri, sürücünün göz hareketlerini ve dikkat dağınıklığını yapay zeka algoritmalarıyla sürekli olarak analiz eder. Tesla‘nın Çin pazarındaki kullanıcıları ise bu ileri teknoloji yapay zeka bariyerini aşmak için oldukça yaratıcı ancak bir o kadar da tehlikeli bir yöntem keşfetti.
Sürücüler, yaklaşık 10-20 dolar değerindeki minik tarz figür kafalarını dikiz aynasının hemen önüne, kameranın görüş açısını kapatacak şekilde yerleştiriyor. Kabin kamerası, bu sabit plastik yüzü sürekli yola odaklanmış ve dikkatli bir sürücü olarak algıladığı için sistem arka planda pürüzsüzce çalışmaya devam ediyor.
Fiziksel Ağırlıklardan Görsel İllüzyonlara Evrilen Hileler
Tesla kullanıcıları geçmiş dönemlerde de Autopilot ve Full Self-Driving yazılımlarının “direksiyona dokunma” uyarılarını atlatabilmek adına direksiyon simidine özel ağırlıklar takarak sistemi manipüle ediyordu. Şirketin yazılımsal güncellemelerle bu fiziksel ağırlıkları tespit edip engellemesinin ardından, Çin’deki sürücüler bu kez görsel algıyı hedef alan yeni nesil hilelere yöneldi.
Minik oyuncak kafaları sayesinde sürücüler, yola bakmadıkları ya da tamamen başka bir şeyle ilgilendikleri anlarda bile sistemden hiçbir şekilde “direksiyonu devral” veya “yola odaklan” uyarısı almıyorlar. Güvenlik protokollerini tamamen işlevsiz kılan bu durum, otonom sistemlerin sınırlarını ve açıklarını bir kez daha tartışmaya açıyor.
Yerel Pazarda Sürücü Refleksleri
Sürücülerin araç içi takip kameralarını ve güvenlik sistemlerini manipüle etme eğilimi sadece küresel pazarlarla sınırlı kalmayıp yerel örneklerde de karşımıza çıkıyor. Nitekim Türkiye’de de benzer bir refleksle, TOGG kullanıcılarının kabin içi sürücü takip kameralarını basit bir bez yardımıyla kapatarak sistemin sürekli olarak verdiği dikkat ve yorgunluk uyarılarını engellediği durumlar gözlemlenmişti.
Elektrikli ve yeni nesil akıllı araçların, sürücünün her anını, göz kırpma sıklığını ve baş pozisyonunu milimetrik olarak takip edip sürekli bir kontrol mekanizması işletmesi, teknoloji dünyasında “güvenlik” ve “kişisel alanın ihlali” arasında duran büyük bir etik tartışmayı da beraberinde getiriyor.
Ototeknoloji dünyasındaki en son yazılım güncellemelerini, otonom sürüş testlerini ve elektrikli araç dünyasındaki global gelişmeleri buradan takip edebilirsiniz.
