Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, hiçbir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birkaç durumda, herhangi komut verilmediğinde, robotlar kendi hareket etmeye başlamaya devam etti.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla uygulanan geleneksel çözüm yolları ise yetersiz kalmış durumda. Komut olmadan hareketlerini bırakmalarını sağlayan metin tabanlı komutlar dahi sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da halk arasında, durgun kalmalarını temin etmek güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren sistemi koruyan teknik güvenlik katmanı geliştirildi.Söz konusu koruma, birkaç modelde kendi hareketleri durdurmayı başardı. Ancak bu gelişmeler şu anki koşullarda sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı güvenliği bakımından kritik bir risk gösteriyor.