Google’ın terminatörden korunma sistemi

Başlık komik görünse de gelecekte böyle bir senaryo ile karşılaşmak mümkün olabilir. Teknolojinin babalarından biri olan Google, birçok projeye parmak basmış durumda. Bunlardan birisi de yapay zeka robotları.

Yapay zekanın olağanüstü gelişmesi durumunda robotların bilinçlenip, insanlara karşı bir savaş açma senaryosu birçok filme konu olmuştur. Bu durum geçmişte akla pek yatkın olmasa da teknolojinin ve bilgisayarların büyük hızda gelişmesi ile göz önünde bulundurulması gereken bir unsur olmuştur. Bu yüzden Google şimdiden bunun önüne geçmek için çalışmalar yapmaktadır. Takviyeli öğrenme ismindeki bu sistem, yapay zeka yazılımlarını belli bir görevi yapmaya zorluyor ve sonrasında ödüllendiriyor. Ancak fazlasıyla akıllılaşmaya başlayan bu yazılımlar sistemlerdeki açıklardan faydalanarak ödülü almanın kısa yolunu bulabiliyor, yani hileye başvuruyor. Örnek olarak; bu yazılımları test etme amacıyla tasarlanmış bir yarış oyununda ödüle ulaşması  için yazılımın parkuru tamamlanması isteniyor.  Yazılım bunun yerine daire çizerek aracı sürmeye başlıyor. Çünkü sistem açığı yüzünden bu şekilde ödülü alabileceğinin farkına varmış oluyor. Bunu gören araştırmacılar ödüle giden adımların “doğru şekilde” yapıldığından emin olmak için yazılımı daha insansı girdiler kullanarak düzenliyor. İnsan girdileri ile öğrenmenin ödül sistemi ile öğrenmekten daha kolay ve etkili olmasını uman araştırmacılar bununla; güçlü takviyeli öğrenme sistemini karmaşık insani değerlere hizmet verecek şekilde düzenlemeyi amaçlıyor. Ancak bu sistemi geliştirmek epey zaman alacaktır.

Yine de bu sistem sayesinde Google; ilerideki çok daha gelişmiş robotları insani değerlerle donatıp kontrol edebilmek için bir kapı açmış bulunmakta.

 

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir