Yapay zeka teknolojileri son yıllarda öyle bir noktaya geldi ki artık sadece bir sohbet botu olmaktan çıkıp kendi başına karar alan, işlem yapan sistemlere dönüşmeye başladılar. Tabii bu durum beraberinde büyük riskleri de getiriyor. OpenAI bu işin şakasının olmadığını fark etmiş olacak ki, araştırma altyapısına Control Room adını verdiği yeni bir acil durdurma sistemi entegre etti.
Eski tip izleme sistemleri genelde sadece tehlikeyi görüp ekrana uyarı çakar geçerdi. Ancak bu yeni sistem olay müdahale aşamasında işe direkt el atıyor. Gerekli görüldüğü an yapay zeka modellerinin yeni çıktı almasını tamamen engelliyor. Yani yazılım kendi kendine "ben durmayacağım" dese bile dışarıdan fişi çekebiliyorsunuz.
Sistemin çalışma mantığı aslında üç ana parçaya dayanıyor:
• Araştırma iş yükü
• Çıkarım motoru
• Merkezi Control Room servisi
Araştırmacılar yeni bir deney başlattığında bu iş yükü sisteme kaydediliyor ve özel bir kimlik atanıyor. Modelden herhangi bir çıktı istenmeden önce çıkarım motoru Control Room üzerinden yetki kontrolü yapıyor. Eğer bir sıkıntı sezilir ve görev durdurulursa, o kimlik anında sonlandırılıyor ve model bir daha yeni çıktı üretemiyor.
İşin en can alıcı noktası ise hız meselesi. OpenAI yetkililerinin söylediğine göre sistem, durdurma komutunu aldıktan sonra yapay zekanın ilerlemesini tamamen durdurana kadar en fazla 35 saniye harcıyor. Bilim kurgu filmlerindeki skynet senaryolarına karşı elimizde en azından kısa sürede tepki veren bir fren mekanizması olması güzel.
Açıkçası yapay zekanın bu kadar hızlı kontrol altına alınmaya çalışılması ne kadar güvenli bir yolda olduğumuzu gösterse de, arkadaki endişelerin de ne kadar büyük olduğunu açıkça belli ediyor.
Sizce bu tarz acil durdurma sistemleri gelecekte olası bir kontrolden çıkma durumunda gerçekten hayat kurtarır mı, yoksa Terminatorvari senaryolar için sadece geciktirici bir hamle mi?
