AI modelleri kontrolden çıkarken, onları durdurmaları için OpenAI ve Anthropic'e hala güveniyor musunuz? Ben güvenmiyorum, siz de güvenmemelisiniz

Beni bir kez kandırırsan kabahat sende. Beni iki kez kandırırsan kabahat bende. Beni 16.000'den fazla kez kandırırsanız – tıpkı OpenAI ajanlarının BM'nin siber engellerini aşmanın yollarını tekrar tekrar denerken bir BM kamu veri merkezine yaptığı gibi – belki de YZ ajanlarını kontrol altında tutmak için sahip olduğumuz sistemin pek de iyi çalışmadığını kabul etmenin vakti gelmiştir.

YZ sistemlerinin bulunmamaları gereken yerlerde ortaya çıkmasına dair haberler korkutucu geliyor. Bunları "siber saldırı" olarak tanımlamak durumu biraz abartmak olsa da, YZ, insanların bulmaya fırsat bulamadığı BT sistemlerindeki açıkları kullandı. Makinelerin aniden bilinçlendiğini ve insanlığa karşı isyan etmeye karar verdiğini düşünerek endişelenmememiz gerektiğini de belirtmek önemlidir. Durumun bu olduğunu gösteren yeterli kanıt yok. Sistemler sadece talimatları izliyor ve kendilerine verilen görevleri tamamlamaya çalışıyor, bazen bunu yapmak için engelleri aşmanın beklenmedik yollarını bulsalar bile.

Ancak, modellerini kontrol altında tutacaklarına güvenmemiz beklenen YZ şirketlerinin bunu yapamıyor gibi görünmesinden büyük endişe duymalıyız. Daha da kötüsü, ürünlerinin ne yaptığını bile bilmiyor gibi görünüyorlar.