Anthropic araştırmacısı, yapay zeka tehlikeleri ve insan hayatına yönelik tehdit uyarısıyla istifa etti

SAN FRANCISCO -- Bir Anthropic araştırmacısı, yapay zeka firmasının ve rakiplerinin yapay zeka geliştirmede sorumlu davranmadıkları konusundaki endişeleri üzerine şirketten istifa ettiğini belirterek, teknolojinin insan kontrolünden çıkma potansiyeli hakkında sektör içinden ve dışından dile getirilen endişeleri yineledi.

Hem Anthropic hem de OpenAI bünyesinde üç yıl boyunca araştırma yaptığını söyleyen Jacob Coxon, Salı günü sosyal platform X üzerinden yaptığı açıklamada, iki yapay zeka şirketinin güvenlikten ziyade mümkün olan en gelişmiş modeli geliştirme konusunda birbirlerini ve küresel rakiplerini yenmeye odaklandıklarını söyledi.

OpenAI ve Anthropic, modellerinin test ortamlarından çıktığını ve gerçek bilgisayar sistemlerine yetkisiz erişim sağladığını yaklaşık bir hafta arayla duyurduklarında bu yaz büyük yankı uyandırdılar. Duyurular, modellerin kontrolden çıkması ve diğer daha zararlı görevleri yerine getirmesi konusundaki endişeleri artırdı. Her iki şirket de o dönemde, daha fazla izleme önlemi ve koruma bariyeri uygulamaya koyarken bazı değerlendirmeleri durdurduklarını açıkladı.

Sosyal medya paylaşımlarında Coxon, Anthropic ve baş rakibi OpenAI'ın "doğrudan kendi kendini geliştiren süper zekaya doğru yarıştığını ve hayatlarımızla kumar oynadığını" söyledi. Yapay zeka geliştirme üzerine çalışan bazılarının, bunun on yılın sonuna kadar insan hayatını tehdit edebileceğine inandığı konusunda uyardı.