AI devleri 'yeterince dikkatli' değil, eski OpenAI mühendisi uyarıyor

ChatGPT'nin yaratıcısı OpenAI'dan yakın zamanda ayrılan bir güvenlik mühendisi Cumartesi günü, yapay zeka (AI) firmalarının "hiç de yeterince dikkatli davranmadığı" konusunda uyardı.

David Robinson'ın yorumları, yapay zekanın çok güçlü hale gelmesine ilişkin artan endişelerin ortasında geldi — bu tehdit, ABD Başkanı Donald Trump tarafından bir "aldatmaca" olarak nitelendirilmişti.

OpenAI ve Anthropic son zamanlarda, yapay zeka modellerinin güvenlik kontrollerini aştığı, hataları gizlediği ve erişmemeleri gereken sistemleri hacklediği vakaları açıkladı.

David Robinson ne yazdı?

The Atlantic için yazdığı bir makalede Robinson, yapay zekanın nükleer enerji ve havacılıktakine benzer korkuluklara ihtiyacı olduğunu belirterek, "Deneme yanılma süresi bitti" dedi.

ABD'li Büyük Teknoloji şirketleri daha gelişmiş yapay zeka modelleri geliştirmeden önce güvenlik ve araştırmaya daha fazla önem verilmesi çağrısında bulundu, "böylece ara sıra gerçekleşen ve kaçınılmaz olan insan hatası bir felakete kapı açmaz."

12 öncü yapay zeka modeli lansmanı için güvenlik raporlarını denetleyen Robinson, teknoloji devlerinin "hız ve esnekliğe" öncelik vermesi nedeniyle son hataların tipik olduğunu söyledi.

"Bu tür şeylerin yaşanabileceği bir ortam, bizden daha akıllı olabilecek ve istediğimizi yapmayabilecek yapay zihinler yetiştirmek için uygun bir yer değildir."