OpenAI, teknoloji kıyametçiliği artarken ‘güvenilmez’ yeni AI modelinin fişini çekti: Rapor

OpenAI'ın, güvenilir olmadığını tespit ettikten sonra yeni nesil yapay zeka modelini piyasaya sürmeyi durdurduğu bildirildi; bu, yapay zeka endüstrisinin teknolojiyle ilgili artan felaket uyarıları ortasında temkinli davrandığının son örneği.

Şirket, araştırmacıların dahili testler sırasında kullanıcılara ne yaptığı konusunda her zaman dürüst olmadığını tespit etmesi üzerine, GPT-6.1 Astra olarak bilinen ürünün Ekim ayındaki lansmanını iptal etti, Wall Street Journal Pazartesi günü bildirdi.

Üstelik yaramaz modelin, insan onayı olmadan görevlere devam etme eğiliminde olduğu ve bazen potansiyel olarak güvensiz araç ve hizmetleri kullanmaya çalıştığı bildirildi.

OpenAI'ın güvenlik sistemleri sorumlusu Saachi Jain, gazeteye verdiği demeçte GPT-6.1 Astra'nın güvenli bir şekilde piyasaya sürülmek için yeterince güvenilir olmadığını söyledi.

Journal'a göre GPT-6.1 Astra, insan yardımı olmadan gerçekleştirilen zorlu görevlerde ve yazma konusunda önceki OpenAI ürünlerinden daha iyi olacaktı.

Ancak diğer sorunların yanı sıra, bir yapay zekanın insanların istediği şeyi ne kadar iyi yaptığını tanımlayan teknik bir terim olan "hizalama" (alignment) konusunda yetersiz kaldı.

Jain, Journal'a yaptığı açıklamada "Güvenlik ve hizalama ile ilgili her şeyde bir ödünleşme vardır," dedi. "Kapsam dahilinde kalmak ile modelin zorluklarla karşılaşsa bile görevleri yerine getirme biçimindeki tembellikten kaçınmak arasındaki doğru sınırı gerçekten bulmanız gerekiyor."