Y Combinator’dan Garry Tan, ABD'li açık ağırlıklı yapay zeka laboratuvarlarının da öncü modelleri 'damıtmasını' istiyor

Konu Çinli yapay zeka laboratuvarlarının öncü model üreticilerinden bilgi çıkarmak için damıtma teknikleri kullanmasına geldiğinde, Y Combinator CEO'su Garry Tan, düzenleyicilerin buna karışmamasını umuyor. Hatta, ABD'li yapay zeka laboratuvarlarının da belki aynı oyunu oynaması gerektiğini düşünüyor.

“Hiçbir şey yapmazdım,” dedi bu haftanın başlarında CNBC'ye verdiği bir röportajda. “Bir Amerikan damıtma rejiminin olması gerektiğini savunabiliriz.”

TechCrunch'a yaptığı açıklamada bu durumun, daha küçük Amerikan açık ağırlıklı yapay zeka laboratuvarlarının, Amerikan öncü yapay zeka laboratuvarları üzerinde aynı tür eğitim tekniklerini kullanmasını istediği anlamına geldiğini ve böylece ABD'ye Çinli olmayan daha güçlü bir açık ağırlıklı seçenekler seti sunulacağını belirtti.

Damıtma, bir model üreticisinin bir başka modelin nasıl çalıştığını ve akıl yürüttüğünü öğrenmek amacıyla onu kapsamlı bir şekilde istemlerle yönlendirmesidir. Yapay zeka laboratuvarları tarafından yeni modellerin eğitilmesine yardımcı olmak için yaygın ve yasal olarak kullanılır.

Anthropic bu hafta, Çinli laboratuvarların izin almadan damıtma yapmak için kimliklerini gizleyerek “yasadışı damıtma saldırıları” gerçekleştirdiğini ve bunu yapmak için dolandırıcılık ile çalınmış kimlik bilgilerine güvendiğini iddia eden ikinci raporunu yayınladı. Anthropic CEO'su Dario Amodei daha önce ABD'li düzenleyicilere damıtma konusuna sert önlemler almaları için açıkça çağrıda bulunmuştu.