ChatGPT 개발자가 만든 새로운 종류의 AI 모델에 개발자들이 열광하고 있다

ChatGPT는 Diogo Almeida의 마음을 아프게 했습니다.

Almeida는 챗봇 구축을 도운 후 현재 AI 시대의 가장 큰 공로로 꼽히는 모델 학습 기술인 RLHF(인간 피드백을 통한 강화 학습)를 발명한 OpenAI 연구원이었습니다. 하지만 그러한 성능에도 불구하고 그는 실망했습니다.

“우리는 병 안에 든 번개를 가지고 있지만, 아직 유용하지 않습니다,” Almeida는 TechCrunch에 말했습니다. “저는 그 이후로 그 문제와 싸워왔습니다. 결론에 도달하는 데 시간이 좀 걸렸습니다. 문제는 우리가 인간의 언어에 최적화하고 있다는 것입니다… 우리는 4년 동안 인간의 언어에 매우 능숙해졌지만, 컴퓨터는 다른 언어를 사용하기 때문에 자동화에는 유용하지 않습니다.”

2년 전, Almeida는 이 문제를 해결하기 위해 TypeSafe AI라는 스타트업을 설립하기 위해 OpenAI를 떠났습니다. 이번 주, 이 회사는 LLM(대규모 언어 모델)이 아닌 새로운 트랜스포머 기반 모델인 Jev를 출시했습니다. 이 모델은 텍스트를 출력하지 않고 대신 확률, 즉 회사에서 말하는 “보정된 결정(calibrated decisions)”을 생성합니다.

언어를 배제함으로써 몇 가지 효과를 얻었습니다. 모델이 믿기지 않을 정도로 저렴하고 빨라졌으며, 사용자가 출력을 미리 정의하기 때문에 환각(hallucinate) 현상이 발생할 수 없습니다. 출력 토큰은 무료이며, 입력 토큰은 백만 개가 아닌 10억 개 단위로 측정됩니다.

개발자들은 이 제품에 큰 관심을 보이고 있습니다. 수요가 너무 많아 회사는 잠시 API 서비스 제공 능력을 상실하기도 했습니다. Jev는 소프트웨어 자동화에 가장 유용한 것으로 보입니다. 현재까지 소프트웨어 개발자들은 이를 코드에 지능을 통합하는 더 저렴하고 견고한 방법으로 보고 있습니다.

예를 들어, 에이전틱 인프라를 구축하는 회사인 Vercel의 소프트웨어 엔지니어인 Pranit Sharma는 자신의 회사가 명령의 안전성을 검토하기 위해 분류기를 실행하는 데 OpenAI의 ChatGPT Luna 5.6을 사용해 왔다고 말했습니다. Vercel이 OpenAI의 Luna를 Jev로 교체했을 때, 결과는 5배에서 18배 더 빨랐고 정확도도 더 높았습니다.

또 다른 개발자인 Bryo AI CTO Nikhil Mudholkar는 비즈니스 이메일 분류를 위해 Gemini를 상대로 Jev를 테스트했습니다. 그의 테스트에서 Gemini가 약간 더 정확했지만, 비용은 10배에서 20배 더 비쌌습니다. Mudholkar에게 더 흥미로웠던 것은 Jev의 신뢰도 점수였습니다. “이것은 실제 확률을 반환하는 유일한 모델이며, 워크플로우 자동화에 이상적입니다!!”