Mô hình AI mới từ nhà sáng tạo ChatGPT khiến giới lập trình phấn khích

ChatGPT đã làm tan nát trái tim của Diogo Almeida.

Almeida từng là một nhà nghiên cứu tại OpenAI, người đã giúp xây dựng chatbot này và sau đó phát minh ra phương pháp học tăng cường từ phản hồi của con người (RLHF), kỹ thuật huấn luyện mô hình có lẽ đóng vai trò quan trọng nhất đối với kỷ nguyên AI hiện nay. Nhưng bất chấp khả năng của nó, ông đã thất vọng.

“Chúng ta có một thứ quyền năng phi thường trong tay, nhưng nó lại không hữu ích,” Almeida nói với TechCrunch. “Tôi đã trăn trở với vấn đề đó kể từ đó. Tôi đã mất một thời gian dài để đi đến kết luận: vấn đề là chúng ta đang tối ưu hóa cho ngôn ngữ con người… Chúng ta đã cực kỳ giỏi về ngôn ngữ con người trong bốn năm qua, nhưng nó không hữu ích cho tự động hóa vì máy tính nói một ngôn ngữ khác.”

Hai năm trước, Almeida đã rời OpenAI để thành lập TypeSafe AI, một startup đang cố gắng khắc phục vấn đề đó. Tuần này, công ty đã phát hành một mô hình dựa trên transformer mới, Jev, đây không phải là một mô hình ngôn ngữ lớn (LLM). Nó không xuất ra văn bản, mà thay vào đó tạo ra các xác suất, hoặc cái mà công ty gọi là “các quyết định đã được hiệu chỉnh”.

Việc loại bỏ ngôn ngữ mang lại một vài lợi ích: Nó giúp mô hình cực kỳ rẻ và nhanh, và vì người dùng xác định trước các đầu ra, nó không thể xảy ra hiện tượng ảo giác. Các token đầu ra của nó miễn phí, và các token đầu vào được tính theo đơn vị tỷ, chứ không phải triệu.