Sam Altman: Mã nguồn mở GPT-3, giảm chi phí của GPT-4, tăng gấp đôi kích thước mô hình

Vào ngày 1 tháng 6, Raza Habib, người sáng lập nền tảng phát triển AI HumanLoop, đã tổ chức một cuộc thảo luận kín với hơn 20 nhà phát triển, bao gồm cả Giám đốc điều hành OpenAI Sam Altman. Cụ thể: 1. OpenAI hiện đang bị hạn chế nghiêm trọng bởi GPU khiến họ phải hoãn nhiều kế hoạch ngắn hạn, hầu hết các vấn đề về độ tin cậy và tốc độ của ChatGPT là do thiếu tài nguyên GPU. 2. Giảm chi phí và nâng cao hiệu quả của GPT-4 là ưu tiên hàng đầu hiện nay của OpenAI. 3. Cửa sổ ngữ cảnh ChatGPT dài hơn (tối đa 1 triệu mã thông báo). Trong tương lai sẽ có phiên bản API ghi nhớ lịch sử hội thoại. 4. Khả năng đa phương thức của GPT-4 sẽ không được công khai cho đến năm 2024 và phiên bản trực quan của GPT-4 không thể được mở rộng cho mọi người cho đến khi có thêm tài nguyên GPU. 5.

OpenAI đang xem xét mã nguồn mở GPT-3 Một phần lý do khiến họ chưa mã nguồn mở là vì họ cảm thấy không nhiều người và công ty có khả năng quản lý đúng cách một mô hình ngôn ngữ lớn như vậy. 6. Nhiều bài báo gần đây cho rằng “kỷ nguyên của các mô hình AI khổng lồ đã qua” là không đúng. Dữ liệu nội bộ của OpenAI cho thấy quy luật tỷ lệ thuận giữa quy mô và hiệu suất vẫn đúng và quy mô mô hình của OpenAI có thể tăng gấp đôi hoặc gấp ba mỗi năm (nhiều bên Thông tin chỉ ra rằng quy mô tham số GPT-4 là 1 nghìn tỷ), không có nhiều bậc độ lớn.

Tin nhanh ⇢

Tiendientu.net

Tác giả

Cộng đồng:
https://t.me/TCD_Community
https://t.me/coindesk_channel
https://t.me/nftdeskgr