【câu lạc bộ bóng đá ngoại hạng anh】Vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày
TheậnhànhChatGPTtốnhơnUSDmỗingàcâu lạc bộ bóng đá ngoại hạng anho Dylan Patel, nhà phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận hành chatbot.
Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí còn cao hơn do ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ tốn kém hơn.
Nếu như đào tạo mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
(Theo BI)
Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa
Sau sự nổi lên của ChatGPT, lượng người có nhu cầu học cách sử dụng phần mềm này tăng vọt, kéo theo đó là ngày càng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.(责任编辑:Nhận Định Bóng Đá)
- ·Phát sốt những bông hoa mạ vàng giá gần chục triệu tặng chị em ngày 8/3
- ·Vì sao phương Tây vẫn né yêu cầu lập vùng cấm bay ở Ukraine?
- ·Nga rút khỏi thị trấn gần Chernobyl, Ukraine ban sắc lệnh quân sự
- ·Văn minh học đường
- ·Phát triển thị trường bán lẻ: Đừng quên thúc đẩy công nghệ và sự sáng tạo
- ·Những bông hoa tặng thầy
- ·Inforgraphics: Nhìn vào mã số nào trên thẻ để biết được mức hưởng bảo hiểm y tế?
- ·Gấp rút triển khai chính sách đảm bảo an sinh xã hội cho người dân
- ·Cháy kinh hoàng tại trung tâm thương mại Kemerovo, Nga
- ·Thế tiến thoái lưỡng nan về năng lượng của Đông Nam Á
- ·Phát triển chăn nuôi theo hướng hiện đại, nâng cao tỷ trọng trong ngành nông nghiệp
- ·Thú vị đề thi học sinh giỏi môn văn
- ·Nhà báo Cuba bày tỏ ấn tượng trước sự trưởng thành của đội quân cách mạng
- ·Nga giáng đòn trả đũa các lãnh đạo EU
- ·Giới chức y tế đã thấy 'tia sáng le lói' về khả năng dịch Covid
- ·May mắn thoát tai nạn máy bay ở Trung Quốc nhờ đổi vé phút chót
- ·Trung Quốc lên tiếng trước cáo buộc hoạt động gián điệp của Anh
- ·Đào tạo giáo viên thời hội nhập
- ·Mục tiêu cắt giảm thực chất 50% mặt hàng thuộc diện kiểm tra chuyên ngành
- ·Ngành giáo dục cần chủ động hơn trước mưa, bão