【lịch thi đấu bóng đá ả rập xê út】Chip AI chuyên dụng Groq liệu có phải ‘ngựa ô’ của ngành bán dẫn
Chip trí tuệ nhân tạo(AI) chuyên dụng LPU do Groq phát triển đang trở thành hiện tượng gây bão trên mạng xã hội chỉ sau một đêm,êndụngGroqliệucóphảingựaôcủangànhbándẫlịch thi đấu bóng đá ả rập xê út khi các bài kiểm tra điểm chuẩn công khai của nó lan truyền trên nền tảng truyền thông xã hội X.
Groq tuyên bố cung cấp ‘các mô hình xử lý ngôn ngữ tự nhiên nhanh nhất thế giới’ và kết quả thử nghiệm độc lập chuyên sâu cho thấy tuyên bố đó có thể là chính xác.
Groq sản xuất chip AI chuyên dụng được gọi là LPU (Language Processing Unit), được cho là nhanh hơn GPU của Nvidia. GPU của Nvidia thường được coi là chip công nghiệp tiêu chuẩn để chạy các mô hình AI, nhưng kết quả ban đầu cho thấy LPU sẽ vượt xa chúng, ít nhất là trong các tác vụ yêu cầu tốc độ lớn.
Về bản chất, chip LPU của Groq là một ‘công cụ điện toán’, cho phép các chatbot như ChatGPT, Gemini hoạt động với tốc độ tiếp nhận và phản hồi cực nhanh. Trong các thử nghiệm đã được tiến hành, chatbot sử dụng chip LPU đã vượt trội so với 8 chatbot sử dụng các chip AI khác trên một số chỉ số hiệu suất chính, bao gồm độ trễ so với thông lượng và tổng thời gian phản hồi. Hiệu suất vượt trội của LPU thể hiện rõ rệt nhất khi thử nghiệm với mô hình Llama 2-70b của Meta.
Theo các thử nghiệm độc lập của Artificial Analysis, chatbot sử dụng chip LPU có thể được thông lượng 247 mã thông báo (token)/giây. Để so sánh, ChatGPT của OpenAI hiện cũng mới chỉ đạt thông lượng tối đa 18 token/giây. Điều này có nghĩa là ChatGPT có thể nhanh hơn 13 lần nếu sử dụng chip do Groq phát triển, mặc dù điều này còn phụ thuộc vào nhiều yếu tố liên quan khác.
Theo Artificial Analysis, mức hiệu suất này có thể mở ra những khả năng mới cho các mô hình ngôn ngữ lớn (LLM) trên nhiều lĩnh vực khác nhau. Các chatbot sử dụng chip LPU của Groq có thể tạo ra hàng trăm từ trong tích tắc, cho phép người dùng thực hiện các tác vụ theo thời gian thực. Trong một thử nghiệm, người sáng lập và Giám đốc điều hành Groq Jonathon Ross đã hướng dẫn người dẫn chương trình CNN trò chuyện trực tiếp bằng lời nói với một chatbot AI ở bên kia địa cầu.
Các chatbot AI như ChatGPT, Gemini, Llama… có thể hữu ích hơn đáng kể nếu chúng phản hồi nhanh hơn. Một trong những hạn chế đáng kể hiện tại là các chatbot này không thể bắt kịp lời nói của con người trong thời gian thực. Độ trễ lớn khiến cuộc đối thoại trở nên máy móc và không đáp ứng được yêu cầu trong nhiều lĩnh vực.
Bất chấp kỳ vọng xung quanh chip LPU của Groq, vấn đề trước mắt là cần đánh giá khả năng ứng dụng thực tế của loại chip này so với sản phẩm tương tự. Khác với GPU của Nvidia hay TPU của Google, LPU của Groq là một loại chip AI chuyên dụng, được thiết kế để tối ưu hóa cho các tác vụ nhất định, chứ không phải là một loại chip AI ‘đa năng’.
Bên cạnh đó, đây cũng là thời điểm các nhà phát triển AI lớn đều đang tìm cách phát triển chip nội bộ để tránh lệ thuộc vào các sản phẩm của Nvidia. OpenAI được cho là đang tìm kiếm nguồn vốn hàng ngàn tỷ USD để phát triển chip của riêng mình. Giám đốc điều hành OpenAI Sam Altman thậm chí còn đang tính tới việc xây dựng lại cấu trúc chip AI hoàn toàn mới từ đầu
(theo Cryptoslate)
(责任编辑:Thể thao)
- ·VPBank bắt tay Amazon Web Services nâng tầm công nghệ ngân hàng số và trải nghiệm khách hàng
- ·Xe nào được phép đi?
- ·Cần Thơ: Kẻ cướp xe tải gây tai nạn liên hoàn, 2 người tử vong
- ·Bắt giam kẻ gây tai nạn giao thông chết người rồi bỏ trốn
- ·Hải quan xử lý 13.720 vụ việc vi phạm về hàng giả, gian lận thương mại
- ·Bắt thêm 1 Phó tổng biên tập, 2 phóng viên Tạp chí Môi trường và Đô thị Việt Nam
- ·Nguyên nhân 4 đăng kiểm viên Chi cục Thuỷ sản Thừa Thiên
- ·Bình Dương: Truy nã cựu Trưởng phòng Tài nguyên và Môi trường TP Dĩ An
- ·Bộ Y tế khuyến cáo cách phòng chống dịch bệnh trong lũ và ngập lụt
- ·Bắt kẻ có hành vi xâm hại con gái mới 5 tuổi của người tình tại Bình Thuận
- ·Cáp treo Fansipan ưu đãi tới 30%, du khách háo hức săn mùa mây đẹp nhất năm
- ·Khi nào cha mẹ phải trả nợ thay con cái?
- ·Nguyên nhân hoãn phiên xét xử cựu Giám đốc Sở Xây dựng Đắk Nông cùng đồng phạm
- ·Bắt người cha và 'vợ hờ' nghi bạo hành bé trai 6 tuổi ở TP.HCM
- ·Phế liệu Hải Đăng chuyên thu mua phế liệu sắt, nhôm, đồng, inox tại Long An uy tín
- ·Nghi vợ ngoại tình, tống tiền 'tình địch' 10 tỷ đồng
- ·Long 'tròn' bị bắt cùng 'Hiệp máu'
- ·Loạt sai phạm trong thoái hóa vốn Nhà nước ở Tổng công ty Tín Nghĩa
- ·Liên minh châu Âu chính thức thông qua Đạo luật kiểm soát AI đầu tiên trên thế giới
- ·Cấp dưới lập 600 công ty 'ma' giúp Trương Mỹ Lan chiếm đoạt hơn 4.600 tỷ