NVIDIA kỷ niệm sự ra mắt siêu máy tính AI nhỏ nhất thế giới! Jen-Hsun Huang trực tiếp đến SpaceX giao hàng đầu tiên cho Elon Musk

NVIDIA đã chính thức ra mắt siêu máy tính AI nhỏ nhất thế giới DGX Spark trong tuần này, mở ra một chương mới cho tính toán AI hướng tới việc sử dụng trên máy tính để bàn. Thiết bị cách mạng này với kiểu dáng nhỏ gọn tích hợp công nghệ AI mạnh nhất của NVIDIA, cung cấp khả năng đào tạo và suy luận mô hình ngôn ngữ lớn tại chỗ cho các nhà phát triển.

Để kỷ niệm sự ra mắt của lô DGX Spark đầu tiên, người sáng lập và CEO của NVIDIA, Huang Renxun, đã trực tiếp đến trụ sở SpaceX ở Texas để giao lô DGX Spark đầu tiên cho người sáng lập SpaceX, Musk, tái hiện khoảnh khắc lịch sử khi Huang Renxun đã trao tặng siêu máy tính DGX-1 đầu tiên trên thế giới cho Musk vào năm 2016, tượng trưng cho sự tiếp nối của cuộc cách mạng AI.

Máy tính siêu AI nhỏ nhất toàn cầu NVIDIA DGX Spark sắp được phát hành

Sự phát triển nhanh chóng của AI và nhu cầu đã vượt xa khối lượng công việc mà hàng triệu nhà phát triển trước đây dựa vào máy tính để bàn, trạm làm việc và máy tính xách tay có thể chịu được, buộc các đội ngũ chuyển công việc lên đám mây hoặc trung tâm dữ liệu địa phương. DGX Spark là một loại máy tính mới, cung cấp hiệu suất AI với hàng triệu tỉ phép toán dấu chấm động và bộ nhớ thống nhất 128GB trong hình dáng một chiếc máy tính nhỏ gọn. Các nhà phát triển có thể tiến hành suy diễn các mô hình AI với tối đa 200 tỷ tham số tại chỗ và tinh chỉnh các mô hình với tối đa 70 tỷ tham số. Hơn nữa, DGX Spark còn cho phép các nhà phát triển tạo ra các tác nhân AI chạy trên các ngăn xếp phần mềm tiên tiến tại chỗ.

Huang Renxun đã đến SpaceX để giao DGX Spark cho Musk.

Huang Jen-Hsun cho biết vào năm 2016, NVIDIA đã phát triển DGX-1, một siêu máy tính dành riêng cho các nhà nghiên cứu AI. Ông đã trực tiếp giao chiếc hệ thống đầu tiên cho Elon Musk, người đang khởi nghiệp tại OpenAI vào thời điểm đó, và từ đó ChatGPT ra đời, mở ra cuộc cách mạng AI. Siêu máy tính thế hệ đầu tiên ra mắt vào năm 2016 nặng 134 pound, giá 129.000 đô la, trong khi hiện tại trọng lượng chỉ còn 2,65 pound và giá chỉ 3.999 đô la. Cấu trúc GPU cũng đã tiến hóa từ NVIDIA Pascal đến Blackwell.

Các người nhận sớm khác của DGX Spark, bao gồm Anaconda, Cadence, ComfyUI, Docker, Google, Hugging Face, JetBrains, LM Studio, Meta, Microsoft, Ollama và Roboflow, đang thử nghiệm xác thực và tối ưu hóa các công cụ, phần mềm và mô hình của họ cho DGX Spark. Các tổ chức nghiên cứu toàn cầu, bao gồm Phòng thí nghiệm Tiên phong Toàn cầu của Đại học New York, đã xem trước DGX Spark để thúc đẩy phát triển AI của họ. Giáo sư Kyunghyun Cho của Khoa Khoa học Máy tính và Dữ liệu tại Phòng thí nghiệm Tiên phong Toàn cầu của Đại học New York cho biết cách mới của DGX Spark có khả năng xây dựng nguyên mẫu nhanh chóng, thử nghiệm các thuật toán và mô hình AI tiên tiến, ngay cả đối với các ứng dụng nhạy cảm về quyền riêng tư và bảo mật, chẳng hạn như chăm sóc sức khỏe.

Ứng dụng của DGX Spark

DGX Spark tích hợp nền tảng AI NVIDIA hoàn chỉnh (bao gồm GPU, CPU, mạng, thư viện CUDA® và ngăn xếp phần mềm AI NVIDIA) vào một hệ thống nhỏ gọn, đủ kích thước để chứa trong phòng thí nghiệm hoặc văn phòng, nhưng đủ mạnh mẽ để tăng tốc phát triển AI đại diện và thực thể. Bằng cách kết hợp hiệu suất đột phá với phạm vi của hệ sinh thái NVIDIA, DGX Spark biến bàn làm việc thành nền tảng phát triển AI.

Hệ thống DGX Spark có thể cung cấp hiệu suất AI lên đến 1 petaflop, được tăng tốc bởi chip siêu cấp NVIDIA GB10 Grace Blackwell, mạng NVIDIA ConnectX®-7 200 Gb/s và công nghệ NVIDIA NVLink-C2C, cung cấp băng thông gấp 5 lần so với PCIe thế hệ thứ năm và tính nhất quán bộ nhớ với tính nhất quán CPU của PCIe.

Cài đặt trước phần mềm NVIDIA AI stack cho phép các nhà phát triển có thể ngay lập tức thực hiện các dự án AI. Nhờ có DGX Spark, các nhà phát triển có thể truy cập các công cụ trong hệ sinh thái NVIDIA AI, bao gồm mô hình, thư viện và dịch vụ vi mô NVIDIA NIM, từ đó thực hiện các quy trình làm việc tại chỗ, chẳng hạn như tùy chỉnh mô hình FLUX.1 của Black Forest Labs để tối ưu hóa việc tạo hình ảnh, sử dụng mô hình ngôn ngữ hình ảnh NVIDIA Cosmos Reason để tạo ra các đại lý tìm kiếm hình ảnh và tóm tắt, hoặc cho phiên bản robot tóm tắt DGwen X3.

Bài viết này, NVIDIA kỷ niệm việc phát hành siêu máy tính AI nhỏ nhất thế giới! Huang Renxun trực tiếp đến SpaceX để giao hàng đầu tiên cho Musk. Xuất hiện lần đầu tiên trên Chain News ABMedia.