RM182X M.2 AI Accelerator Module RM1820MC0 RM1828MC0 Rockchip 20TOPS LLM Inference Module

Mô-đun tăng tốc AI M.2 RM182X RM1820MC0 RM1828MC0 Rockchip 20TOPS Mô-đun suy luận LLM

Loạt RM182XMC0 là các mô-đun đồng xử lý AI hiệu suất cao của Rockchip, bao gồm 

RM1820MC0 (dành cho LLM 3B) và RM1828MC0 (dành cho LLM 7B). Sử dụng giao diện ngón tay vàng M.2 Key-M

với giao tiếp PCIe2.1, yếu tố hình thức nhỏ gọn 22×80mm cho phép tích hợp dễ dàng vào các thiết bị biên và

 thiết bị nhúng với nỗ lực thiết kế bo mạch cơ sở tối thiểu, giúp tăng tốc quá trình phát triển sản phẩm AI của bạn.

Cung cấp sức mạnh tính toán AI lên đến 20 TOPS @INT8,mô-đun hỗ trợ INT4 / INT8 /

Các kiểu dữ liệu INT16 / FP8 / FP16 / BF16 cho suy luận LLM cục bộvà các tác vụ thị giác máy.

Nó đi kèm với DRAM băng thông cao trên bo mạch: 2,5GB cho RM1820MC0 và 5GB cho RM1828MC0.

Các mô hình phổ biến được điều chỉnh sẵn bao gồm Qwen2.5 / dòng Qwen3, FastVLM, MobileNet, ResNet50V2,

YOLOv5s, YOLOv6s, YOLOv8s và nhiều hơn nữa. Các chuỗi công cụ phần mềm hoàn chỉnh được cung cấp: RKNN3 Toolkit,

RKNN3 Runtime API và RKNN3 Model Zoo để chuyển đổi, triển khai và xác thực nhanh chóng mô hình.
Đầu vào nguồn: 3,3V từ khe cắm M.2 cộng với nguồn điện 12V bổ sung. Hiệu suất năng lượng và độ trễ khác nhau

có sẵn trong các chế độ hoạt động tiết kiệm năng lượng / tiêu chuẩn cho suy luận mô hình lớn.
Là nhà sản xuất gốc, chúng tôi cung cấp hỗ trợ kỹ thuật và dịch vụ tùy chỉnh cho các nhà tích hợp hệ thống

và các nhà phát triển giải pháp AI.

Các tính năng cốt lõi
1. Mô-đun đồng xử lý AI Rockchip RM182X, hiệu suất tính toán 20 TOPS@INT8
2. Hai biến thể: RM1820MC0 hỗ trợ LLM lên đến 3B; RM1828MC0 hỗ trợ LLM lên đến 7B
3. Giao diện M.2 Key-M qua PCIe2.1, kích thước nhỏ gọn 22×80mm, tích hợp phần cứng đơn giản
4. DRAM băng thông cao trên bo mạch: 2,5GB (RM1820MC0) / 5GB (RM1828MC0)
5. Hỗ trợ đa độ chính xác: INT4 / INT8 / INT16 / FP8 / FP16 / BF16
6. Tương thích với LLM dòng Qwen, YOLO, MobileNet, ResNet và các mô hình AI khác
7. Ngăn xếp phần mềm đầy đủ: RKNN3 Toolkit, Runtime API, ví dụ triển khai Model-Zoo
8. Yêu cầu nguồn kép: 3,3V (khe cắm M.2) + đầu vào nguồn 12V bên ngoài

Các kịch bản ứng dụng
Suy luận biên ngôn ngữ lớn cục bộ
Thị giác máy & phát hiện đối tượng nhúng
Nâng cấp hộp tính toán AI biên / cổng AI
Thiết bị công nghiệp thông minh & thiết bị đầu cuối AI tại chỗ
Giải pháp nhúng AIoT, các dự án phát triển thứ cấp