Hailo-10H AI HAT+2 Oficjalny Zestaw dla Raspberry Pi 5, 40 TOPS (INT4) NPU, 8GB Pamięci, PCIe Gen3

Przegląd

Oficjalny zestaw Hailo-10H AI HAT+2 dla Raspberry Pi 5 to dedykowana płyta akceleratora AI zaprojektowana do pracy z generatywną AI na krawędzi i obciążeniami związanymi z widzeniem komputerowym. Integruje wbudowany NPU Hailo-10H o mocy 40 TOPS (INT4) i zawiera 8 GB dedykowanej pamięci na pokładzie, co umożliwia lokalne uruchamianie dużych modeli językowych (LLM) i modeli językowo-wizualnych (VLM), pozostawiając pamięć systemową Raspberry Pi 5 dostępną dla innych zadań.

Kluczowe cechy

• Kompatybilny z Raspberry Pi 5
• Akcelerator AI Hailo-10H dostarczający wydajność wnioskowania 40 TOPS (INT4)
• Wbudowana pamięć 8GB (dedykowana)
• Zgodność ze specyfikacją Raspberry Pi HAT+
• Łączność przez interfejs PCI Express Raspberry Pi 5 (PCIe Gen3 odnotowany)
• Wysoka kompatybilność z oprogramowaniem kamery Raspberry Pi: libcamera, rpicam-apps, Picamera2
• Kompleksowe wsparcie pakietu oprogramowania / narzędzi (odniesienia do komponentów oprogramowania Hailo: Hailo Model Zoo, Hailo Dataflow Compiler (SDK), HailoRT, TAPPAS, Hailo Firmware)
• Temperatura pracy: 0C~50C (otoczenie)
• Zawiera radiator; wspiera użycie z aktywnym chłodzeniem dla lepszej wentylacji (aktywne chłodzenie nie jest dołączone)

Specyfikacje

Odniesienia wydajności (na podstawie dostarczonych danych testowych)

• Czas odpowiedzi lokalnego VLM (Qwen2-VL-2B) (Raspberry Pi 5 4GB/8GB): bez akceleratora: > 6 minut (Pi 5-4GB), >3 minuty (Pi 5-8GB); z AI HAT+2: 3~30 sekund
• Wykrywanie celów YOLOv5: Test FPS Raspberry Pi 5: 8; Test FPS Raspberry Pi 5 + AI HAT+2: 30.01
• Szacowanie postawy: Test FPS Raspberry Pi 5: 1; Test FPS Raspberry Pi 5 + AI HAT+2: 30.64
• Segmentacja tła: Test Raspberry Pi 5: nie można uruchomić (FPS: 0); Test FPS Raspberry Pi 5 + AI HAT+2: 29.63
• Wykrywanie obrazów: Test FPS Raspberry Pi 5: 1; Test FPS Raspberry Pi 5 + AI HAT+2: 60.22

Zawartość zestawu

• Płytka AI HAT+2 (Hailo-10H)
• Radiator
• 16mm złącze do układania
• Wspornik(i)
• Śruby

Raspberry Pi 5 i aktywne chłodzenie nie są dołączone. W przypadku pytań dotyczących integracji lub kompatybilności, skontaktuj się z [email protected] or odwiedź https://rcdrone.top/ .

Zastosowania

• Offline wdrażanie LLM i VLM na Raspberry Pi 5
• Przyspieszenie wizji komputerowej i przetwarzania obrazów w czasie rzeczywistym
• Robotyka
• Offline kontrola procesów i analiza danych w sposób bezpieczny
• Zarządzanie obiektami

Samouczki

• Hailo10
• Tematy samouczków pokazane: Wprowadzenie do produktu; Lokalny samouczek wdrażania dla LLM i VLM; Samouczek przyspieszenia modelu AI Vision; Test obrazu Raspberry Pi 5 AI HAT+2
• Pokazane tematy lokalnego wdrażania: Instalacja środowiska; Interaktywny LLM oparty na tekście; Wizualna i tekstowa interakcja VLM
• Pokazane tematy przyspieszenia wizji AI: Konfiguracja środowiska; rpicam-apps; Przypadek testowy; Segmentacja instancji; Szacowanie pozycji; Aplikacja segmentowana; Głębokość monokularna
• Przewodnik użytkownika (wymienione)

Szczegóły

Z dedykowanym NPU Hailo-10H i wbudowaną pamięcią 8GB, zestaw pomaga uruchamiać lokalne obciążenia LLM/VLM i wizji na Raspberry Pi 5.

Szybkie porównanie linii AI HAT+ ułatwia wybór pomiędzy modelem podstawowym a wydajniejszym AI HAT+2.

Czasy odpowiedzi lokalnego modelu wizualno-językowego mogą spaść z minut do sekund, gdy obciążenia są przenoszone na akcelerator AI.

Potoki widzenia komputerowego, takie jak wykrywanie obiektów i szacowanie pozycji, zyskują znacznie na FPS, gdy działają z AI HAT+2.

Materiały instruktażowe krok po kroku są dostarczane do konfiguracji lokalnego wdrożenia LLM/VLM i uruchamiania projektów przykładowych.

Prawidłowa instalacja radiatora pomaga utrzymać stabilną wydajność podczas ciągłych obciążeń wnioskowania AI.

Dla lepszego chłodzenia przy ciągłym obciążeniu, płyta obsługuje parowanie z aktywnym chłodzeniem (Raspberry Pi 5 i chłodzenie nie są dołączone).

Stos oprogramowania obejmuje narzędzia deweloperskie do konwersji modeli, wdrażania i wykonywania w czasie rzeczywistym na akceleratorze Hailo.

Przykładowe demonstracje obejmują generowanie tekstu na urządzeniu oraz przepływy pracy wizji-języka dla prototypowania AI na krawędzi offline.

Typowe zadania wizji, takie jak wykrywanie, segmentacja i estymacja pozycji, mogą być przyspieszone dla wydajności w czasie rzeczywistym na Raspberry Pi 5.

Wymiary płyty AI HAT+2 i radiatora w milimetrach pomagają potwierdzić prześwit i dopasowanie montażu w konfiguracji Raspberry Pi 5.

Zestaw Raspberry Pi 5 AI HAT+2 zawiera płytę AI HAT+2, oficjalny radiator, 16mm nagłówek do układania oraz zestaw śrub do instalacji.

Zestaw Hailo AI HAT+2 dla Raspberry Pi 5 zawiera płytę rozszerzeń, radiator, taśmę i sprzęt montażowy do czystej instalacji.