O AI-8850 LLM Acceleration M.2 (AX8850) es un módulo de aceleración de IA compacto y de alto rendimiento, diseñado para potenciar aplicaciones de edge computing e inferencia local de modelos avanzados. Equipado con el SoC Axera AX8850 y una NPU de 24 TOPS, permite ejecutar modelos de visión, audio y lenguaje (LLM) directamente en el dispositivo, reduciendo la latencia y la dependencia de la nube.
Con formato M.2 M-Key 2242 e interfaz PCIe, se integra fácilmente en plataformas como Raspberry Pi 5, SBC industriales o mini PCs, ofreciendo capacidades avanzadas como procesamiento de vídeo 8K, análisis en tiempo real y ejecución de modelos multimodales. La solución incluye además un sistema de refrigeración activo inteligente, que garantiza un rendimiento estable incluso bajo cargas elevadas.
PRINCIPALES CARACTERÍSTICAS
◆ NPU con rendimiento de hasta 24 TOPS (INT8) para aceleración de IA local
◆ SoC Axera AX8850 con CPU octa-core Cortex-A55 a 1.7 GHz
◆ Formato compacto M.2 M-Key 2242 con interfaz PCIe 2.0 ×2 plug-and-play
◆ Memoria integrada de 8 GB LPDDR4x de alta anchura de banda
◆ Soporte para codificación y decodificación de vídeo hasta 8K (H.264/H.265)
◆ Sistema de refrigeración activo con microventilador y disipador en aluminio CNC
◆ Compatible con modelos de IA como CNN, Transformer, CLIP, Whisper y LLMs (p. ej., Llama, Qwen)
◆ Soporte para ejecución local de aplicaciones de IA: visión, voz, traducción y análisis de datos
◆ Módulos de seguridad por hardware (AES, DES, 3DES, SHA-256)
◆ Ideal para SBCs, robótica, NVR/NAS inteligentes y terminales edge
ESPECIFICACIONES
• SoC: Axera AX8850
• CPU: Octa-core Cortex-A55 a 1.7 GHz
• Rendimiento de la NPU: 24 TOPS @ INT8
• Memoria:
- Tipo: LPDDR4x (64-bit)
- Velocidad: 4266 Mbps
- Capacidad: 8 GB
• Almacenamiento: 32 Mbit QSPI NOR Flash (bootloader)
• Vídeo:
- Codificación: 8K @ 30 fps (H.264/H.265)
- Decodificación: hasta 8K @ 30–60 fps (H.264/H.265)
- Procesamiento paralelo: hasta 16 canales 1080p (dependiente de la fuente)
• Interfaz:
- M.2 M-Key 2242
- PCIe 2.0 ×2
• Refrigeración: disipador en aluminio + Microventilador con control inteligente
• Alimentación:
- 3.3 V vía M.2
- Consumo: ~7 W
• Temperatura de funcionamiento: 0 °C a 60 °C
• Dimensiones: 42.6 × 24.0 × 9.7 mm
• Peso: Aproximadamente 14.7 g
NOTAS
• Compatibilidad limitada a sistemas con soporte PCIe M.2 M-Key (puede requerir adaptador en algunas plataformas).
• En Raspberry Pi, pueden existir limitaciones en el uso simultáneo con SSDs vía PCIe.
• El dispositivo puede calentarse durante un funcionamiento intensivo.
⫸ Información adicional (en el sitio web de M5Stack)
⫸ Documentación adicional
⫸ LLM-8850 Card User Guide
