IP-Metis: Edge-KI-Inferenz
Ingenieurpraxis an der TUM – Bild- und Kommunikationsmodelle auf einem Raspberry Pi 5 mit Axelera-Metis-M.2-Beschleuniger, reproduzierbar mit der CPU verglichen.
In meiner Ingenieurpraxis an der TUM habe ich einen Axelera-Metis-M.2-Beschleuniger auf einem Raspberry Pi 5 in Betrieb genommen und CPU und Metis für mehrere Computer-Vision-Workloads verglichen.
Umfang
- Inbetriebnahme und Debugging des Beschleunigers auf dem Raspberry Pi 5
- Vergleich von Computer-Vision-Modellen auf CPU und Metis
- Ein 6G-relevantes Kommunikationsmodell von Training über ONNX-Export bis zu Quantisierung und Kompilierung für Metis
- Benchmark- und Auswertungswerkzeuge in Python und C++
Aktuell
Das Projekt läuft als Werkstudententätigkeit weiter, mit Fokus auf einem reproduzierbaren CPU-/Metis-Vergleich inklusive Leistungsmessung. Der Code ist TUM-intern und nicht öffentlich.