Edge ML

edge-ml ist eine vollständig verwaltete SaaS-Lösung für die Bereitstellung, Ausführung und Überwachung von Machine-Learning-Modellen direkt auf Edge-Geräten.

Beschreibung

edge-ml ist eine vollständig verwaltete SaaS-Lösung (Software as a Service) für die Bereitstellung, Ausführung und Überwachung von Machine-Learning-Modellen direkt auf Edge-Geräten. Sie basiert auf einer am KIT entwickelten Open-Source- und browserbasierten Toolchain für Machine Learning auf Mikrocontrollern. Die Plattform wurde für Inferenz mit geringer Latenz und effiziente Verarbeitung auf dem Gerät entwickelt und bietet eine skalierbare Infrastruktur, beschleunigte Laufzeiten und robuste MLOps-Workflows, die speziell auf KI am Netzwerkrand zugeschnitten sind. Sie eliminiert die Komplexität der Verwaltung gerätespezifischer integrierter Entwicklungsumgebungen (IDE) und ermöglicht Echtzeit-ML-Berechnungen, die vertraulich sind und den Datenschutz wahren, ohne auf Cloud-Roundtrips auf kostengünstigen Mikrocontrollern angewiesen zu sein.

Zielgruppen

• Unternehmen oder Forscher:innen, die KI-Workloads auf verteilten oder ressourcenbeschränkten Geräten ausführen möchten.
• Entwickler:innen und ML-Ingenieur:innen, die automatisierte Bereitstellungspipelines für Edge-Inferenz benötigen.
• Unternehmen, die aus Datenschutz-, Bandbreiten- oder regulatorischen Gründen die Datenübertragung einschränken müssen.

So funktioniert es

Im Mittelpunkt von edge-ml steht unser integrierter Prozess: Mit wenigen einfachen Schritten können Sie mit edge-ml Daten aufzeichnen, Samples kennzeichnen, Modelle trainieren und validiertes eingebettetes maschinelles Lernen direkt vom Webbrowser auf den Edge bereitstellen.

edge-ml erfordert nur minimale Initialisierung und unterstützt das Hochladen in Echtzeit oder in großen Mengen von „Edge Devices“. Vorab aufgezeichnete Daten können als CSV-Dateien über eine einfache Drag-and-Drop-Oberfläche in den edge-ml-Cloud-Speicher übertragen werden. edge-ml AUTO führt eine neuronale Architektursuche durch, um das beste neuronale Netzwerk für Ihren Anwendungsfall zu finden. (Diese Funktion ist derzeit nur für Alpha-Benutzer:innen auf Anfrage verfügbar.)

edge-ml funktioniert nach einem einfachen Lebenszyklus:

• Sammeln – Nutzen Sie unsere Open-Source-Bibliotheken, um Daten zu sammeln und an die edge-ml-Cloud zu übertragen.
• Verwalten – Verwalten und löschen Sie Datensätze oder synchronisieren Sie verschiedene Sensorströme.
• Beschriften – Verwenden Sie das webbasierte Labelling-Tool, um Datenbeschriftungen und Anmerkungen hinzuzufügen oder zu verfeinern.
• Trainieren – Trainieren Sie ressourceneffiziente, einbettbare Modelle mit Cloud- und HPC-basierten Rechenressourcen.
• Validieren – Erhalten Sie detaillierte Berichte über die Leistungskennzahlen des Modells.
• Bereitstellen – Portieren Sie Ihr optimiertes Edge-Modell zurück auf die eingebettete Plattform..

Anwendungen

Unser SaaS-Angebot ist besonders wertvoll für Unternehmen mit Anwendungsfällen wie:

• Geräteinterne Erkennung von Maschinenstatus/Ausfällen
• Mensch-Maschine-Interaktion und Benutzerwahrnehmung (z. B. Gesten, Aktivitäten)

Zugang

Beta-Zugang verfügbar über https://beta.edge-ml.org

Haftungsausschluss: Bitte beachten Sie, dass edge-ml sich noch in der Entwicklung befindet und sich in der Beta-Phase befindet. HammerHAI kann keine Garantie für die Qualität der Dienstleistung übernehmen. Bitte kontaktieren Sie uns für produktionsreife Implementierungen.

Angeboten von

Kontakt

Finanzierung

• Der Dienst wird über HammerHAI (European High Performance Computing Joint Undertaking, Fördervereinbarung Nr. 101234027) kostenlos angeboten.
• Der Dienst wurde mit Unterstützung des Landes Baden-Württemberg im Rahmen des Kompetenzzentrums AI Engineering und des BMFTR im Rahmen des Smart Data Innovation Lab entwickelt.