Die Hersteller stehen unter dem Druck, Fehler schneller zu erkennen, Ausschuss zu reduzieren und den Produktionsbetrieb aufrechtzuerhalten, ohne zusätzliches Personal einzustellen. KI-basierte Qualitätskontrollsoftware für die Fertigung hat sich als die praktischste Lösung für diese Herausforderung herausgestellt. Es ist jedoch schwieriger, als die meisten Teams erwarten, diese Software in der Fertigung zuverlässig zum Laufen zu bringen.
Die Herausforderung besteht nicht darin, ein Modell zu entwickeln, das Fehler erkennt. Das gelingt den meisten Teams in einer kontrollierten Umgebung. Die Herausforderung besteht vielmehr darin, dieses Modell auf eingebetteter Hardware am Netzwerkrand einzusetzen, seine Genauigkeit auch bei sich ändernden Produktionsbedingungen aufrechtzuerhalten und es über eine ganze Flotte von Geräten an mehreren Standorten hinweg zu verwalten, ohne dass an jedem Standort ein Datenwissenschaftler vor Ort ist.
Ein kürzlich von Digi International veranstaltetes Webinar mit dem Titel„Closing the Edge AI Gap: From Model Training to Real-World Deployment“ befasste sich umfassend mit diesem Problem. Die gemeinsam mit RBZ Robot Design durchgeführte Veranstaltung nutzte ein automatisiertes Live-System zur visuellen Inspektion, das in einer Bäckerei in Valencia, Spanien, im Einsatz ist, um alle Phasen des Implementierungsprozesses zu veranschaulichen – von der Datenerfassung bis hin zu OTA-Modell-Updates im Feld. Dieser Beitrag beleuchtet die wichtigsten Erkenntnisse und wendet sie auf Implementierungen in der industriellen Qualitätskontrolle an.
Wichtigste Erkenntnisse:
- Um die für die Qualitätskontrolle in der Fertigung erforderliche Genauigkeitsschwelle von über 95 % zu erreichen, ist ein maßgeschneiderter Datensatz erforderlich, der auf der Grundlage Ihrer tatsächlichen Produktionsumgebung erstellt wurde – und nicht auf der Grundlage generischer Open-Source-Bilder.
- Die Wahl des Trainings-Frameworks sollte sich nach dem Accelerator richten, auf dem Sie die Inferenz ausführen möchten. Ein Wechsel des Frameworks während des Projekts ist mit hohem Aufwand verbunden.
- Die Quantisierung reduziert die Modellgröße um etwa das Vierfache und beschleunigt die Inferenz erheblich, führt jedoch zu einem Genauigkeitsverlust von 5 bis 10 %. Ein quantisierungsorientiertes Training ist der effektivste Weg, um damit umzugehen.
- Die Inferenzleistung variiert je nach Hardwareklasse erheblich. Die interne NPU des „ Digi ConnectCore “ 95 bietet eine etwa 27-mal schnellere Inferenz als die CPU, während der externe RBZ ARA240-Beschleuniger diese Zeit auf unter 2 Millisekunden verkürzt.
- Durch die Containerisierung lassen sich Edge-AI-Bereitstellungen portieren, versionieren und aktualisieren, ohne dass die darüberliegende Anwendungsebene berührt wird.
- Digi ConnectCore Cloud Services bietet OTA-Modell-Updates, Fernüberwachung und einen kontinuierlichen Verbesserungszyklus, der von einem Gerät bis zu Tausenden skalierbar ist.
- Der „ Digi ConnectCore “ 95 ist so konzipiert, dass er einen integrierten Upgrade-Pfad bietet. Der Wechsel von der internen NPU zu einem externen Beschleuniger erfordert lediglich ein Container-Update und keinen Hardware-Austausch.
Was KI-Qualitätskontrollsysteme in der Fertigung tatsächlich erfordern
Die KI-gestützte Qualitätskontrolle in der Fertigung stützt sich auf maschinelles Sehen: Kameras überwachen die Produktionslinie, und ein trainiertes Modell analysiert jedes Einzelbild, um Produkte zu klassifizieren und Fehler zu kennzeichnen. Das klingt einfach. In der Praxis erfordert es jedoch eine eng aufeinander abgestimmte Kombination aus Hardware, Software und betrieblicher Infrastruktur.
Herkömmliche automatisierte Prüfsysteme basierten häufig auf PC-basierten Rechenlösungen. Dieser Ansatz funktioniert zwar, ist jedoch pro Einheit teuer und lässt sich nur schwer warten und skalieren. Eingebettete Edge-KI verändert die Wirtschaftlichkeit. Die Inferenz läuft lokal auf einem eingebetteten Gerät mit dediziertem KI-Chip. Das System ist kompakt und für den industriellen Einsatz ausgelegt.
Das „Digi ConnectCore 95 SOM“ wurde genau für diesen Anwendungsfall entwickelt. Basierend auf dem NXP i.MX 95-Prozessor bietet „ Digi ConnectCore 95“ alles, was ein OEM benötigt, um ein serienreifes Bildverarbeitungs-Prüfsystem zu entwickeln, darunter leistungsstarke Cortex-A55-Kerne, eine integrierte neuronale Verarbeitungseinheit (NPU), einen Bildsignalprozessor (ISP) sowie Unterstützung für bis zu acht Kameraeingänge. Ein PCIe-Bus ermöglicht zudem den Anschluss externer neuronaler Netzwerkbeschleuniger für Anwendungen, die einen höheren KI-Durchsatz erfordern, wie der Einsatz bei der Backwarenprüfung mit dem RBZ ARA240-Modul zeigt.
Der vollständige Entwicklungsworkflow für die Qualitätskontrolle im Bereich KI
Für Teams, die ihre erste Edge-AI-Implementierung planen, ist es unerlässlich, den gesamten Arbeitsablauf zu verstehen. Die folgenden Schritte spiegeln den tatsächlichen Prozess wider, der im RBZ Robot Design-Bäckerei-Projekt zum Einsatz kam. Im Großen und Ganzen gelten sie auch für andere Implementierungen von KI-basierten Qualitätskontrollsystemen in der Fertigung.
1. Datenerhebung und Annotation
Bei diesem Schritt wird der erforderliche Aufwand bei den meisten Projekten unterschätzt. Mit Open-Source-Bilddatensätzen lassen sich Modelle erstellen, die eine Genauigkeit von 75 bis 80 % erreichen, doch für die Qualitätskontrolle in der Fertigung sind in der Regel 95 % oder mehr erforderlich. Um diesen Schwellenwert zu erreichen, muss ein maßgeschneiderter Datensatz erstellt werden, der die tatsächliche Produktionsumgebung widerspiegelt: Ihre Produkte, Ihre Beleuchtungsverhältnisse, Ihre Fehlerarten.
Es dauerte mehrere Monate, bis im Rahmen des Bäckereiprojekts verwertbare Daten gesammelt werden konnten. Da die Bäckerei je nach Nachfrage an unterschiedlichen Tagen verschiedene Brotsorten herstellt, musste der Datensatz ein breites Spektrum an Produkten und Bedingungen abdecken. Dies erforderte wochenlange, kontinuierliche Videoaufnahmen vor Ort, gefolgt von der Extraktion einzelner Bilder und der manuellen Kennzeichnung in Zusammenarbeit mit den Mitarbeitern der Bäckerei, die erkennen konnten, was tatsächlich einen Fehler darstellte.
Die praktische Erkenntnis: Die Datenerhebung sollte früher beginnen, als es zunächst notwendig erscheint, und die Teams sollten von Anfang an damit rechnen, dass sich der Datensatz weiterentwickelt, sobald die Geräte im Einsatz neue Randfälle aufdecken.
2. Auswahl des Schulungsrahmens
Das für das Training des Modells verwendete Framework sollte danach ausgewählt werden, wo es letztendlich ausgeführt werden soll. Wenn der Zielbeschleuniger TensorFlow Lite erfordert, lässt sich durch ein Training in TensorFlow von Beginn an eine spätere aufwendige Konvertierung vermeiden. Für Beschleuniger, die ONNX oder PyTorch unterstützen, stehen andere Optionen zur Verfügung.
Für das Inspektionssystem für Bäckereien entschied sich RBZ Robot Design für PyTorch und ONNX, da damit sowohl die CPU als auch der externe ARA240-Beschleuniger angesprochen werden konnten. Zur Validierung auf der internen NPU des „ Digi ConnectCore 95“ wurde ein separates TensorFlow-Modell erstellt. Die Entscheidung für das Framework prägte jeden nachfolgenden Schritt, und eine Umkehrung dieser Entscheidung mitten im Projekt wäre mit hohen Kosten verbunden gewesen.
3. Schulung zum Cloud-Modell
Das GPU-basierte Cloud-Training liefert in der Regel ein Gleitkomma-Modell. Dieser Schritt ist für die meisten KI-Teams der bekannteste Teil der Pipeline, doch ein Aspekt, der regelmäßig übersehen wird, ist die Registrierung von Checkpoints. Jeder Trainingsdurchlauf – einschließlich seiner Hyperparameter und Ergebnisse – sollte protokolliert und gespeichert werden. Wenn ein Modell sechs Monate nach der Bereitstellung in der Praxis Abweichungen zeigt, ist die Möglichkeit, das Problem auf einen bestimmten Trainingszustand zurückzuführen, von unschätzbarem Wert.
4. Modelloptimierung für die Inferenz am Netzwerkrand
Dies ist der Schritt, der Edge-KI von Cloud-KI unterscheidet. Modelle, die auf einer eingebetteten NPU ausgeführt werden, müssen von einer 32-Bit-Gleitkommadarstellung in eine 8-Bit-Ganzzahlendarstellung quantisiert werden. Der Nutzen ist erheblich: eine etwa vierfache Verringerung der Modellgröße, geringere Anforderungen an die Speicherbandbreite und eine schnellere Inferenz. Die Quantisierung führt jedoch zu einem Genauigkeitsverlust von 5 bis 10 % und manchmal sogar noch mehr.
Der effektivste Weg, diesen Verlust zu bewältigen, ist das quantisierungsorientierte Training, bei dem der Trainingsprozess selbst so angepasst wird, dass er die Präzisionsverringerung berücksichtigt, die bei der Inferenz auftritt. Für den NXP i.MX 95 und die Plattform „Digi ConnectCore 95“ bietet das eIQ-Software-Framework von NXP die komplette Toolkette: Quantisierung, Wiederherstellung der Genauigkeit und Bereitstellung der Inferenz über alle drei Rechenebenen hinweg.
Ein Architekturprinzip, das sich beim Bäckerei-Projekt bewährt hat: Kleinere Modelle lassen sich sauberer quantisieren als größere. Die Aufteilung einer komplexen Aufgabe in zwei einfachere Modelle – beispielsweise eines für die Lokalisierung und eines für die Klassifizierung – lässt sich unter Umständen leichter für den Edge-Einsatz optimieren als die Entwicklung eines einzigen Modells, das beide Aufgaben abdeckt.
5. Verpackung in Behältern
Sobald das Modell optimiert ist, wird es zusammen mit seiner Inferenz-Laufzeitumgebung, den Abhängigkeiten und der Konfiguration in einen Container gepackt. Die Containerisierung ist mittlerweile Standard bei Edge-KI in der Produktion. Der Container ist portabel, versioniert und reproduzierbar. Außerdem entkoppelt er die Anwendungsschicht von der Inferenzschicht: Wenn der Zielbeschleuniger von der internen NPU auf den ARA240 wechselt, sorgt ein Containerwechsel für den Übergang, ohne die darüber liegende Anwendung zu beeinträchtigen.
Digi ConnectCore Cloud Services unterstützt die Containerformate LXC, Docker und Podman. Der gepackte Container wird in das cloudbasierte Repository übertragen, wo er als Artefakt dient, das in der gesamten Geräteflotte im Feld bereitgestellt, überwacht und aktualisiert wird.
Die Wahl der richtigen Inferenz-Hardware
Eine wichtige Erkenntnis aus der Demo zur Bäckerei-Inspektion war, wie stark die Inferenzleistung je nach Inferenz-Hardware-Stufe variiert und wie sehr die richtige Wahl von der jeweiligen Anwendung oder dem Anwendungsfall abhängt. Die folgenden Abbildungen stammen aus der Live-Demonstration, bei der in allen drei Konfigurationen dasselbe Modell verwendet wurde.
| Beschleuniger |
Inferenzzeit |
Optimale Passform |
| CPU (NXP i.MX 95) |
1,6 Sekunden |
Prototypenbau; kleine Abzugmodelle |
| Integrierte NPU (NXP Neutron, 2 TOPS) |
60 Millisekunden |
Die meisten Anwendungen in der industriellen Inspektion |
| Externe NPU (RBZ ARA240, bis zu 16 TOPS) |
1,8 Millisekunden |
Hochdurchsatz-, Multi-Modell- oder wachstumsorientierte Bereitstellungen |
Die CPU ist der richtige Ausgangspunkt während der Entwicklung. Sie ermöglicht schnelle Iterationen und erfordert keine spezielle Optimierung. Die interne NPU des „Digi ConnectCore s 95“ bietet eine etwa 27-fache Leistungssteigerung gegenüber der CPU, was für viele Anwendungsfälle der automatisierten Qualitätsprüfung ausreicht. Der RBZ ARA240 bietet bis zu 40 TOPS mit 16 GB dediziertem RAM über PCIe und unterstützt neben Bildverarbeitungsaufgaben auch große Sprachmodelle. Dies ist ein wichtiger Aspekt für Teams, die an der Entwicklung autonomer Fertigungssysteme arbeiten.
Die Genauigkeit war bei allen drei Konfigurationen in der Bäckerei-Demo gleichbleibend. Der Quantisierungsansatz lieferte konsistente Ergebnisse, unabhängig davon, ob er auf der CPU, der internen NPU oder dem ARA240 ausgeführt wurde. Die Anwendungsschicht hatte keinen Einblick darin, welcher Beschleuniger gerade verwendet wurde.
Ein praktischer Implementierungsweg: Die ersten Geräte werden mit der internen NPU ausgeliefert, wobei der ARA240-Steckplatz auf der auf dem „ Digi ConnectCore 95“ basierenden Hardware verfügbar ist. Wenn die KI-Anforderungen steigen – beispielsweise durch mehr Modelle, größere Modelle und einen höheren Durchsatz –, erfordert die Bereitstellung des externen Beschleunigers lediglich eine Container-Aktualisierung und keinen vollständigen Hardware-Austausch.
Flottenmanagement mit den Cloud-Diensten von „ Digi ConnectCore “
Die Inbetriebnahme eines einzelnen Bildverarbeitungs-Prüfsystems ist mit manuellen Prozessen noch zu bewältigen. Die Inbetriebnahme von fünfzig solchen Systemen an mehreren Standorten, deren Modelle angesichts der Weiterentwicklung von Produkten und Fehlern stets auf dem neuesten Stand bleiben müssen, erfordert jedoch eine geeignete betriebliche Infrastruktur.
Digi ConnectCore Cloud Services bildet das MLOps-Rückgrat für Edge-AI-Bereitstellungen im Produktionsmaßstab. Zu den wichtigsten Funktionen gehören die folgenden.
Over-the-Air-Container-Updates. Neue Modellversionen können auf einzelne Geräte, Gerätegruppen oder den gesamten Bestand übertragen werden. Durch schrittweise Einführungen können Teams ein neues Modell zunächst an einer Pilotgruppe testen, bevor es flächendeckend eingeführt wird. Damit werden auch die Anforderungen an OTA-Software- und Sicherheitsupdates erfüllt, die mittlerweile in Cybersicherheitsvorschriften wie dem EU-Cyberresilienzgesetz verankert sind.
Fernüberwachung und Beobachtbarkeit. Jede bereitgestellte „Digi ConnectCore 95 SOM“-Einheit übermittelt Betriebsdaten an das Cloud-Dashboard: CPU-Auslastung, RAM-Nutzung, Netzwerk-E/A sowie Anwendungsmetriken. In der Bäckerei-Demo zeigte das Dashboard die Bildrate pro Sekunde, die Inferenzzeit pro Gerät, die Gesamtzahl der Scans und die Fehlererkennungsraten an – alles aus der Ferne abrufbar. Ein Technikerbesuch war nicht erforderlich.
Kreislauf der kontinuierlichen Verbesserung. Wenn ein Modell im Einsatz von der Zielvorgabe abweicht – die Genauigkeit sinkt, neue Fehlerarten treten auf, die Umgebungsbedingungen ändern sich –, können die Geräte so konfiguriert werden, dass sie Betriebsdaten an die Cloud zurücksenden. Diese Daten fließen in die Trainingspipeline zurück, ein neues Modell wird trainiert und gepackt, und der aktualisierte Container wird an die Geräteflotte übertragen. Dieser Zyklus läuft unabhängig davon ab, ob die Flotte aus einem einzigen Gerät oder aus Tausenden besteht.
Compliance-Vorlagen. Das Dashboard verfügt über eine Vorlagenfunktion, die Mindestversionen für Firmware und Modelle festlegt. Geräte überprüfen die Vorlage, sobald sie online gehen, und aktualisieren sich automatisch, falls sie die Anforderungen nicht erfüllen. Dies ist besonders nützlich für Geräte, die möglicherweise über längere Zeiträume offline waren, und stellt sicher, dass alle Geräte die Anforderungen erfüllen.
Sicherheit bei der Einführung industrieller KI-Anwendungen
In industriellen Qualitätssicherungsumgebungen ist es erforderlich, dass auf der Produktionshardware ausschließlich verifizierte und signierte Workloads ausgeführt werden. Nicht autorisierter Code auf einem Gerät, das eine Produktionslinie steuert oder überwacht, stellt ein inakzeptables Risiko dar.
Digi TrustFence bietet hardwarebasierte Sicherheit für „ Digi ConnectCore “ 95 und stellt sicher, dass nur verifizierte, signierte Workloads ausgeführt werden können. „Digi ConnectCore Cloud Services“ ist nach SOC 2 Typ 2 zertifiziert, und die gesamte Kommunikation zwischen Gerät und Cloud erfolgt über zertifikatsbasierte Authentifizierung und TLS-Verschlüsselung. Diese Sicherheitsfunktionen sind in jedem „ Digi ConnectCore “ 95 SOM ohne zusätzliche Kosten enthalten.
Erste Schritte
Hier finden Sie einige hervorragende Ressourcen für den Einstieg in Ihr KI-/ML-basiertes Edge-KI-Projekt:
- Das Entwicklungskit „Digi ConnectCore 95“ ist bei Mouser und Digi-Key erhältlich. Es wird mit einer Voll Digi ConnectCore -Cloud-Services-Lizenz ausgeliefert, sodass alle in diesem Beitrag beschriebenen Funktionen (Container-Management, OTA-Updates, Flottenüberwachung und der kontinuierliche Verbesserungskreislauf) bereits ab dem ersten Gerät zur Verfügung stehen.
- Teams, die den externen Beschleunigerpfad evaluieren, können den RBZ ARA240 über PCIe an das Entwicklungskit „ Digi ConnectCore 95“ anschließen. Wenden Sie sich an das RBZ Robot Design-Team, um die Anwendungsanforderungen zu besprechen.
- Sehen Sie sich das On-Demand-Webinar „Die Lücke bei Edge-KI schließen: Vom Modelltraining bis zum Einsatz in der Praxis“ an, um eine Live-Demonstration der gesamten Pipeline zu erleben, einschließlich des Bäckerei-Inspektionssystems im Betrieb.
- Laden Sie das Datenblatt zu „Digi ConnectCore 95“ herunter, um die vollständigen Spezifikationen der Plattform einzusehen, oder entdecken Sie das gesamte Portfolio an Embedded-Lösungen unterDigi ConnectCore .
- Besuchen Sie das Dokumentationsportal zu „Digi ConnectCore .95“, um weitere Informationen zu erhalten.
Häufig gestellte Fragen zu Edge-AI-Implementierungen
Was ist die Mindestgenauigkeit für die KI-Qualitätskontrolle in der Fertigung, und wie erreiche ich diese?
Die meisten Anwendungen zur Qualitätskontrolle in der Fertigung erfordern eine Genauigkeit von 95 % oder mehr. Um dieses Niveau zu erreichen, ist ein maßgeschneiderter Datensatz erforderlich, der auf Ihrer tatsächlichen Produktionsumgebung basiert – und nicht auf generischen Open-Source-Bilddatensätzen, deren Genauigkeit in der Regel bei maximal 75 bis 80 % liegt. Das bedeutet, dass Daten vor Ort erhoben werden müssen, die Ihre spezifischen Produkte, Lichtverhältnisse und Fehlerarten abdecken, und dass diese in Zusammenarbeit mit Mitarbeitern gekennzeichnet werden müssen, die wissen, was einen echten Fehler ausmacht.
Wie lange dauert die Datenerfassung bei einem Edge-AI-Inspektionsprojekt in der Regel?
Es dauert länger, als die meisten Teams erwarten. Die in diesem Beitrag beschriebene Implementierung in der Bäckerei erforderte mehrere Monate der Datenerfassung, darunter wochenlange kontinuierliche Videoaufzeichnungen vor Ort. Der Zeitplan verlängerte sich zudem dadurch, dass in der Anlage an verschiedenen Tagen unterschiedliche Brotsorten hergestellt werden, was die Erfassung einer Vielzahl von Bedingungen erforderte. Teams sollten mit der Datenerfassung früher beginnen, als es ihnen notwendig erscheint, und einkalkulieren, dass der Datensatz im Laufe der Zeit anwachsen wird, da die eingesetzten Geräte neue Randfälle aufdecken.
Wie viel Genauigkeit verliere ich, wenn ich ein Modell für die Inferenz am Edge optimiere?
Die Quantisierung von 32-Bit-Gleitkommazahlen auf 8-Bit-Ganzzahlen, die für die Ausführung von Modellen auf einer eingebetteten NPU erforderlich ist, führt in der Regel zu einem Genauigkeitsverlust von 5 bis 10 % – manchmal sogar mehr. Ein quantisierungsorientiertes Training, bei dem der Trainingsprozess im Vorfeld an diesen Genauigkeitsverlust angepasst wird, ist der effektivste Weg, diesen Verlust zu minimieren. Im Rahmen des Bäckerei-Projekts konnte mithilfe dieses Ansatzes eine konsistente Genauigkeit über alle drei Hardwarekonfigurationen (CPU, interne NPU und externe NPU) hinweg gewährleistet werden.
Wie unterscheiden sich die Inferenzleistungen der CPU, der internen NPU und der externen NPU beim „ Digi ConnectCore 95“?
Die Unterschiede sind erheblich. Die Ausführung auf der CPU (NXP i.MX 95) dauert etwa 1,6 Sekunden pro Inferenz, was für die Prototypenentwicklung angemessen, für die meisten Produktionsprüflinien jedoch zu langsam ist. Die interne NPU (NXP Neutron, 2 TOPS) reduziert diese Zeit auf etwa 60 Millisekunden – eine etwa 27-fache Verbesserung, die für die meisten industriellen Prüfanwendungen ausreicht. Die externe RBZ ARA240 (bis zu 16 TOPS) verkürzt die Inferenzzeit auf etwa 1,8 Millisekunden und eignet sich somit für Anwendungen mit hohem Durchsatz oder den Einsatz mehrerer Modelle.
Muss ich die Hardware austauschen, wenn meine KI-Anforderungen nach der ersten Bereitstellung steigen?
Nr. Digi ConnectCore 95 verfügt über einen integrierten Upgrade-Pfad. Die ersten Geräte können mit der internen NPU ausgeliefert werden, wobei der PCIe-Steckplatz für den externen Beschleuniger RBZ ARA240 verfügbar ist. Wenn die Anforderungen steigen, beispielsweise durch das Hinzufügen weiterer oder größerer Modelle oder durch einen höheren Durchsatz, ist für den Einsatz des externen Beschleunigers lediglich ein Container-Update erforderlich und kein Hardware-Austausch.
Welches Trainingsframework sollte ich für ein Edge-AI-Projekt verwenden?
Die Wahl des Frameworks sollte sich nach dem Beschleuniger richten, auf dem Sie die Inferenz ausführen möchten. Wenn die Zielhardware TensorFlow Lite erfordert, lässt sich durch das Training in TensorFlow von Anfang an eine spätere aufwendige Konvertierung vermeiden. Für das Bäckerei-Projekt entschied sich RBZ Robot Design für PyTorch und ONNX, um sowohl die CPU als auch den ARA240-Beschleuniger anzusprechen, wobei ein separates TensorFlow-Modell erstellt wurde, um die Validierung gegenüber der internen NPU des „ Digi ConnectCore “ 95 durchzuführen. Ein Wechsel des Frameworks während des Projekts ist mit hohen Kosten verbunden, daher sollte die Entscheidung frühzeitig getroffen werden.
Wie werden Modellaktualisierungen auf die Geräte im Einsatz übertragen?
Digi ConnectCore Cloud Services übernimmt die drahtlosen (OTA) Container-Updates. Neue Modellversionen können auf einzelne Geräte, Gruppen von Geräten oder eine gesamte Flotte übertragen werden. Durch schrittweise Einführungen können Teams ein neues Modell zunächst an einer Pilotgruppe testen, bevor es in größerem Umfang bereitgestellt wird. Geräte können zudem mit Compliance-Vorlagen konfiguriert werden, die Mindestversionen für Firmware und Modelle festlegen. Automatische Updates werden ausgelöst, sobald ein Gerät online geht und festgestellt wird, dass es die Compliance-Anforderungen nicht erfüllt.
Wie sieht der Kreislauf der kontinuierlichen Verbesserung in der Praxis aus?
Wenn ein im Einsatz befindliches Modell von der Zielvorlage abweicht – sei es aufgrund neuer Fehlerarten, Produktänderungen oder sich ändernder Umgebungsbedingungen –, senden die Geräte Betriebsdaten an die Cloud zurück. Diese Daten fließen in die Trainingspipeline ein, ein neues Modell wird trainiert und in einen Container gepackt, und der aktualisierte Container wird per OTA-Update an die Geräteflotte übertragen. Dieser Zyklus funktioniert unabhängig davon, ob die Flotte aus einem einzigen Gerät oder aus Tausenden besteht.
Welche Sicherheitsmaßnahmen schützen die auf „ Digi ConnectCore “ 95 ausgeführten KI-Workloads?
Digi TrustFence bietet hardwaregestützte Sicherheit und stellt sicher, dass auf dem Gerät nur verifizierte, signierte Workloads ausgeführt werden können. Die „ Digi ConnectCore “-Cloud-Dienste sind nach SOC 2 Typ 2 zertifiziert, und die gesamte Kommunikation zwischen Gerät und Cloud erfolgt über zertifikatbasierte Authentifizierung und TLS-Verschlüsselung.
Warum empfiehlt der Blog, komplexe Aufgaben in zwei kleinere Modelle aufzuteilen, anstatt ein einziges größeres Modell zu erstellen?
Kleinere Modelle lassen sich sauberer quantisieren als größere. Ein einziges Modell, das sowohl die Lokalisierung als auch die Klassifizierung übernimmt, lässt sich unter Vermeidung nennenswerter Genauigkeitsverluste oft nur schwer für die Inferenz am Edge optimieren. Die Aufteilung der Aufgabe in zwei kleinere Modelle – eines für die Lokalisierung und eines für die Klassifizierung – führt in der Regel zu besseren Quantisierungsergebnissen und lässt sich im Optimierungsprozess leichter handhaben.