KI-Berechnung ist mehr als nur der Haupt-SoC! Ein klarer Blick auf die tatsächliche Rolle des RK1820 im RK3588-System

Warum sprechen immer mehr Edge-Geräte über NPUs und Coprozessoren? Der RK3588 ist bereits ein leistungsstarkes 6 TOPS (INT8) SoC, doch in komplexen Szenen wie Multi-Task-Inferenz, Modellparallelität und Video-KI-Analysen ist die Rechengrenze eines einzelnen Chips immer noch vorhanden. RK1820 wurde genau dafür geschaffen, diesen Teil der Last zu übernehmen und die „Rechenangst“ des Haupt-SoC zu lindern. In Edge-AI-Geräten kämpft der Host-Prozessor nicht mehr allein; wenn KI-Aufgaben die Planungsfähigkeit der traditionellen CPU/NPU übersteigen, tritt der Coprozessor leise ein und übernimmt einen Teil der intelligenten Arbeitslast.

RK1820 ist ein Coprozessor, der speziell für KI-Inferenz und Rechenerweiterung entwickelt wurde; er lässt sich flexibel mit Host-SoCs wie RK3588 und RK3576 kombinieren und kommuniziert effizient über PCIe- oder USB-Schnittstellen mit ihnen.

Im RK3588 + RK1820-System wird die KI-Aufgaben-Pipeline in eine vierstufige Architektur zerlegt:
Anwendung → Middleware → Coprozessor-Ausführung → Steuerung & Präsentation.
RK3588-Host: Handhabt die Aufgabenplanung, Datenvorverarbeitung und Ergebnis-Ausgabe und steuert den gesamten Workflow.
RK1820-Coprozessor: Dediziert für High-Compute-KI-Inferenz, gekoppelt an den Host über PCIe, bildet ein „Light-Control + Heavy-Compute“-Zusammenarbeitsmodell.

Die Anwendungsebene ist der Ausgangspunkt jeder KI-Aufgabe; sie übersetzt Benutzeranforderungen – Bildanalysen, Objekterkennung, Edge-seitige LLM-Fragen und Antworten usw. – in systemausführbare Aufgabenbefehle und übergibt sie über standardisierte APIs an die Middleware-Ebene. Diese Ebene wird vollständig vom RK3588-Host gehandhabt, der die Benutzerinteraktion, die Geschäftslogik und die Peripheriedaten verwaltet.

Aufgabenempfang: Erfasst Benutzerbefehle über Kameras, Touchpanels, Ethernet, UART usw.

• Smarte Sicherheit: Personen in Videobildern erkennen
• Industrielle Inspektion: Oberflächenfehler an Produkten identifizieren
• Edge LLM: Spracheingabe in Text umwandeln und eine Frage-und-Antwort-Aufgabe bilden

Befehlsstandardisierung: Wandelt unstrukturierte Eingaben in strukturierte Aufgabenparameter um

• Vision-Aufgabe: Eingangsauflösung, Modellversion, Ausgabevorgaben
• LLM-Aufgabe: Eingabe-Token, Modellversion, maximale Ausgabelänge

Die Middleware-Ebene ist der kollaborative Hub: Sie beurteilt jede Aufgabe, weist Ressourcen zu, verarbeitet Daten vor und steuert den Busverkehr. Sie entscheidet, ob die Aufgabe auf dem Host ausgeführt oder an den Coprozessor ausgelagert wird.
Nur RK3588; RK1820 ist weder an der PCIe-Konfiguration noch am Interrupt-Management beteiligt – es führt lediglich die vom Host gesendeten Inferenzjobs aus.

Aufgabenklassifizierung und -planung

• Lokale Verarbeitung: Aufgaben mit geringem Rechenaufwand oder Latenz (Bildskalierung, leichte KI-Inferenz) werden von RK3588 CPU/NPU/RGA verarbeitet.
• Auslagerung an RK1820: Aufgaben mit hohem Rechenaufwand (YOLOv8-Mehrklassen-Erkennung, LLM-Inferenz, semantische Segmentierung) werden an RK1820 gesendet. Sobald RK1820 übernimmt, werden die Host-CPU/NPU für andere Arbeiten freigegeben.

Datenvorverarbeitung

• Vision: Zuschneiden, Entrauschen, Normalisieren, Kanal neu anordnen.
• Text: Tokenisieren, Auffüllen, Codieren.

Buskommunikationskontrolle

• Stellt eine Verbindung über PCIe oder USB3 her.
• Datenübertragung verwendet DMA, keine CPU-Intervention.
• Gibt Inferenz-Steuerbefehle aus: NPU starten, Präzision einstellen, Fertigstellungs-Interrupt auslösen.

Diese Ebene ist der Inferenzkern, der ausschließlich vom RK1820-Coprozessor angetrieben wird und sich der High-Compute-KI-Inferenz widmet.
RK1820 aktiv; RK3588 greift nicht in die Inferenz ein, sondern wartet nur auf Ergebnisse. Timeouts oder Ausnahmen werden von RK3588 über PCIe-Reset-Befehle behandelt.

Aufgabenempfang und -vorbereitung

Empfängt Daten, Modellgewichte und Befehle, die von RK3588 gesendet werden; schreibt sie in den lokalen High-Bandwidth-DRAM, lädt das Modell und konfiguriert die NPU.

NPU-Inferenzberechnung

• Objekterkennung (YOLOv8n): conv → BN → aktivieren → Pool → Nachbearbeitung NMS.
• LLM-Inferenz (Qwen2.5 3B): Eingabe-Token vorab ausfüllen → Token-für-Token-Generierung decodieren.
• Inferenzoptimierung: Operator-Fusion, Gewichtskompression.

Ergebnisrückgabe

• Gibt Begrenzungsrahmenkoordinaten, Klassen-IDs und Konfidenzwerte für die Erkennung zurück.
• Gibt Token-Array für das LLM zurück.

Diese Ebene ist der Endpunkt jeder KI-Aufgabe: Sie wandelt die Roh-Inferenz-Ergebnisse von RK1820 in visuelle oder geschäftsfertige Ausgaben um und schließt die Schleife.
RK3588 aktiv; RK1820 liefert nur die Roh-Inferenzdaten.

Nachbearbeitung der Ergebnisse

• Koordinaten auf die ursprüngliche Bildgröße zurückführen.
• Token in natürliche Sprache decodieren.
• Fehler bei der industriellen Inspektion zählen.

Systemsteuerung & Feedback-Ausgabe

• Smarte Sicherheit: Video mit Erkennungsüberlagerungen anzeigen, Alarme auslösen.
• Industrielle Inspektion: Befehlszeile zum Ablehnen fehlerhafter Produkte.
• Edge LLM: Text + Sprachansage anzeigen.

Wert der Synergie: nicht nur schneller, sondern intelligenter

Einfach ausgedrückt: RK3588 führt die Show aus und hält alles auf Kurs, während RK1820 rohe Rechenleistung liefert; zusammen machen sie Edge-AI-Geräte „intelligenter, schneller und problemlos“.
Folgen Sie uns für weitere RK1820-Nachrichten und SDK-Updates, neue Tutorials und sofort einsatzbereite Demos.