ARCHITECTURE Intel XPU

SGLang v0.5.15 erweitert die XPU-Ausführung und dokumentiert Grenzen seiner Graph-Tests

SGLang v0.5.15 ergänzt XPU-Graphen und Speculative Decoding. Die Änderungen dokumentieren auch eine Grenze der Graph-Aufzeichnung im Intel-Testbackend.

Schematische Darstellung von Decode-Graphen, abschnittsweisem Prefill und zuschaltbaren XPU-Graphen.
Schematische Darstellung von Decode-Graphen, abschnittsweisem Prefill und zuschaltbaren XPU-Graphen.
Die XPU-Erweiterungen dieser Version3KAPITEL

Die XPU-Erweiterungen dieser Version

Die Release Notes von SGLang v0.5.15 nennen Speculative Decoding auf XPU, Intel-Quantisierung und Arbeiten an XPU-Graphen. Hinzu kommt XPU-Profiling im Offline-Durchsatzbenchmark. Das sind getrennte Änderungen; für die Einordnung zählen deshalb das gewählte Modell und sein konkreter Ausführungspfad.

Graph-Aufzeichnung für Decode und Prefill

Pull Request #29053 führt auf Intel XPU die Aufzeichnung und Wiederholung eines vollständigen Decode-Graphen sowie abschnittsweisen Prefills ein. Er ergänzt XPU-Graph-Runner, Puffer für Attention-Metadaten und einen Test mit Qwen2.5-1.5B. Das erklärte Ziel: aufgezeichnete Abläufe wiederzuverwenden, statt dieselben Schritte wiederholt vom Host anzustoßen.

Die Release Notes führen auch eine spätere Änderung auf, die XPU-Graphen zur zuschaltbaren Option macht. Die vorhandene Graph-Implementierung und die Standardeinstellungen eines bestimmten Builds sind deshalb getrennt zu betrachten.

Die Testgrenze gehört zur Einordnung

Pull Request #30048 schaltet Decode-Graphen im Test des Intel-XPU-Backends wieder per Flag aus. Der Autor führt Startfehler auf eine Scratch-Memory-Erweiterung des Attention-Kernels zurück, die bei der SYCL-Graph-Aufzeichnung nicht unterstützt wurde. Der Patch ändert die Testkonfiguration; die zugrunde liegende Kernelgrenze erfordert eigene Arbeit.

Bei einem Arc-Vergleich würde ich deshalb neben Modell und Abhängigkeiten den genauen Graph-Modus und das Attention-Backend festhalten. Eine aktivierte Funktion, ein erfolgreicher Start und gemessene Leistung sind unterschiedliche Beobachtungen. Diese Notiz beschreibt die Änderungen des Projekts und ihren dokumentierten Umfang.

Hinweis: Persönliche technische Notiz. Messwerte sind nur dann als Ergebnis zu verstehen, wenn ein verlinktes Messartefakt und ein separater Prüfreport angegeben sind.