DeepSeek-R1-Distill-Qwen-1.5B · TP=1
Messprofile, Ressourcen und Nachweise dieser Konfiguration; darunter Qualitäts- und Token-Beobachtungen.
- Laufreferenz
- DeepSeek-R1-Distill-Qwen-1.5B-vllm-xpu-tp1-baseline
- Engine
- vLLM-XPU live
- Topologie / Gerät
- TP=1 · Intel Arc Pro B70 (32GB)
- Quantisierung
- BF16
- Betrieb
- Exklusive Nutzung
DeepSeek-R1-Distill-Qwen-1.5B · TP=110KAPITEL
Messprofile · Workload
Messprofile
Vier getrennte Workloads mit den jeweils beobachteten Werten und Bedingungen.
Decode · Ausgabelänge
Decode · Ausgabelänge
Beobachtete Rohwerte · Mediane separat in der Tabelle.
| Messpunkt | ISL | OSL | Rohwert | TTFT |
|---|---|---|---|---|
| OSL 128 | 128 | 128 | 146,48 tok/s | 47,1 ms |
Rohbezug und vollständige Workload-Angaben
Statistik nur aus expliziten Angaben. Fehlende Statistik bleibt nicht gemessen.
| Messpunkt | ISL | OSL | Kontext | C | Decode | Aggregate decode | Per-request decode | TTFT |
|---|---|---|---|---|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-1.5B-vllm-xpu-tp1-baseline | 128 | 128 | 16.384 | 1 | 146,48 tok/s | 146,48 tok/s | 146,48 tok/s | 47,1 ms |
TTFT
Für diesen Lauf nicht gemessen.
Kontextlänge
Für diesen Lauf nicht gemessen.
Parallelität
Parallelität · Gesamtdurchsatz
Beobachtete Rohwerte · Mediane separat in der Tabelle.Werte je Anfrage stehen im Rohbezug.
Kategorische Achse · gleiche Abstände zwischen Messpunkten.
| Messpunkt | C | OSL | Rohwert | TTFT |
|---|---|---|---|---|
| C=1 | 1 | 128 | 146,48 tok/s | 47,1 ms |
| C=2 | 2 | 128 | 292,86 tok/s | 48,86 ms |
| C=4 | 4 | 128 | 566,91 tok/s | 27,61 ms |
| C=8 | 8 | 128 | 1.086,85 tok/s | 2.095,74 ms |
| C=16 | 16 | 128 | 2.091,09 tok/s | 388,35 ms |
| C=32 | 32 | 128 | 3.484,15 tok/s | 94,91 ms |
| C=64 | 64 | 128 | 5.613,08 tok/s | 168,98 ms |
| C=128 | 128 | 128 | 8.290,98 tok/s | 287,86 ms |
| C=256 | 256 | 128 | 10.763,25 tok/s | 564,38 ms |
| C=512 | 512 | 128 | 10.875,02 tok/s | 2.079,55 ms |
| C=1.024 | 1.024 | 128 | 10.823,04 tok/s | 5.168,2 ms |
Rohbezug und vollständige Workload-Angaben
Statistik nur aus expliziten Angaben. Fehlende Statistik bleibt nicht gemessen.
| Messpunkt | ISL | OSL | Kontext | C | Aggregate decode | Per-request decode | TTFT |
|---|---|---|---|---|---|---|---|
| C=1 | 128 | 128 | 16.384 | 1 | 146,48 tok/s | 146,48 tok/s | 47,1 ms |
| C=2 | 128 | 128 | 16.384 | 2 | 292,86 tok/s | 147,55 tok/s | 48,86 ms |
| C=4 | 128 | 128 | 16.384 | 4 | 566,91 tok/s | 143,43 tok/s | 27,61 ms |
| C=8 | 128 | 128 | 16.384 | 8 | 1.086,85 tok/s | 137,04 tok/s | 2.095,74 ms |
| C=16 | 128 | 128 | 16.384 | 16 | 2.091,09 tok/s | 131,96 tok/s | 388,35 ms |
| C=32 | 128 | 128 | 16.384 | 32 | 3.484,15 tok/s | 116,93 tok/s | 94,91 ms |
| C=64 | 128 | 128 | 16.384 | 64 | 5.613,08 tok/s | 98,98 tok/s | 168,98 ms |
| C=128 | 128 | 128 | 16.384 | 128 | 8.290,98 tok/s | 76,26 tok/s | 287,86 ms |
| C=256 | 128 | 128 | 16.384 | 256 | 10.763,25 tok/s | 52,97 tok/s | 564,38 ms |
| C=512 | 128 | 128 | 16.384 | 512 | 10.875,02 tok/s | 49,5 tok/s | 2.079,55 ms |
| C=1024 | 128 | 128 | 16.384 | 1.024 | 10.823,04 tok/s | 47,87 tok/s | 5.168,2 ms |
Benchmark-Modul · resources
Speicher, Prefix-Cache und Energie
Dateigröße, beobachteter GPU-Speicher und reservierter KV-Cache bleiben getrennt. Energie benötigt Gerät, Phase, Intervall und Quelle.
Speicher nach Phase und Gerät
Checkpoint auf Disk: Nicht gemessen
| Gerät | Idle | Post-load | KV reserviert | Peak | Quelle |
|---|---|---|---|---|---|
| Speicher | Nicht gemessen | ||||
Prefix-Cache · Cold / Warm
Ein Vergleich braucht ein passendes Cold/Warm-Paar desselben Präfixes.
- Cold
- Nicht gemessen
- Warm
- Nicht gemessen
Energie je Gerät und Intervall
- Gerät
- Nicht gemessen
- Phase
- Nicht gemessen
- Energie
- Nicht gemessen
- Leistung
- Nicht gemessen
- Dauer
- Nicht gemessen
- Quelle
- Nicht gemessen
Benchmark-Modul · evidence
Messartefakt und Nachweise
Ein Prüfreport gehört zu einem exakten Artefakt-Digest. Rohartefakt, publizierte Ableitung und Reproduktionsangaben haben unterschiedliche Rollen.
Artefakt und Prüfreport
- SHA-256
- live-capture
Rohartefakt: Nicht verfügbar
Prüfreport: unvalidated_live_capture
Reproduktion und Zuordnung
- Run-ID
- DeepSeek-R1-Distill-Qwen-1.5B-vllm-xpu-tp1-baseline
- Modellrevision
- Nicht verfügbar
- Messzeitpunkt
- 2026-09-08T14:50:10.814726+00:00
- Quelle
- Nicht verfügbar
Reproduktionsangaben: Nicht verfügbar.
Modellqualität · Vergleichskontext
Modellqualität und Quantisierung
Qualität, Durchsatz und Speicher gelten für die angegebene Modellversion, Quantisierung und Evaluationsmethode.
Evaluation auswählen
Bewertung steht noch aus. Für diesen Lauf liegen keine Evaluationsdaten vor.
- Qualität
- Nicht gemessen
- Durchsatz
- Nicht gemessen
- Speicher
- Nicht gemessen
Vergleich · drei Darstellungen
Qualität × Tempo · drei Ansichten
Drei Darstellungen derselben Qualitäts- und Durchsatzwerte. Absolute Achsen behalten ihre Einheiten; die Normierung ist nur eine Darstellungshilfe.
Bewertung steht noch aus. Für diesen Lauf liegen keine Evaluationsdaten vor.
Token-Beobachtungen
Speculative Decoding
Angefordertes und tatsächlich wirksames Verhalten sind getrennte Angaben. Ein Zähler ersetzt keine Token-Spur.
Token-Beobachtungen für diesen Lauf nicht verfügbar.
Angefordert vs. wirksam
- Angefordert
- Nicht angegeben
- Wirksam
- Nicht angegeben
- Vorgeschlagen
- Nicht gemessen
- Akzeptiert
- Nicht gemessen
- Verworfen
- Nicht gemessen
- Nicht verwendet
- Nicht gemessen
Korrektheitsfälle
Keine Korrektheitsfälle angegeben.
Token-Beobachtungen
Acceptance Map
Akzeptierte, verworfene und nach Abbruch nicht verwendete Vorschläge bleiben unterscheidbar.
Token-Beobachtungen für diesen Lauf nicht verfügbar.
Token-Beobachtungen
Token-Latenz
Die Folge zeigt einzelne Token-Ereignisse mit ihrer beobachteten Latenz. Durchsatzaggregate erzeugen keine Token-Zeitreihe.
Token-Beobachtungen für diesen Lauf nicht verfügbar.
Runde × Token
Token-Heatmap
Unabhängige Latenzbeobachtungen nach Runde und Token. Abgelehnte und nicht ausgewertete Zellen bleiben getrennt.
Für diesen Lauf nicht gemessen