Correct the 940MX trf figure to a 9-run median

1,106 words/s, not the 1,158 from the first 3-run sample. Two independent 3-run
samples disagreed by 3.4%, so the larger sample settles it.
This commit is contained in:
Mohamad Fazeli 2026-08-13 17:52:15 +03:30
parent c80bcb27f3
commit e37d052435
Signed by: fazel
GPG Key ID: 05E227BF4D6736DE
3 changed files with 3 additions and 3 deletions

View File

@ -80,7 +80,7 @@ print(doc.ents) # (محمدرضا شجریان, مشهد)
| `sm` | ۵٬۴۸۴ | ۱۰٬۲۳۵ | | | `sm` | ۵٬۴۸۴ | ۱۰٬۲۳۵ | |
| `md` | ۵٬۴۰۸ | ۹٬۰۵۸ | | | `md` | ۵٬۴۰۸ | ۹٬۰۵۸ | |
| `lg` | ۴٬۷۱۵ | ۹٬۲۱۵ | | | `lg` | ۴٬۷۱۵ | ۹٬۲۱۵ | |
| `trf` | ۱۸۷ | ۱٬۱۵۸ | ۸٬۳۲۰ | | `trf` | ۱۸۷ | ۱٬۱۰۶ | ۸٬۳۲۰ |
ردهٔ `trf` روی یک پردازنده ۲۹ برابر کندتر از `sm` است. عددهای T4 و Xeon از یک ماشین Colab ردهٔ `trf` روی یک پردازنده ۲۹ برابر کندتر از `sm` است. عددهای T4 و Xeon از یک ماشین Colab
می‌آیند، یعنی شتاب ۲۵ برابری. فاصلهٔ رده‌های پردازنده‌ای کمتر از ۱۵ درصد است، پس گلوگاه می‌آیند، یعنی شتاب ۲۵ برابری. فاصلهٔ رده‌های پردازنده‌ای کمتر از ۱۵ درصد است، پس گلوگاه

View File

@ -100,7 +100,7 @@ timing the pipe only, warmup discarded. Reproduce with
| `sm` | 5,484 | 10,235 | | | `sm` | 5,484 | 10,235 | |
| `md` | 5,408 | 9,058 | | | `md` | 5,408 | 9,058 | |
| `lg` | 4,715 | 9,215 | | | `lg` | 4,715 | 9,215 | |
| `trf` | 187 | 1,158 | 8,320 | | `trf` | 187 | 1,106 | 8,320 |
`trf` is 29x slower than `sm` on the same CPU. The T4 and Xeon figures come from one Colab VM, `trf` is 29x slower than `sm` on the same CPU. The T4 and Xeon figures come from one Colab VM,
a 25x GPU speedup. The CPU tiers sit within 15% of each other, so the bottleneck is the parser a 25x GPU speedup. The CPU tiers sit within 15% of each other, so the bottleneck is the parser

View File

@ -508,7 +508,7 @@ warmup discarded. Raw records in `metrics/throughput-*.json`.
| `sm` | 5,484 | 10,235 | | | | `sm` | 5,484 | 10,235 | | |
| `md` | 5,408 | 9,058 | | | | `md` | 5,408 | 9,058 | | |
| `lg` | 4,715 | 9,215 | | | | `lg` | 4,715 | 9,215 | | |
| `trf` | 187 | 1,158 | 336 | 8,320 | | `trf` | 187 | 1,106 | 336 | 8,320 |
The CPU tiers sit within about 15% of each other, less than their vector-table sizes suggest, The CPU tiers sit within about 15% of each other, less than their vector-table sizes suggest,
so the tok2vec lookup is not the bottleneck; the parser and lemmatizer are. Run-to-run spread so the tok2vec lookup is not the bottleneck; the parser and lemmatizer are. Run-to-run spread