Correct the 940MX trf figure to a 9-run median
1,106 words/s, not the 1,158 from the first 3-run sample. Two independent 3-run samples disagreed by 3.4%, so the larger sample settles it.
This commit is contained in:
parent
c80bcb27f3
commit
e37d052435
|
|
@ -80,7 +80,7 @@ print(doc.ents) # (محمدرضا شجریان, مشهد)
|
||||||
| `sm` | ۵٬۴۸۴ | ۱۰٬۲۳۵ | |
|
| `sm` | ۵٬۴۸۴ | ۱۰٬۲۳۵ | |
|
||||||
| `md` | ۵٬۴۰۸ | ۹٬۰۵۸ | |
|
| `md` | ۵٬۴۰۸ | ۹٬۰۵۸ | |
|
||||||
| `lg` | ۴٬۷۱۵ | ۹٬۲۱۵ | |
|
| `lg` | ۴٬۷۱۵ | ۹٬۲۱۵ | |
|
||||||
| `trf` | ۱۸۷ | ۱٬۱۵۸ | ۸٬۳۲۰ |
|
| `trf` | ۱۸۷ | ۱٬۱۰۶ | ۸٬۳۲۰ |
|
||||||
|
|
||||||
ردهٔ `trf` روی یک پردازنده ۲۹ برابر کندتر از `sm` است. عددهای T4 و Xeon از یک ماشین Colab
|
ردهٔ `trf` روی یک پردازنده ۲۹ برابر کندتر از `sm` است. عددهای T4 و Xeon از یک ماشین Colab
|
||||||
میآیند، یعنی شتاب ۲۵ برابری. فاصلهٔ ردههای پردازندهای کمتر از ۱۵ درصد است، پس گلوگاه
|
میآیند، یعنی شتاب ۲۵ برابری. فاصلهٔ ردههای پردازندهای کمتر از ۱۵ درصد است، پس گلوگاه
|
||||||
|
|
|
||||||
|
|
@ -100,7 +100,7 @@ timing the pipe only, warmup discarded. Reproduce with
|
||||||
| `sm` | 5,484 | 10,235 | |
|
| `sm` | 5,484 | 10,235 | |
|
||||||
| `md` | 5,408 | 9,058 | |
|
| `md` | 5,408 | 9,058 | |
|
||||||
| `lg` | 4,715 | 9,215 | |
|
| `lg` | 4,715 | 9,215 | |
|
||||||
| `trf` | 187 | 1,158 | 8,320 |
|
| `trf` | 187 | 1,106 | 8,320 |
|
||||||
|
|
||||||
`trf` is 29x slower than `sm` on the same CPU. The T4 and Xeon figures come from one Colab VM,
|
`trf` is 29x slower than `sm` on the same CPU. The T4 and Xeon figures come from one Colab VM,
|
||||||
a 25x GPU speedup. The CPU tiers sit within 15% of each other, so the bottleneck is the parser
|
a 25x GPU speedup. The CPU tiers sit within 15% of each other, so the bottleneck is the parser
|
||||||
|
|
|
||||||
|
|
@ -508,7 +508,7 @@ warmup discarded. Raw records in `metrics/throughput-*.json`.
|
||||||
| `sm` | 5,484 | 10,235 | | |
|
| `sm` | 5,484 | 10,235 | | |
|
||||||
| `md` | 5,408 | 9,058 | | |
|
| `md` | 5,408 | 9,058 | | |
|
||||||
| `lg` | 4,715 | 9,215 | | |
|
| `lg` | 4,715 | 9,215 | | |
|
||||||
| `trf` | 187 | 1,158 | 336 | 8,320 |
|
| `trf` | 187 | 1,106 | 336 | 8,320 |
|
||||||
|
|
||||||
The CPU tiers sit within about 15% of each other, less than their vector-table sizes suggest,
|
The CPU tiers sit within about 15% of each other, less than their vector-table sizes suggest,
|
||||||
so the tok2vec lookup is not the bottleneck; the parser and lemmatizer are. Run-to-run spread
|
so the tok2vec lookup is not the bottleneck; the parser and lemmatizer are. Run-to-run spread
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue