2026-11-09: More unboxing of Menai opcodes

Published: 2026-11-09

Continuing from yesterday, I noticed that our MenaiInteger class was still keeping a fixed integer representation internally but that was now pretty-much fully subsumed by the unboxing changes from yesterday. I also realized floats could be unboxed too.

Performance numbers

Note the "stats" benchmark also has a very small algorithmic improvement, but the majority of the win on this one is down to float unboxing.

BASE64-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
standard-1k                       0.150          0.143
standard-64k                     10.397         10.295
url-1k                            0.150          0.143
url-64k                          10.635         10.570
──────────────────────────────────────────────────────


BASE64-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
standard-1k                       0.058          0.055
standard-64k                      4.181          4.076
unpadded-1k                       0.056          0.055
url-64k                           4.173          4.071
──────────────────────────────────────────────────────


BMP-DECODE
────────────────────────────────────────────────────────
Case                            mean (ms)       min (ms)
────────────────────────────────────────────────────────
truecolour-64x64                    0.260          0.240
truecolour-128x128                  1.100          1.086
truecolour-topdown-128x128          1.102          1.092
truecolour-alpha-128x128            1.235          1.225
padded-65x64                        0.271          0.267
────────────────────────────────────────────────────────


BMP-ENCODE
────────────────────────────────────────────────────────
Case                            mean (ms)       min (ms)
────────────────────────────────────────────────────────
truecolour-64x64                    0.740          0.732
truecolour-128x128                  7.067          6.994
truecolour-topdown-128x128          7.034          6.994
truecolour-alpha-128x128            9.798          9.764
padded-65x64                        0.767          0.760
────────────────────────────────────────────────────────


CALENDAR
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
short_5d                          0.023          0.019
month_20d                         0.073          0.071
quarter_60d                       0.213          0.211
year_250d                         0.877          0.870
months_600d                       1.545          1.541
──────────────────────────────────────────────────────


CSV-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
plain-1000x10                     4.870          4.855
quoted-1000x10                    6.875          6.832
escaped-1000x10                   8.420          8.370
multiline-1000                    1.480          1.472
wide-100x100                      3.230          3.217
──────────────────────────────────────────────────────


CSV-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
plain-1000x10                     4.887          4.844
quoted-1000x10                   11.330         11.201
escaped-1000x10                   7.295          7.250
wide-100x100                      2.340          2.327
──────────────────────────────────────────────────────


DEFLATE-COMPRESS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
text-4k                           0.758          0.731
text-32k                          3.172          3.143
incremental-16k                   4.981          4.920
runs-32k                          9.846          9.799
──────────────────────────────────────────────────────


DEFLATE-DECOMPRESS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
text-4k                           0.298          0.286
text-32k                          0.471          0.459
incremental-16k                   0.642          0.620
stored-8k                         0.200          0.186
runs-32k                          1.517          1.475
──────────────────────────────────────────────────────


DOCX-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
minimal                           0.461          0.442
document-100                      2.022          1.980
document-500                      8.610          8.544
document-2000                    33.924         33.679
styles-100                        2.933          2.826
numbering-9                       1.607          1.562
media-16                          4.248          4.202
full-500                         12.378         12.250
──────────────────────────────────────────────────────


DOCX-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
minimal                           0.073          0.064
document-100                      0.248          0.239
document-500                      0.987          0.978
styles-100                        0.380          0.371
numbering-9                       0.128          0.121
media-16                          0.274          0.266
full-500                          1.249          1.240
──────────────────────────────────────────────────────


HTML-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
wide-1000                         4.887          4.850
deep-200                          0.432          0.424
attributes-500                    3.685          3.667
mixed-500                         3.898          3.874
entities-2000                    11.394         11.352
void-1000                        11.024         10.971
omitted-end-tags-1000             2.445          2.424
raw-text-500                      4.418          4.400
realistic-500                     7.933          7.882
──────────────────────────────────────────────────────


HTML-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
wide-1000                         1.653          1.611
deep-200                          0.203          0.162
attributes-500                    0.805          0.796
mixed-500                         1.917          1.910
void-1000                         3.678          3.655
escaping-2000                     4.056          4.031
declarations-1000                 0.544          0.540
──────────────────────────────────────────────────────


JSON-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
object                            0.012          0.010
flat_array                        0.072          0.071
flat_object                       0.063          0.062
mixed_nested                      0.140          0.139
string_heavy                      0.051          0.050
numbers_array                     0.016          0.014
unicode_strings                   0.008          0.007
long_string                       0.060          0.059
deep_array                        0.128          0.125
──────────────────────────────────────────────────────


JSON-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
object                            0.011          0.009
flat_array                        0.013          0.011
flat_object                       0.029          0.027
mixed_nested                      0.055          0.053
string_heavy                      0.075          0.074
numbers_array                     0.009          0.007
unicode_strings                   0.003          0.002
long_string                       0.249          0.244
──────────────────────────────────────────────────────


PNG-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
greyscale-64x64                   1.876          1.825
greyscale-alpha-64x64             6.729          6.685
palette-128x128                   5.182          5.114
truecolour-128x128               36.767         36.668
truecolour-alpha-128x128         49.378         49.162
truecolour-192x192               85.033         84.420
──────────────────────────────────────────────────────


PNG-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
truecolour-48x48                 18.283         17.923
truecolour-96x96                160.656        159.264
truecolour-alpha-96x96          282.884        281.721
──────────────────────────────────────────────────────


PPTX-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
minimal                           0.906          0.884
slides-10                         3.532          3.511
slides-50                        14.986         14.953
slides-200                       58.589         58.319
shapes-50                        11.822         11.705
masters-8                         7.299          7.256
media-16                          7.239          7.204
theme-and-masters                 5.612          5.570
full-50                          71.292         71.126
──────────────────────────────────────────────────────


PPTX-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
minimal                           0.102          0.093
slides-10                         0.318          0.310
slides-50                         1.269          1.258
shapes-50                         1.319          1.285
masters-8                         0.642          0.631
media-16                          0.518          0.508
theme-and-masters                 0.491          0.482
full-50                           5.859          5.732
──────────────────────────────────────────────────────


REGEXP
───────────────────────────────────────────────────────
Case                           mean (ms)       min (ms)
───────────────────────────────────────────────────────
compile-per-line                   1.359          1.337
search-prefix-log                  0.031          0.029
search-class-numbers               0.034          0.032
search-alternation                 0.077          0.076
search-all-class                  10.193         10.151
search-all-prefix                  1.366          1.355
search-groups-log                  0.054          0.051
search-all-groups-numbers         35.165         35.078
split-whitespace                  12.048         11.987
replace-whitespace                74.344         73.797
replace-groups-dates              24.785         24.397
chained-per-line                   1.294          1.276
───────────────────────────────────────────────────────


RUBIKS_LIST
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
1-move                            0.061          0.057
2-move                            0.062          0.058
3-move                            0.136          0.130
4-move                            1.376          1.366
5-move                            4.618          4.605
6-move                           29.542         29.475
7-move                           65.541         65.452
──────────────────────────────────────────────────────


RUBIKS_VECTOR
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
1-move                            0.050          0.047
2-move                            0.051          0.048
3-move                            0.113          0.110
4-move                            1.156          1.150
5-move                            3.817          3.786
6-move                           24.975         24.955
7-move                           55.516         55.491
──────────────────────────────────────────────────────


SORT
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
n=10                              0.005          0.004
n=50                              0.028          0.027
n=100                             0.064          0.062
n=250                             0.189          0.185
n=500                             0.418          0.413
n=1000                            0.946          0.942
n=2500                            2.707          2.678
n=5000                            5.933          5.910
n=10000                          12.835         12.823
──────────────────────────────────────────────────────


STATS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
vector-mean-n=100                 0.011          0.010
vector-mean-n=500                 0.049          0.047
vector-mean-n=1000                0.095          0.092
vector-mean-n=2500                0.241          0.237
vector-mean-n=5000                0.516          0.512
vector-mean-n=10000               1.071          1.067
vector-mean-n=25000               2.760          2.717
vector-summary-n=100              0.077          0.074
vector-summary-n=500              0.476          0.473
vector-summary-n=1000             1.052          1.042
vector-summary-n=2500             2.992          2.972
vector-summary-n=5000             6.581          6.545
vector-summary-n=10000           14.251         14.167
vector-summary-n=25000           39.528         39.377
list-mean-n=100                   0.012          0.010
list-mean-n=500                   0.048          0.048
list-mean-n=1000                  0.099          0.096
list-mean-n=2500                  0.266          0.262
list-mean-n=5000                  0.564          0.561
list-mean-n=10000                 1.125          1.116
list-mean-n=25000                 2.846          2.811
list-summary-n=100                0.077          0.075
list-summary-n=500                0.476          0.474
list-summary-n=1000               1.073          1.067
list-summary-n=2500               3.073          3.054
list-summary-n=5000               6.588          6.513
list-summary-n=10000             14.439         14.399
list-summary-n=25000             39.511         39.306
──────────────────────────────────────────────────────


STRING_OPS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
search long/absent                0.015          0.015
search long/present               0.021          0.020
search short needle               0.020          0.019
search needle=haystack            0.174          0.171
hash 2000x8                       0.035          0.033
hash 2000x64                      0.094          0.093
hash 500x512                      0.198          0.197
──────────────────────────────────────────────────────


SUDOKU_LIST
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
Easy (36 givens)                 15.146         15.042
Medium (30 givens)                0.220          0.213
Hard (25 givens)               3242.524       3242.524
Expert (23 givens)              186.125        186.125
──────────────────────────────────────────────────────


SUDOKU_VECTOR
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
Easy (36 givens)                 10.556         10.517
Medium (30 givens)                0.155          0.150
Hard (25 givens)               2287.274       2287.274
Expert (23 givens)              130.320        130.320
──────────────────────────────────────────────────────


XML-DECODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
wide-1000                         2.261          2.234
deep-200                          0.213          0.209
attributes-500                    1.648          1.641
mixed-500                         2.740          2.722
entities-2000                     6.268          6.236
ooxml-500                         5.868          5.837
──────────────────────────────────────────────────────


XML-ENCODE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
wide-1000                         0.790          0.767
deep-200                          0.127          0.116
attributes-500                    0.744          0.733
mixed-500                         1.910          1.901
escaping-2000                     3.983          3.964
──────────────────────────────────────────────────────


ZIP-CREATE
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
single-deflate                    0.500          0.474
single-stored                     0.025          0.020
mixed-16                          3.469          3.440
many-128                         49.323         49.270
large-256k                       23.251         22.790
──────────────────────────────────────────────────────


ZIP-ENTRIES
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
single-deflate                    0.004          0.001
single-stored                     0.003          0.001
mixed-16                          0.012          0.010
many-128                          0.078          0.073
large-256k                        0.002          0.002
──────────────────────────────────────────────────────


ZIP-EXTRACT
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
single-deflate                    0.233          0.223
single-stored                     0.192          0.187
mixed-16                          0.508          0.498
many-128                          4.468          4.437
large-256k                        2.199          2.180
──────────────────────────────────────────────────────


ZLIB-COMPRESS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
text-4k                           0.865          0.841
text-32k                          4.127          4.099
incremental-16k                   5.410          5.356
runs-32k                         10.745         10.664
──────────────────────────────────────────────────────


ZLIB-DECOMPRESS
──────────────────────────────────────────────────────
Case                          mean (ms)       min (ms)
──────────────────────────────────────────────────────
text-4k                           0.420          0.401
text-32k                          1.361          1.352
incremental-16k                   1.079          1.064
runs-32k                          2.444          2.414
──────────────────────────────────────────────────────