Everyone should know SIMD
SIMD — это возможность выполнять одну операцию над несколькими элементами данных одновременно: вместо сравнения одного байта процессор может сравнить четыре, восемь или даже более за один такт. Это особенно выгодно, когда в коде встречаются «тяжёлые» циклы, сканирующие массивы, строки или байтовые последовательности, а обработка происходит сотни‑миллионов раз. В таком случае локальное ускорение пропорционально ширине вектора, а писать такой код можно без прибегания к ассемблеру. Таким образом, даже простая замена обычного for‑цикла на обработку блоками по 4‑8 элементов даёт ощутимый прирост, и эту идею может понять любой разработчик.
В большинстве случаев SIMD‑код строится по одной схеме: сначала широковещательно задают константы, затем перебирают данные порциями вектора, выполняют над ними одну инструкцию, после чего сводят векторный результат в скаляр и завершают обработку оставшихся элементов. Эта пятишаговая последовательность повторяется в разных задачах — от подсчёта совпадений до трансформации изображений — и позволяет писать код так же просто, как обычный цикл, лишь добавляя несколько специфичных функций. Поэтому любой разработчик, увиделший «тяжёлый» проход по массиву, может сразу представить, как заменить его на обработку вектором, не углубляясь в ассемблер и получая ускорение.