Это связано с сочетанием особенностей современных процессоров.
Первое, что способствует высокому IPS, - это тот факт, что современные процессоры имеют несколько исполнительных блоков, которые могут работать независимо. На изображении ниже (заимствовано из Википедии: Intel Core Microarchitecture) внизу вы видите, что есть восемь исполнительных блоков (показаны желтым цветом), которые могут выполнять инструкции одновременно. Не все из этих блоков могут обеспечивать одинаковые типы команд, но по крайней мере 5 из них могут выполнять операцию ALU, и есть три блока с поддержкой SSE.
Объедините это с длинным конвейером команд, который может эффективно составлять инструкции, готовые к тому, чтобы эти блоки выполняли инструкции (не в порядке, если необходимо), означает, что современный процессор может иметь большое количество команд на лету в любой момент времени.
Для выполнения каждой инструкции может потребоваться несколько тактов, но если вы сможете эффективно распараллелить их выполнение, вы сможете значительно повысить IPS за счет сложности процессора и тепловой мощности.
Для того чтобы эти большие конвейеры были заполнены инструкциями, также необходим большой кэш, который можно предварительно заполнить инструкциями и данными. Это влияет на размер матрицы и количество тепла, которое производит процессор.
Причина, по которой это не делается на меньших процессорах, состоит в том, что это существенно увеличивает количество логики управления, требуемой вокруг процессорных ядер, а также количество требуемого пространства и также выделяемого тепла. Если вам нужен небольшой процессор с низким энергопотреблением и высокой чувствительностью, вам нужен короткий конвейер без слишком большого количества "лишних" вещей, окружающих реальные функциональные ядра. Поэтому обычно они минимизируют кэш, ограничивают его только одним модулем каждого типа, необходимого для обработки инструкций, и уменьшают сложность каждой части.
Они могли бы сделать небольшой процессор таким же сложным, как и более крупный процессор, и достичь аналогичной производительности, но тогда потребляемая мощность и требования к охлаждению будут экспоненциально увеличены.