Обычно процессор должен ждать память, недавно я наткнулся на вопрос, в котором указано что-то вроде:
Как вы будете строить машину с нулевым состоянием?
Какую память мне использовать? Я констатировал кеш.
Вы должны будете использовать SRAM, скорость доступа которого достигает однозначных наносекунд.
Многоуровневые кэши обычно работают, проверяя сначала наименьший кэш уровня 1 (L1); если он попадает, процессор работает на высокой скорости. Если меньший кеш отсутствует, проверяется следующий больший кеш (L2) и т.д., Перед проверкой внешней памяти.
Поэтому я бы порекомендовал вам процессор с большим кешем L1 и L2.
Вы на самом деле не будете использовать кеш или SRAM. Вы бы ограничивали свою машину только использованием регистров, которые буквально находятся на самом процессоре. Это основа вычислений RISC против CISC.