Существует ли определенный предел (настраиваемый, гипотетический) объема памяти, который может использовать macOS?
Объем виртуальной памяти составляет до 18 эксабайт адресуемого пространства для 64-разрядных процессов.
Это предполагает, что у вас достаточно свободного места на диске.
О системе виртуальной памяти
Эффективное управление памятью является важным аспектом написания высокопроизводительного кода как в OS X, так и в iOS. Минимизация использования памяти не только уменьшает объем занимаемой памяти вашего приложения, но также может уменьшить количество процессорного времени, которое оно потребляет. Чтобы правильно настроить свой код, вам нужно кое-что понять о том, как базовая система управляет памятью.
И OS X, и iOS включают полностью интегрированную систему виртуальной памяти, которую нельзя отключить; это всегда включено. Обе системы также предоставляют до 4 гигабайт адресуемого пространства на 32-битный процесс. Кроме того, OS X предоставляет приблизительно 18 эксабайт адресуемого пространства для 64-разрядных процессов. Даже для компьютеров с 4 или более гигабайтами доступной оперативной памяти система редко выделяет такой объем оперативной памяти одному процессу.
Чтобы предоставить процессам доступ ко всему их 4 гигабайтному или 18 эксабайтному адресному пространству, OS X использует жесткий диск для хранения данных, которые в данный момент не используются. По мере заполнения памяти части памяти, которые не используются, записываются на диск, чтобы освободить место для данных, которые необходимы сейчас. Часть диска, на которой хранятся неиспользуемые данные, называется резервным хранилищем, поскольку она обеспечивает резервное хранилище для основной памяти.
Источник О системе виртуальной памяти