Суть в том, что, вероятно , нет заметной разницы для большинства конечных пользователей, но 64-битная волна будущего (настоящее?) и действительно предлагает значительные улучшения. Вы сможете запускать множество приложений одновременно с 32-разрядной или 64-разрядной версией, но с 64-разрядной и большим количеством оперативной памяти производительность будет лучше.
В предыдущих ответах правильно указывалось, что объем используемой оперативной памяти ("адресуемая память" на языке болванов) является ключевым отличием между 32-разрядным и 64-разрядным. Должно быть очевидно, что 64-битный код можно запускать только на 64-битном процессоре. Однако даже ОС, которая не является "полностью" 64-битной, может запускать 64-битные процессы. Например, OS X добавила 64-битную поддержку поэтапно с 10.4 и 10.5, и теперь в 10.6 ("Snow Leopard") почти все, от ядра до включенных приложений, является 64-битным.
Что касается классификации операционных систем на основе 32/64-битных, то на самом деле это в некоторой степени ложная дихотомия. Windows поставляется с отдельными 32/64-битными версиями, но (например) OS X поставляется как одна ОС, которая может работать в любом режиме. Apple может сделать это потому, что они инвестировали в Rosetta, а также разработали и продвинули универсальные двоичные файлы. Сначала это должно было обеспечить переход PowerPC → Intel, но теперь они также могут использовать эту технологию для объединения 32/64-разрядных двоичных файлов в одно приложение, и ОС может выбирать, какой из них запускать при необходимости. Поддержка Windows, вероятно, будет несколько иной.
Значительно увеличенные пределы памяти на самом деле не так важны для конечных пользователей (по крайней мере, сейчас), но они критически важны для высокопроизводительных и ресурсоемких приложений. Тем не менее, если у вас работают 64-битная машина и операционная система, разумно покупать, заглядывая в будущее, потому что именно к этому стремятся вычисления.
(Отказ от ответственности: Тормозные детали следуют ...)
Одна низкоуровневая, но важная деталь, которая была пропущена, заключается в том, что 64-битная архитектура Intel (урожденная AMD) (иначе называемая "x86_64") имеет другую структуру ЦП, которая добавляет некоторую эффективность по сравнению с 32-битной архитектурой. В два раза больше "программных регистров", что по сути является быстрой быстрой памятью, которую ЦП может использовать для кэширования информации, что приводит к увеличению производительности. Кроме того, время выполнения 64-битного кода и языка может отбросить годы обратной совместимости с 32-битным мошенничеством и внести некоторые новые оптимизации в конвейерную обработку кода и выполнения, которые ранее были невозможны, и продолжающаяся разработка компилятора будет продолжать увеличивать разрыв.
Изменить: см. Этот пост AppleInsider.com сейчас, когда был выпущен Snow Leopard: http://www.appleinsider.com/articles/09/09/02/inside_mac_os_x_snow_leopard_64_bits.html