Я протестировал образец файла в Adobe Reader для OS X, и хотя вы не указали пароль, он все же запросил его, тогда как Preview.app просто отобразил пустую страницу. (И было бы разумно, чтобы Adobe Reader для OS X предоставлял ту же функциональность, что и Adobe Reader для Windows).
Редактировать: я только что создал 256-битный зашифрованный тестовый файл AES с помощью Acrobat Pro для Windows, попытался открыть его с помощью Adobe Reader на OS X, и это удалось.
Редактировать 2: Я только что установил Adobe Reader 9.3.3 в моей установке Xubuntu, и он мог открыть тот же PDF-файл, зашифрованный AES. Что касается стандартной Ubuntu, то есть ошибка для Evince (рендера PDF), чтобы попытаться получить поддержку AES.