Я подвергаю сомнению логику этого вопроса: даже если вы разрешаете подключаться только к Linux-блокам, ничто не мешает этим Linux-блокам порождать Windows-блоки и т.д. Я полагаю, что делать это по соображениям безопасности должно быть ошибочным, особенно потому, что OpenVPN является открытым исходным кодом, и, таким образом, его можно взломать, чтобы он казался чем-то не его.
Вы не указали параметры для клиентов OpenVPN, поэтому вопрос открыт для интерпретации. Вы можете, например, разрешить клиенту подключаться, но затем принудительно установить соединение (через SSH или что-то подобное) с машиной, которая подключилась, и запустить несколько тестов, чтобы убедиться, что это машина с Linux.
В качестве альтернативы, в зависимости от того, насколько надежное решение вам нужно, вы также можете выполнить "сканирование отпечатков пальцев" для ОС с использованием, например, NMAP OS Detection.
Другим вариантом, в зависимости от вашего случая использования, будет использование параметров, которые реализованы только в Linux. Возможно, вы сможете настроить P2P-туннель с 192.168.1.1 на одном конце и 192.168.1.5 на другом конце - я подозреваю, что Windows не справится с этим правильно, в то время как Linux это сделает.