Стандарт IEEE 802.11 не позволяет заранее узнать, какой из двух методов аутентификации WEP доступен. Клиент должен будет попытаться выполнить аутентификацию, используя каждый метод, и надеяться, что реализация AP достаточно хороша, чтобы вернуть правильные коды причины.
Исходя из моего опыта в 1999-2002 годах, когда WEP был всем, что у нас было, многие точки доступа имеют дрянные реализации методов аутентификации WEP и часто отправляют неправильный код причины (или вообще не отвечают), так что вы действительно не можете надежно различать "плохой ключ" и "алгоритм не поддерживается".
Хотя я не имею никакого личного опыта с wpa_cli, я был бы удивлен, если бы у него был какой-либо механизм для предварительного просмотра, какие алгоритмы WEP поддерживаются, так как такая функция была бы очень ненадежной из-за плохих реализаций AP, и в конечном итоге просто разочаровала бы всех с неверными или неубедительными результатами.