Некоторые URL-адреса такие:
/foo/bar
В этом у них нет такого расширения:
/foo/bar.txt
Если есть расширение, это легко:
wget -r -A .txt http://asdf.com
Но если нет, то я не уверен, как получить файлы. По сути, есть такие файлы, как PDF-файлы или другие файлы, которые находятся по пути, например /0du8qj8quqjc9
без расширения, или, может быть, даже /download.php?pdf=124u0cje8u
. Вопрос в том, как загрузить эти файлы, только если они соответствуют MIME-типу . Так например что-то вроде:
wget -r --accept-mime text/plain,application/pdf http://asdf.com
Хотите знать, если есть что-нибудь сделать, как это.