Вопросы с меткой [wget]

GNU Wget - это бесплатный программный пакет для извлечения файлов с использованием HTTP, HTTPS и FTP, наиболее широко используемых интернет-протоколов. Это неинтерактивный инструмент командной строки, поэтому его легко вызывать из сценариев, заданий Cron, терминалов без поддержки X Window System (X11) и т.д.

309
голосов
18ответов
869k показов

Как скачать файлы из командной строки в Windows, такие как wget или curl

Как я могу загрузить что-то из Интернета напрямую, не открывая браузер Internet Explorer или Firefox Acrobat Reader/Quicktime/MS Word/ что угодно? Я использую Windows, поэтому подойдет версия Wget ...
122
голоса
5ответов
112k показов

Как вы перенаправляете wget на стандартный выход?

У меня есть crontab , что wget SÁ PHP страницу каждые пять минут (только для запуска некоторых РНР кода), и я хочу , чтобы направить вывод в стандартный вывод. Я не смог найти его в руководстве по ...
105
голосов
5ответов
87k показов

Как получить файл с правильным именем при перенаправлении?

Поэтому после некоторого времени поиска в Google и Super User (и сканирования справочных страниц) я не смог найти ответ на то, что (я думаю) должно быть простым: Если вы идете сюда: ...
68
голосов
4ответа
89k показов

Сохранить одну веб-страницу (с фоновыми изображениями) с помощью Wget

Я хочу использовать Wget для сохранения отдельных веб-страниц (не рекурсивно, не целых сайтов) для справки. Так же, как Firefox "Веб-страница, полная". Моя первая проблема: я не могу заставить Wget ...
62
голоса
6ответов
102k показов

Как скачать файлы Dropbox с помощью команды Wget?

Кажется, я могу загружать только файлы Dropbox, используя проводник, такой как Chrome и Firefox. Если я использую wget для загрузки, я получу файл в формате html. Зачем? Например, вы можете открыть ...
55
голосов
8ответов
144k показов

Wget/cURL альтернатива родной для Windows?

Существует ли утилита командной строки типа Wget или cURL, родная для Windows Vista? Как это работает?
52
голоса
5ответов
33k показов

Wget HEAD запрос?

Я хотел бы отправить запрос HTTP HEAD с помощью wget . Является ли это возможным?
50
голосов
15ответов
125k показов

Как узнать реальный URL загрузки на сайтах загрузки, которые используют перенаправления

Допустим, я хочу скачать что-то с помощью wget но веб-сайт, содержащий файлы, которые мне нужны, перенаправляет на сайт, который автоматически выбирает для меня зеркало (и не предоставляется ...
44
голоса
1ответ
21k показов

Как использовать wget для загрузки страниц с ошибками HTTP?

Обычно wget останавливается при получении ошибки HTTP, например, 404 или около того. Есть ли возможность заставить wget загружать содержимое страницы независимо от кода HTTP?
39
голосов
2ответа
44k показов

Как правильно настроить wget для загрузки только новых файлов?

Допустим, есть URL, давайте назовем его http://www.some-url.com/folder/ В этом месте включен каталог, поэтому я могу сделать это: wget -r -np http://www.some-url.com/folder/ Для загрузки всего его ...
33
голоса
5ответов
66k показов

Как я могу сделать HTTP PUT с Wget?

Я пытаюсь использовать Wget для доступа к интерфейсу RESTful , но я не могу понять, как сделать HTTP PUT с Wget. Как мне это сделать? Или это не возможно?
29
голосов
3ответа
23k показов

Получение WGET для отображения менее подробного вывода

Можно ли заставить WGET показывать только прогресс загрузки, например, панель загрузки, в отличие от всей информации о соединении, так как это выглядит немного уродливо на стороне клиента, возможно ...
28
голосов
1ответ
29k показов

Заставьте wget конвертировать HTML ссылки в относительные после загрузки, если не указан ключ -k

Опция -k (или --convert-link) преобразует ссылки на ваших веб-страницах в относительные после завершения загрузки, как, например, на странице руководства: После завершения загрузки преобразуйте ...
25
голосов
7ответов
24k показов

Как сделать так, чтобы wget переименовал загруженные файлы, чтобы не включать строку запроса?

Я загружаю сайт с помощью wget, и ко многим ссылкам прикреплены запросы, поэтому, когда я делаю это: wget -nv -c -r -H -A mp3 -nd http://url.to.old.podcasts.com/ Я получаю много таких файлов: ...
23
голоса
3ответа
44k показов

Как повторить соединение с wget?

У меня очень нестабильное интернет-соединение, и иногда приходится загружать файлы размером до 200 МБ. Проблема заключается в том, что скорость часто падает и составляет --, -K/s и процесс остается ...
23
голоса
2ответа
78k показов

Инструмент командной строки Linux для загрузки файлов по HTTP как multipart/form-data?

Я вижу, что в wget есть опция --post-file, но на странице руководства сказано: "Wget в настоящее время не поддерживает multipart/form-data для передачи данных POST; только ...
21
голос
1ответ
5k показов

Почему wget выдает ошибку при выполнении с sudo, но работает нормально без?

Я попробовал следующую команду: $ wget -q --tries=10 --timeout=20 --spider http://google.com (Из этого ТАК. Я хочу проверить мое интернет-соединение в Bash.) Я получаю следующий вывод: Spider mode ...
17
голосов
2ответа
10k показов

Постоянная повторная попытка возобновления загрузки с помощью curl

Я на Mac и у меня есть список файлов, которые я хотел бы скачать с FTP-сервера. Соединение немного глючит, поэтому я хочу, чтобы оно повторилось и возобновилось, если соединение разорвано. Я знаю, ...
15
голосов
4ответа
90k показов

Как мне установить Wget для Windows?

Я скачал Wget отсюда и получил файл с именем wget-latest.tar.gz , датированный 22 сентября 2009 года. Я сохранил его в одну из папок на моем диске D: и распаковал его. Я прочитал файл READ ME , но не ...
14
голосов
2ответа
8k показов

Как сканировать, используя wget для загрузки ТОЛЬКО HTML-файлов (игнорируйте изображения, css, js)

По сути, я хочу сканировать весь сайт с помощью Wget, но он мне нужен, чтобы НИКОГДА не загружать другие ресурсы (например, изображения, CSS, JS и т.д.). Я хочу только файлы HTML. Поиски в Google ...
14
голосов
2ответа
19k показов

Как я могу использовать Wget для загрузки больших файлов?

Я использую Linux Mint 15 Cinnamon, работающий от 8GB Pendrive. Я хочу получить ISO для «Linux Mint 14« Nadia »KDE». Я попытался использовать wget в терминале. Вот именно то, что я напечатал: wget ...
14
голосов
3ответа
95k показов

Загрузите ВСЕ папки, вложенные папки и файлы с помощью Wget

Я использовал Wget, и я столкнулся с проблемой. У меня есть сайт, на котором есть несколько папок и подпапок. Мне нужно скачать все содержимое в каждой папке и подпапке. Я попробовал несколько ...
14
голосов
3ответа
32k показов

Рекурсивный эквивалент загрузки (`wget -r`) для Firefox?

У меня есть веб-сайт, и я хочу загрузить все страницы / ссылки на этом веб-сайте. Я хочу сделать wget -r для этого URL. Ни одна из ссылок не выходит за пределы этого конкретного каталога, поэтому я ...
14
голосов
3ответа
6k показов

Экранирование строк запроса с помощью wget --mirror

Я использую wget --mirror --html-extension --convert-links для зеркалирования сайта, но в итоге я получаю множество имен файлов в формате post.php?id=#.html . Когда я пытаюсь просмотреть их в ...
13
голосов
3ответа
15k показов

Как использовать файлы cookie Firefox с Wget?

wget --load-cookies будет загружать файлы cookie как «текстовый файл в формате, который изначально использовался в файле cookies.txt Netscape». Тем не менее, Firefox хранит свои куки в базе данных ...
13
голосов
1ответ
11k показов

Как я могу удаленно получать файлы с перенаправленных URL-адресов с терминала?

Я хочу получить архив с этой библиотекой python из терминала. https://github.com/simplegeo/python-oauth2/downloads Тем не менее, я не могу просто позвонить wget ...
13
голосов
3ответа
13k показов

wget -o записывает пустые файлы при неудаче

Если я напишу wget "нет такого адреса" -o «test.html», он сначала создаст test.html, а в случае сбоя оставит его пустым. Однако, если не использовать -o, он будет ждать, пока загрузка удастся, и ...
13
голосов
3ответа
26k показов

Wget для FTP, используя пароль, содержащий @

Я пытаюсь получить некоторые файлы с моего FTP-сервера из командной строки. Я использую wget для загрузки всей папки одновременно. Команда: wget -m ...
12
голосов
2ответа
1k показов

Как: загрузить страницу с Wayback Machine за указанный интервал

Я имею в виду загрузку каждой страницы, доступной с Wayback Machine, в течение определенного периода времени и интервала. Например, я хочу загружать каждую страницу, доступную каждый день, с сайта ...
12
голосов
5ответов
8k показов

Проблемы с использованием wget или httrack для зеркалирования архивированного сайта

Я пытаюсь использовать wget для создания локального зеркала сайта. Но я обнаружил, что я не получаю все страницы ссылок. Вот сайт ...
12
голосов
1ответ
3k показов

Как загрузить части одного и того же файла из разных источников с помощью curl/wget?

У меня довольно большой файл на пяти разных серверах. Я хотел бы иметь возможность загружать разные части файла с каждого сервера и впоследствии объединять их, чтобы создать исходный файл. Есть ли ...
12
голосов
3ответа
7k показов

Сделать wget загрузкой ресурсов страницы в другом домене

Как вы используете wget для загрузки всего сайта (домен A), когда его ресурсы находятся в другом домене (домен B)? Я пробовал:wget -r --level=inf -p -k -E --domains=domainA,domainB http://www.domainA
11
голосов
3ответа
43k показов

Как установить http прокси-адрес для wget под windows?

Если запустить без параметров, мой wget печатает: D:\>wget SYSTEM_WGETRC = c:/progra~1/wget/etc/wgetrc syswgetrc = c:/progra~1/wget/etc/wgetrc D:\Apps\Util\wget: missing URL Usage: D:\Apps\Util\wget ...
11
голосов
3ответа
3k показов

Wget с URL, который содержит #

Я пытаюсь загрузить URL-адрес , например http://www.somesite.com/restaurants.html#photo=22x00085 . Я помещаю его между одинарными кавычками, но он загружает только ...
11
голосов
4ответа
36k показов

Использование Wget для рекурсивного сканирования сайта и загрузки изображений

Как вы указываете wget рекурсивно сканировать веб-сайт и загружать только определенные типы изображений? Я попытался использовать это для сканирования сайта и загрузки только изображений в формате ...
11
голосов
4ответа
5k показов

Как скачать с wget без следующих ссылок с параметрами

Я пытаюсь скачать два сайта для включения в CD: http://boinc.berkeley.edu/trac/wiki http://www.boinc-wiki.info У меня проблема в том, что это оба вики. Таким образом, при загрузке, например: wget -r ...
11
голосов
2ответа
4k показов

Можно ли сделать wget всухую?

Я знаю, что вы можете рекурсивно загружать веб-страницы с помощью wget , но возможно ли сделать пробный запуск? Так что вы могли бы сделать тестовый прогон, чтобы увидеть, сколько будет загружено, ...
10
голосов
6ответов
31k показов

Как использовать Wget с Tor Bundle в Linux

Я пользователь Linux Mint (Lisa) и Tor Bundle, пытаюсь использовать wget вместо Tor. Следуя указаниям, которые я нашел здесь, все, что я получаю при запуске wget, это выходной файл, ...
10
голосов
2ответа
1k показов

Как я могу использовать инструмент командной строки, такой как Wget, для входа на сайт OpenID?

В частности, я хотел бы иметь возможность загружать определенные страницы из моего профиля пользователя на различных сайтах Stack Exchange. Я хотел бы, однако, сделать это автоматически (с помощью ...
10
голосов
5ответов
22k показов

Как вы используете WGET для зеркалирования сайта на 1 уровень, восстанавливая JS, CSS ресурсы, включая CSS изображения?

Притворись, что я хотел, чтобы простая копия страницы была загружена на мой HD для постоянного хранения. Я не ищу глубокую рекурсивную загрузку, просто одну страницу, но также и любые ресурсы, ...
10
голосов
4ответа
5k показов

Wget молчит, но отображает сообщения об ошибках

Я хочу загрузить файл с помощью Wget, но, согласно обычной философии UNIX, я не хочу, чтобы он что-либо выводил, если загрузка прошла успешно. Однако, если загрузка не удалась, я хочу сообщение об ...
10
голосов
3ответа
18k показов

Цикл по диапазону номеров для загрузки с помощью wget

Как я могу написать скрипт bash, который будет делать следующее: URL = "example.com/imageID=" while (1..100) wget URL + $i #it will wget example.com/imageID=1, then 2, then 3, etc done Таким образом, ...
9
голосов
1ответ
7k показов

Как загрузить всю папку с aria2?

Aria2 - отличная замена wget , обладающая множеством функций, таких как многопоточность, разделенная загрузка, резюме загрузки и т.д. Но наличие всех этих функций и опций может затруднить выполнение ...
9
голосов
1ответ
4k показов

Зеркально отразить блог с помощью wget

Я пытаюсь отразить блог, например, www.example.com , с помощью wget . Я использую wget со следующими параметрами (переменные оболочки подставляются правильно): wget -m -p -H -k -E -np \ -w 1 \ ...
9
голосов
1ответ
13k показов

Как я могу загрузить частный репозиторий с GitHub без доступа к «git» на моем локальном компьютере?

То, что я хочу сделать, это загрузить частный архив репозитория с GitHub, распаковать его, удалить архивный файл и скопировать некоторые каталоги, которые находятся внутри загруженного проекта. Я ...
9
голосов
3ответа
8k показов

Заставьте wget не загружать файлы размером больше X

Хорошо, я сдаюсь. Как ограничить размер загружаемых файлов, например, я не хочу, чтобы файлы размером более 2 МБ?
9
голосов
4ответа
28k показов

Как совместить wget и grep

У меня есть URL-адрес HTML-страницы, и я хочу, чтобы grep его. Как я могу сделать это с помощью wget someArgs | grep keyword? Моей первой идеей было wget -q -O - url | grep keyword , но вывод wget ...
9
голосов
3ответа
33k показов

Как скачать список файлов с файлового сервера?

Как бы мне загрузить список файлов с файлового сервера, например, http://www.apache.org/dist/httpd/binaries/ ? Я полагаю, я мог бы использовать wget, но затем он пытается получить все ссылки и ...
8
голосов
2ответа
8k показов

Можно ли настроить wget для отображения времени передачи в миллисекундах?

Как правило, wget показывает время передачи в секундах. Есть ли способ, которым я могу показать время в миллисекундах?
8
голосов
1ответ
7k показов

как возобновить процесс wget?

Я случайно закрыл терминал при запуске процесса wget для загрузки веб-сайта. Прошло 2 дня с тех пор, как я запустил процесс wget, поэтому я не знаю его статуса. Вчера трафик был высоким, а сегодня ...