Я не верю, что это проблема сети.
Скорее всего, проблема с памятью. Имея только 2 ГБ ОЗУ сервера и работающий RSYNC для файла 5G, я бы сначала заподозрил сервер. Вы можете следить за памятью сервера, если вы ее используете.
У клиентской стороны тоже могут быть проблемы. Я отказался от RSYNC для Windows, например, потому что он всегда зависал на больших файлах, независимо от того, сколько у вас было оперативной памяти.
Мне нужно было бы спросить, был ли rsync подходящим инструментом для работы с такими большими файлами. Конечно, это зависит от файла, но если какие-либо обновления не будут доступны для механизма сравнения rsync, то, вероятно, в этом нет никакого смысла. Прямая передача может быть лучше. Вы можете даже использовать что-то вроде zip или tar, чтобы разбить файл, чтобы вы могли отправить его по частям и собрать на другом конце.