Rundll32 - это просто хост-процесс, который загружает DLL и вызывает функцию в этой DLL. «Интересная» часть - это не сам исполняемый файл (который является частью Windows), а вместо этого загруженная им dll и то, что делает эта dll.
Sysinternals Process Explorer - ваша лучшая ставка на выяснение того, что загрузил данный конкретный экземпляр; это работает какой-то стандартный процесс / служба Windows, или это размещение вредоносных программ? Аргументы командной строки, с которыми он был запущен, покажут; первый аргумент - это dll, который он загружает, второй - точка входа, за которой следуют параметры, переданные ей.
Как кто-то еще упомянул: fiddler, wireshark, сетевой монитор MS и т.д. Могут быть полезны для отслеживания того, почему он использует большую пропускную способность сети и с кем он общается. Часть "кто" также может быть раскрыта с помощью простого «netstat -oa».
Наконец, да, в 64-битной системе у вас будет две копии rundll32: 64-битная версия в system32 и 32-битная версия в syswow64.