Во-первых, убедитесь, что двоичные файлы Virtual Box находятся на вашем пути. Это делается по умолчанию в Linux, но в Windows вам, возможно, придется вручную добавить папку bin каталога установки в ваш путь.
Затем вам нужно знать либо имя вашей гостевой ОС, либо номер UUID. Вы можете найти оба из них, набрав
VBoxManage list vms
в терминал. Оттуда просто введите
VBoxHeadless -s <Guest-OS-Name>
или же
VBoxHeadless -s <UUID>
Это запускает виртуальную машину без привязки ее дисплея к окну. Теперь все, что вам нужно сделать, это установить эту команду в качестве службы времени загрузки, которая работает в фоновом режиме, и вы будете настроены.