Ни для кого не секрет, если необходимо скачать все файлы какой-либо веб-страницы, то в *nix системах можно воспользоваться командой wget. Данная консольная программа позволяет также скачивать страницы сайта рекурсивно.
Флаг -r позволяет скачать файлы сайта рекурсивно:
wget -r http://example.com
Параметр --no-parent исключает родительскую директорию:
wget -r --no-parent http://example.com
Также можно рекурсивно скачать все файлы сайта определенного формата. Например, jpg:
wget -r -A .jpg http://example.com