Ни для кого не секрет, если необходимо скачать все файлы какой-либо веб-страницы, то в *nix системах можно воспользоваться командой wget. Данная консольная программа позволяет также скачивать страницы сайта рекурсивно.

wget: рекурсивное копирование сайта целиком

 Флаг -r позволяет скачать файлы сайта рекурсивно:

wget -r http://example.com

Параметр --no-parent исключает родительскую директорию:

wget -r --no-parent http://example.com

Также можно рекурсивно скачать все файлы сайта определенного формата. Например, jpg:

wget -r -A .jpg http://example.com