您现在的位置是:焦点 >>正文
网站下载器网站整站下载器
焦点1人已围观
简介去年冬天,我需要把一个小型设计博客的全部教程保存下来。那个站有四百多篇文章,每篇都配了高清截图。手动右键另存?干到第三篇我就放弃了。后来朋友扔给我一个工具,说“整站抓下来就行”。那是我第一次认真用网站 ...
去年冬天,网站我需要把一个小型设计博客的下载全部教程保存下来。那个站有四百多篇文章,器网每篇都配了高清截图。站整站下载器手动右键另存?网站干到第三篇我就放弃了。后来朋友扔给我一个工具,下载说“整站抓下来就行”。器网那是站整站下载器我第一次认真用网站下载器。
网站下载器跟普通下载工具完全是网站两码事。你给它一个首页地址,下载它自己顺着链接爬完整站,器网把HTML、站整站下载器CSS、网站JS、下载图片、器网字体全拽到本地。更关键的是,它会在本地重建目录结构,你点开index.html,整个站跟在线时长得一模一样。我用的那个叫HTTrack,开源免费,界面丑得感人,但管用。设置里有个“最大深度”选项,填3就抓三层链接,填0就全站无限爬——我那次设了0,硬盘里多了2.3GB的东西。
为什么有人需要整站下载
做竞品分析的产品经理会懂。把对手官网整个镜像下来,离线慢慢翻他们的定价页改过几版、帮助文档埋了什么关键词。比在线翻效率高太多。还有个做外贸的朋友,客户在非洲网速差,他把产品站整站抓下来刻成光盘寄过去。客户打开光盘就能浏览,不需要联网。
我自己最常用的场景是存档。有些独立博客作者哪天不高兴就把站关了,域名一过期,那些文章就真没了。互联网档案馆收录得不全,图片经常丢。整站下载器抓下来的是一份完整副本,连favicon都在。
几个实际用起来才会发现的坑
动态加载的内容抓不到。现在很多站用React或Vue,文章列表是JS渲染出来的,HTTrack这类传统工具只能看见空壳。解决办法是用带无头浏览器的工具,比如Cyotek WebCopy配合Chrome内核,或者干脆上wget加--recursive配合puppeteer脚本。麻烦,但能抓到。
还有robots.txt。正规下载器会遵守它,有些站直接写“Disallow: /”,你设了也没用。强行抓也不是不行,加个忽略robots的选项,但那就属于灰色地带了。我一般只抓允许的范围,或者直接找站长要备份。
登录后的内容更头疼。需要cookie或session的站,得先在浏览器登录,导出cookie给下载器。有些工具支持模拟登录,填用户名密码就行。但两步验证的站基本没戏。
选工具看什么
HTTrack够用但老。Windows上有个叫Teleport Pro的,界面像Windows 98,功能意外地稳。Mac用户可以用SiteSucker,App Store里卖$4.99,胜在简单。命令行党直接wget -r -p -k -E,一行命令搞定,就是参数得查半天。
我现在的做法是:小站用HTTrack,动态站用Cyotek WebCopy,需要登录的用wget配合手动导cookie。没有哪个工具能通吃所有情况。那些宣传“一键整站下载”的软件,多半在某个环节会掉链子。
最后提醒一句:抓下来的站别拿去公开传播。自己存档、分析、离线看没问题,原样挂到公网上就涉及版权了。工具是中性的,用的人得有点分寸。
Tags:
相关文章
李继耐之子李磊涉嫌严重违纪
焦点李继耐之子李磊涉嫌严重违纪的消息,在军队系统内部传开的那天,我正巧和一位转业的老战友吃饭。他放下筷子,第一句话是:“这回怕是要动真格的了。”老战友在部队干了二十年,见过不少风浪,但他脸上那种复杂的表情 ...
【焦点】
阅读更多如何访问境外的网站
焦点2018年夏天,我在曼谷的酒店里用手机刷Instagram,发现隔壁桌的英国游客正对着手机骂骂咧咧——他连不上Google地图,因为用的是当地SIM卡。我递过去一张纸条,上面写着“用Cloudflar ...
【焦点】
阅读更多威猛bc1000s树枝粉碎机
焦点柴油机轰鸣的瞬间,BC1000S的进料口像一张贪婪的嘴,把整根碗口粗的松木吞进去,不到十秒,碎屑从出料口喷成一道褐色的瀑布。我头一回见这场景是在城郊的绿化养护站,老师傅叼着烟,随手甩进一根带节疤的硬 ...
【焦点】
阅读更多