
类型: 兴趣社交 版本: V4.2
大小: 506.3 时间: 2025-11-15





WebMagic是一个简单灵活的Java爬虫框架。基于WebMagic,你可以快速开发出一个高效、易维护的爬虫。webmagic采用完全模块化的设计,功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化),支持多线程抓取,分布式抓取,并支持自动重试、自定义UA/cookie等功能。

(1)由于我这个爬虫的抓取有分页,而且它的分页通过js跳转的,抽取出来感觉有点麻烦,我想直接得到所有的信息,发现可以通过输入url地址请求得到所有的信息(这是网站的一个小问题,它没有设置每页数据记录条数的范围),但是需要登录才可以进行url地址的访问,就要使用cookie模拟登录。
(2)下面分析有关登录信息的cookie,我使用的是chrome,点击如图位置,会看到此网站的cookie,(如果已经访问了一段时间了,可以清除所有cookie然后重新登录再访问,否则可能会有很多的cookie,分析起来不方便),由于只有5个cookie,直接加上就可以访问了
本次更新增加了Downloader模块的一些功能。
#609修复HttpRequestBody没有默认构造函数导致无法反序列化的bug。
#631HttpRequestBody的静态构造函数不再抛出UnsupportedEncodingException受检异常。
#571Page对象增加bytes属性,用于获取二进制数据。下载纯二进制页面时,请设置request.setBinarayContent(true),这样对于二进制内容不会尝试转换为String,减小开销。
#629在HttpUriRequestConverter中会自动对一些导致URI异常的字符进行转移或过滤。
#610自动识别编码时,可以识别Content-Type中charset为大写的情况。
#627支持为Request单独设置页面编码,兼容同一站点多种编码方式的情况。
#613Page对象增加charset属性,其值为request/site中设置的charset,或者为自动检测的charset(未定义时)。
#606升级jsonpath到2.4.0
#608升级jsoup到1.10.3
WebMagic是java上面经常的需要的一款爬虫类型的工具了,现在就可以试试最新的0.7.3版本,功能以及使用上面都是完全的免费的,欢迎大家试试!仙剑奇侠传五变态版下载-仙剑奇侠传五bt版5.5.04 安卓最新版
美丽多FTP上传工具下载-美丽多FTP上传工具1.0 免费版
1,519.1M
美丽多FTP上传工具是一个免费开源且跨平台的ftp解决方案,分为客户端版本和服务器版本,具备所有的FTP软件功能。在Windows,Linux,MacOSX下的...
暴风影音win8.1下载-暴风影音win8版1.1 官方最新版【只支持win8系统】
1,589.1M
暴风影音相信很多的朋友都是非常的喜欢在自己的电脑上面使用的,现在东坡小编就给喜欢使用暴风影音的朋友专门介绍下面的这款最新的暴风影音win8版!暴风影音win8版...
HiDownloadV6.9x完美注册机
470.8M
HiDownload(HD)是一款可以从Web,FTP站点,MMS和RTSP站点下载文件的下载管理工具。它可在Windows9x/ME/NT/2000/XP系统...
用户名批量生成工具下载-用户名生成器(随机用户名)1.0 绿色免费版
803.2M
随机用户名是一款功能强大的用户名生成器,还在因为各种注册的用户名重复而无法注册烦恼么,通过本工具能够快速的生成各种用户名给使用者选择,有需要的可以下载试试。使用...
米家智能摄像机电脑版下载-米家智能摄像机pc端1.0.1 官方最新版
643.3M
米家智能摄像机pc端是一款与米家智能摄像机配套的电脑端摄像头监控管理软件,方便用户在电脑上对监控区域的视频回放、实时观看,轻松的调看视频,支持米家智能摄像机通用...
电信宽带一键提速软件-宽带一键提速50M工具V1.2 最新版【已更新】
1,239.3M
宽带提速本来就是响应党和政府的号召,近两年提速效果明显,但是还是有人觉得网速不够?免费分享2016年最新的宽带一键提速50M工具,主要是针对联通、电信用户实现提...
机械原理课程设计软件绿色免费版
1,900.8M
机械原理课程设计软件,这款软件是根据西北工业大学、机械设计课程设计第二版为基础的,软件内容完全是围绕这个版本来进行。软件说明此软件对应课本课本内容简介机械原理课...
究极进化1.0正式版附有地图攻略
1,826.3M
究极进化是一款全新推出的防守型魔兽地图,喜欢玩新图的小伙伴们不要错过了。它以数码宝贝为题材背景,加入了很多有趣的玩法,这里带来了究极进化1.0正式版,附有地图攻...
麦当劳雪碧活动二维码生成器-麦当劳雪碧生成器1.0.0 绿色免费版
305.4M
喜欢吃麦当劳的朋友都是知道现在麦当劳在举行雪碧活动,你想自己制作一个雪碧活动的二维码吗?想却不知道怎么才可以快速的制作这个麦当劳雪碧活动二维码的可以试试麦当劳雪...
Ultimate Defrag 3(专业磁盘整理软件)极简汉化免费版
230.5M
一款价值30美元的UltimateDefrag3就送给大家了,是某网友在网上购买后免费发布后赚热心值被东坡小编发现了,就转过来发布给大家使用了,特别的专业,帮助...
芙兰朵露动态壁纸下载-wallpaper engine芙兰朵露动态壁纸1080P超清版
642.2M
wallpaperengine芙兰朵露动态壁纸是小编给大家提供的一款最新动态壁纸,芙兰朵露应该大家都很熟悉了,东方里面的人物,非常的可爱调皮,动态壁纸更加有意思...
2015年日历-2015羊年自然风景电脑桌面日历壁纸jpg格式高清版
320.7M
今天小编和大家分享的是一套2015年日历,具体为2015羊年自然风景电脑桌面日历壁纸,里面包含12张2015年日历桌面壁纸,希望大家会喜欢这套电脑桌面壁纸201...
Norton Antivirus 病毒库20060530-034
132.7M
NortonAntiVirus是一套强而有力的防毒程序,它可帮你侦测上万种已知和未知的病毒,并且每当开机时,自动防护便会常驻在SystemTray,当你从磁盘、...
系统急救软件(老九一键急救系统)2.0 官方版
1,627.0M
老九一键急救系统是一款系统急救工具,当您的系统崩溃或者其他原因导致无法启动的时候,一键急救系统功能能帮您维护或者重装系统,很方便很快捷。老九一键急救系统绝对不会...
一键电音官方下载-一键电音K歌伴侣13.5 完美版
452.7M
一键电音K歌伴侣量是一款很强的网络k歌音频软件,支持一键电音,有600多种效果,电音,爆麦,闷麦,变声,唱歌等等操作,还有栏目机架控制平台,可以查电音基调,音频...
正则表达式测试器 1.0┊方便地进行正则表达式的匹配测试┊简体中文绿色免费版v1.0
2025/10/23 14:44
爱国主义教育ppt-爱国勇敢团结主题班会ppt(共32页)免费版【小学三年级】
2025/10/04 07:00
天蝎OCR识别工具下载-天蝎OCR图片文字识别工具绿色版
2025/11/08 07:55
元贝驾考tv免费版下载-元贝驾考tv vip版1.1.0 专业版
2025/10/30 20:59
高效办下载-高效办软件1.3.2安卓版
2025/10/29 06:55
剪切板记录器-剪切板记录器下载1.0 绿色版
2025/11/07 16:40
起凡对战平台官方下载-起凡对战平台2.3.0.5官方版
2025/10/26 07:49
Macromedia Fireworks V8.0 简体中文破解版
2025/10/12 02:28
flash cc下载-Adobe Flash Professional CC13.00.759 官方版【2013】
2025/10/09 10:58
Task Coach V0.78.1 多国语言免费版
2025/10/21 20:41
科学计算器-科学计算器DreamCalc Professional Edition4.10.2 破解版
2025/10/24 06:45
鼠年四字吉祥话2020-2020鼠年四字祝福语图片新春版
2025/10/14 18:52
数学七下全套ppt课件-数学七年级下册全套ppt下载人教版
2025/10/15 19:48
剪切板增强工具-剪切板增强工具(FastFRecord)1.0 绿色免费版
2025/11/09 04:54
fba文件写入u盘-AM_fba写入工具1.1 绿色版
2025/11/07 12:42
fba文件写入u盘-AM_fba写入工具1.1 绿色版
2025/11/07 12:42更新
AM_fba写入工具其实款非常好用的U盘辅助工具。大家能够借助他来将fba文件写入到U盘或移动磁盘中。对于需要的朋友来说,建议还是立刻下载!AM_fba写入工具...
支持 ( 109 ) 盖楼(回复)
支持 ( 165 ) 盖楼(回复)
支持 ( 108 ) 盖楼(回复)
支持 ( 76 ) 盖楼(回复)
支持 ( 100 ) 盖楼(回复)
支持 ( 144 ) 盖楼(回复)
支持 ( 144 ) 盖楼(回复)
支持 ( 112 ) 盖楼(回复)
支持 ( 189 ) 盖楼(回复)
支持 ( 195 ) 盖楼(回复)
支持 ( 15 ) 盖楼(回复)
支持 ( 133 ) 盖楼(回复)
支持 ( 186 ) 盖楼(回复)
支持 ( 130 ) 盖楼(回复)
支持 ( 8 ) 盖楼(回复)
支持 ( 108 ) 盖楼(回复)
支持 ( 95 ) 盖楼(回复)
支持 ( 67 ) 盖楼(回复)
支持 ( 163 ) 盖楼(回复)
支持 ( 60 ) 盖楼(回复)