Laical查看:0 回复:0 评论:0 创建时间:2019-10-15T17:27:27用户:
一、爬虫可以采集哪些数据
1.图片、文本、视频
爬取商品（店铺）评论以及各种图片网站，获得图片资源以及评论文本数据。
掌握正确的方法，在短时间内做到能够爬取主流网站的数据，其实非常容易实现。
2.作为机器学习、数据挖掘的原始数据
比如你要做一个推荐系统，那么你可以去爬取更多维度的数据，做出更好的模型。
3.进行市场调研和商业分析
爬取知乎优质答案，筛选各话题下最优质的内容； 抓取房产网站买卖信息，分析房价变化趋势、做不同区域的房价分析；爬取招聘网站职位信息，分析各行业人才需求情况及薪资水平。
二、爬虫借用什么工具可以提高效率
1.换http代理——亿牛云
爬虫通常通过换IP来突破限制，比如亿牛云代理。
爬虫一般采集一次或者多次就会更换ip，因为局域网对上网用户的端口、目的网站、协议、游戏、即时通讯软件等的限制，网站对于IP的访问频率、访问次数的限制等，如果要突破这些限制，是需要使用代理IP，通过更换IP，来增加访问的次数。
另一方面，通过亿牛云代理也可以隐藏用户的真实身份，访问一些不希望对方知道你IP的服务器，爬取一些数据等等。
2.验证码识别工具-OCR
现在验证码几乎在任何一个网站的交互界面中都存在，目的当然是为了防止恶意程序的攻击。
在使用爬虫时，如果获取速度过快，通常会出现验证码验证当前访问的是人还是爬虫，如果我们想获取到验证码，就需要从这个验证码的图片中分析出来到底是什么字符。这就需要OCR技术。
对于爬虫可以采集哪些数据，通过上文的认识，大家都有数了，使用爬虫的过程中，为了更有效率的采集数据，需要借用一些工具，那么爬虫借用什么工具可以提高效率？可以使用亿牛云代理来突破IP限制，增加访问次数，提高效率。