本文目录一览

1，爬虫的数据库选型redisleveldbmongodbmysql 选哪个

爬虫推荐mongodb: 好处如下: 数据结构利于保存和提取 适合提供便利的restapi 数据量过大可以分库存储
爬虫推荐mongodb：好处如下：1. 数据结构利于保存和提取2. 适合提供便利的restapi3. 数据量过大可以分库存储

爬虫的数据库选型redisleveldbmongodbmysql 选哪个

2，python 爬虫安装哪些库库

numpy、scipy、pandas
一般用到urllib.request，urllib.parse，http.cookiejar, re和beautifulsoup等模块，视要爬的数据，网页来定，最基本的用到urllib.request和re就可以了，读取网页html，再用re的正则匹配，在深入就要用到其他模块了，当然还有许多其他的好模块，暂时列几个常用的

python 爬虫安装哪些库库

3，python 爬虫调用了哪些库

请求: requests/urllib/aiohttp(异步请求)/socket(socket请求)json解析: jsonhtml解析: pyquery/bs/lmxl/re...csv: csvsql: sqlite/mysql...科学计算: numpy/scipy/matplotlib模拟浏览器: selenium
一般用到urllib.request，urllib.parse，http.cookiejar, re和beautifulsoup等模块，视要爬的数据，网页来定，最基本的用到urllib.request和re就可以了，读取网页html，再用re的正则匹配，在深入就要用到其他模块了，当然还有许多其他的好模块，暂时列几个常用的

python 爬虫调用了哪些库

4，python 爬虫 爬什么数据

主要就是爬一些网页内容。比如 百度、google，就是靠着上万个爬虫服务器去爬取所有静态网页内容，然后缓存在自己的服务器，以便网民搜索。再比如，A网站有很多比较不错的图片、文章等信息，B网站自己没能力出原创，就通过爬虫去A把图片、文章爬下来后，直接发布在B网站。等等等等......
什么是爬虫？网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。其实通俗的讲就是通过程序去获取web页面上自己想要的数据，也就是自动抓取数据爬虫可以做什么？你可以爬取小姐姐的图片，爬取自己有兴趣的岛国视频，或者其他任何你想要的东西，前提是，你想要的资源必须可以通过浏览器访问的到。爬虫的本质是什么？上面关于爬虫可以做什么，定义了一个前提，是浏览器可以访问到的任何资源，特别是对于知晓web请求生命周期的学者来说，爬虫的本质就更简单了。爬虫的本质就是模拟浏览器打开网页，获取网页中我们想要的那部分数据。
爬虫的概念是，爬取网上能看到的数据，也就是只要网上存在的，通过浏览器可以看到的数据。爬虫都可以爬取。爬虫爬取的原理就是伪装成浏览器，然后进行爬取操作哪些数据你需要你就可以爬取。比如爬取公司竞争对手的商业数据，爬取电影，音乐，图片等等的。只要你希望得到的，前提浏览器可以访问的都可以爬取

5，python网络数据采集常用什么库

urllib2或者urllib3加上beautifulsoup就能采集一些简单的网络数据了大型一点的框架用scrapy，pyspider应该好些
由于项目需求收集并使用过一些爬虫相关库，做过一些对比分析。以下是我接触过的一些库：beautiful soup。名气大，整合了一些常用爬虫需求。缺点：不能加载js。scrapy。看起来很强大的爬虫框架，可以满足简单的页面爬取（比如可以明确获知url pattern的情况）。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。但是对于稍微复杂一点的页面，如weibo的页面信息，这个框架就满足不了需求了。mechanize。优点：可以加载js。缺点：文档严重缺失。不过通过官方的example以及人肉尝试的方法，还是勉强能用的。selenium。这是一个调用浏览器的driver，通过这个库你可以直接调用浏览器完成某些操作，比如输入验证码。cola。一个分布式爬虫框架。项目整体设计有点糟，模块间耦合度较高，不过值得借鉴。以下是我的一些实践经验：对于简单的需求，比如有固定pattern的信息，怎么搞都是可以的。对于较为复杂的需求，比如爬取动态页面、涉及状态转换、涉及反爬虫机制、涉及高并发，这种情况下是很难找到一个契合需求的库的，很多东西只能自己写。至于题主提到的：还有，采用现有的python爬虫框架，相比与直接使用内置库，优势在哪？因为python本身写爬虫已经很简单了。third party library可以做到built-in library做不到或者做起来很困难的事情，仅此而已。还有就是，爬虫简不简单，完全取决于需求，跟python是没什么关系的。

文章TAG：爬虫可以爬哪些数据库  爬虫的数据库选型redisleveldbmongodbmysql  选哪个  
下一篇