Python是数据科学家十分喜爱的编程语言,其内置了很多由C语言编写的库,操作起来更加方便,Python在网络爬虫的传统应用领域,在大数据的抓取方面具有先天优势,目前,最流行的爬虫框架Scrapy,HTTP工具包urlib2,HTML解析工具beautifulsoup,XML解析器lxml,等等,都是能够独当一面的Python类库。
Python十分适合数据抓取工作,对于大数据的处理,具有一定的局限性:
Python在大数据处理方面的优势:
1. 异常快捷的开发速度,代码量少;
2. 丰富的数据处理包,使用十分方便;
3. 内部类型使用成本低;
4. 百万级别数据可以采用Python处理。
Python在大数据处理方面的劣势:
1. python线程有gil,多线程的时候只能在一个核上跑,浪费了多核服务器;
2. python执行效率不高,在处理大数据的时候,效率不高;
3. 10亿级别以上的数据Python效率低。
Python适合大数据的抓取、载入和分
订阅专栏 解锁全文
1249




被折叠的 条评论
为什么被折叠?



