您好,欢迎来到宝捱科技网。
搜索
您的当前位置:首页python采集百度百科的方法

python采集百度百科的方法

来源:宝捱科技网


本文实例讲述了python采集百度百科的方法。分享给大家供大家参考。具体如下:

#!/usr/bin/python
# -*- coding: utf-8 -*-
#encoding=utf-8 
#Filename:get_baike.py
import urllib2,re
import sys
def getHtml(url,time=10):
 response = urllib2.urlopen(url,timeout=time)
 html = response.read()
 response.close()
 return html
def clearBlank(html):
 if len(html) == 0 : return ''
 html = re.sub('
|
|	','',html)
 while html.find(" ")!=-1 or html.find(' ')!=-1 :
 html = html.replace(' ',' ').replace(' ',' ')
 return html
if __name__ == '__main__':
 html = getHtml('http://baike.baidu.com/view/4617031.htm',10)
 html = html.decode('gb2312','replace').encode('utf-8') #转码
 title_reg = r'

(.*?)

' content_reg = r'(.*?)

' title = re.compile(title_reg).findall(html) content = re.compile(content_reg).findall(html) title[0] = re.sub(r'<[^>]*?>', '', title[0]) content[0] = re.sub(r'<[^>]*?>', '', content[0]) print title[0] print '#######################' print content[0]

希望本文所述对大家的Python程序设计有所帮助。

Copyright © 2019- baoaiwan.com.cn 版权所有

违法及侵权请联系:TEL:199 18 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务