脚本宝典收集整理的这篇文章主要介绍了

扣丁学堂Python培训简述Python批量获取html内body内容的方法

脚本宝典小编觉得挺不错的,现在分享给大家,也给大家做个参考,希望能帮助你少写一行代码,多一份安全和惬意。

小伙伴们大家好,本篇文章扣丁学堂Python培训小编给读者们分享一下Python批量获取html内body内容的实例,文中有详细的代码列出供小伙伴们参考,感兴趣的小伙伴就随小编来了解一下吧。

现在有一批完整的关于介绍城市美食、景点等的html页面,需要将里面body的内容提取出来。

方法:利用python插件beautifulSoup获取htmlbody标签的内容,并批量处理。

-- coding:utf8 --

from bs4 import BeautifulSoup

import os

import os.path

import sys

reload(sys)

sys.setdefaultencoding('utf8')

def printPath(level,path):

global allFileNum

所有文件夹,第一个字段是此目录的级别

dirList = []

所有文件

fileList = []

返回一个列表,其中包含在目录条目的名称

files = os.listdir(path)

先添加目录级别

dirList.append(str(level))

for f in files:

if(os.path.isdir(path+'/'+f)):

排除隐藏文件夹,因为隐藏文件夹过多

if(f[0] == '.'):

pass

else:

添加隐藏文件夹

dirList.append(f)

if(os.path.isfile(path+'/'+f)):

添加文件

fileList.append(f)

return (dirList,fileList)

将文件html文件抓取并写入指定txt文件

def getAndInsert(rootdir,savepath,path):

global file_num

f_list = os.listdir(rootdir+'/'+path)

for i in f_list:

temp = os.path.splitext(i)[0]

for num in range(1,11):

if(i==str(num)+'.html'):

print rootdir+'/'+path+'/'+i

objFile = open(rootdir+'/'+path+'/'+i)

soup = BeautifulSoup(objFile)

arr = []

for child in soup.body:

arr.append(child)

if os.path.exists(savepath+'/'+path):

pass

else:

os.makedirs(savepath+'/'+path)

f = open(savepath+'/'+path+'/'+temp+'.txt','w')

for k,v in enumerate(arr):

if k!=1:

f.write(str(v))

f.close()

print path+'/'+i+' is running'

file_num = file_num + 1

rootdir = '../zips2'

dirList,fileList = printPath(1,rootdir)

savepath = "../testC"

file_num = 0

for fn in dirList:

if(fn == '1'):

pass

else:

getAndInsert(rootdir,savepath,fn)

print fn+' is ending'

print '一共完成'+str(file_num)+'个城市的提取'

最后想要了解更多关于Python和人工智能方面内容的小伙伴,请关注扣丁学堂Python培训官网、微信等平台,扣丁学堂IT职业在线学习教育平台为您提供权威的Python开发环境搭建视频,Python培训后的前景无限,行业薪资和未来的发展会越来越好的,扣丁学堂老师精心推出的Python视频教程定能让你快速掌握Python从入门到精通开发实战技能。

总结

以上是脚本宝典为你收集整理的

扣丁学堂Python培训简述Python批量获取html内body内容的方法

全部内容,希望文章能够帮你解决

扣丁学堂Python培训简述Python批量获取html内body内容的方法

所遇到的程序开发问题,欢迎加入QQ群277859234一起讨论学习。如果觉得脚本宝典网站内容还不错,欢迎将脚本宝典网站推荐给程序员好友。 本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。

80%的人都看过