給定一篇新聞的鏈接newsUrl,獲取該新聞的全部信息
標題、作者、發布單位、審核、來源
發布時間:轉換成datetime類型
點擊:
- newsUrl
- newsId(使用正則表達式re)
- clickUrl(str.format(newsId))
- requests.get(clickUrl)
- newClick(用字符串處理,或正則表達式)
- int()
整個過程包裝成一個簡單清晰的函數。


1 import requests 2 import re 3 from bs4 import BeautifulSoup 4 def click(url):#獲取點擊次數 5 id=re.findall('(\d{1,5})',url)[-1] 6 clickUrl='http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80'.format(id) 7 res=requests.get(clickUrl) 8 newsClick=res.text.split('.html')[-1].lstrip("('").rstrip("');") 9 return newsClick 10 11 def newsdt(showinfo):#轉換成datetime類型 12 newsDate=showinfo.split()[0].split(':')[1] 13 newsTime=showinfo.split()[1] 14 newsDT=newsDate+' '+newsTime 15 #newsDT=datetime.strptime(newsDT,'%Y-%m-%d %H:%M:%S') 16 return newsDT 17 18 def newsid(url):#獲取新聞編號 19 newsID=re.findall('(\d{1,5})',url)[-1] 20 return newsID 21 22 def news(url): 23 res=requests.get(url) 24 res.encoding='utf-8' 25 soup=BeautifulSoup(res.text,'html.parser') 26 title=soup.select('.show-title')[0].text 27 showinfo=soup.select('.show-info')[0].text 28 newsDT=newsdt(showinfo) 29 author=soup.select('.show-info')[0].text.split()[2]#獲取作者 30 check=soup.select('.show-info')[0].text.split()[3]#獲取審核 31 comefrom=soup.select('.show-info')[0].text.split()[4]#獲取來源 32 detail=soup.select('.show-content ')[0].text#獲取新聞的具體內容 33 newsID=newsid(url)#獲取新聞編號 34 newsClick=click(url)#獲取點擊次數 35 title='新聞標題:'+title 36 newsClick='文章點擊次數:'+newsClick 37 newsID='新聞編號:'+newsID 38 newsDT='發布日期:'+newsDT 39 pr=(newsClick,title,newsDT,newsID,author,check,comefrom,detail)#輸出新聞的各種信息 40 return pr 41 url='http://news.gzcc.cn/html/2019/jxky_0329/11100.html' 42 print(news(url))
?