python測試工具開發面試寶典3web抓取

2019獨角獸企業重金招聘Python工程師標準>>> hot3.png

用requests輸出網站返回頭

輸出 'https://china-testing.github.io/' 的返回頭

  • 參考答案
In [1]: import requestsIn [2]: url = 'https://china-testing.github.io/'In [3]: response = requests.get(url)In [4]: response.request.headers
Out[4]: {'User-Agent': 'python-requests/2.18.4', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}

requests是HTTP訪問極其重要的庫,比較常用的屬性有:response.status_code、response.text。

更多參考資料:python工具庫介紹-requests:人性化的HTTP

用Requests和BeautifulSoup爬取博客標題

爬取 https://china-testing.github.io/ 首頁的博客標題,共10條.

  • 參考答案
# -*- coding: utf-8 -*-
# 討論釘釘免費群21745728 qq群144081101 567351477
# CreateDate: 2018-10-16import requests
from bs4 import BeautifulSoupdef get_upcoming_events(url):req = requests.get(url)soup = BeautifulSoup(req.text, 'lxml')events = soup.findAll('article')for event in events:event_details = {}event_details['name'] = event.find('h1').find("a").textprint(event_details)get_upcoming_events('https://china-testing.github.io/')

執行結果:


$ python3 blogs.py
{'name': '接口自動化性能測試線上培訓大綱'}
{'name': '2018最佳人工智能圖像處理工具OpenCV書籍下載'}
{'name': 'IBM開發社區python精品文章匯總'}
{'name': 'python工具庫介紹-requests:人性化的HTTP'}
{'name': '中草藥的故事-金銀花(標準中藥)- 清熱解毒,疏散風熱'}
{'name': '中草藥的故事-合歡花(標準中藥)'}
{'name': '中草藥的故事-吳茱萸(標準中藥)'}
{'name': '[雪峰磁針石博客]python3快速入門教程9重要的標準庫-高級篇'}
{'name': '[雪峰磁針石博客]python3快速入門教程11命令行自動化工具與pexpect'}
{'name': '[雪峰磁針石博客]python3快速入門教程9重要的標準庫-基礎篇'}

BeautifulSoup的默認解析器為html.parser,處理大頁面比較吃力,為此使用lxml。解釋器html5lib的行為和瀏覽器表現類似。

最新代碼地址

https://github.com/china-testing/python-api-tesing/blob/master/python-automation-cook/ch3/blogs.py

selenium訪問'https://httpbin.org/forms/post'

用selenium訪問'https://httpbin.org/forms/post',填充內容

圖片.png

  • 參考答案
# 討論釘釘免費群21745728 qq群144081101 567351477
# CreateDate: 2018-10-16from selenium import webdriver
import timebrowser = webdriver.Chrome()
browser.get('https://httpbin.org/forms/post')
custname = browser.find_element_by_name("custname")
custname.clear()
custname.send_keys("python測試開發")time.sleep(2)
for size_element in browser.find_elements_by_name("size"):  if size_element.get_attribute('value') == 'medium':size_element.click()time.sleep(2)        
for topping in browser.find_elements_by_name('topping'):if topping.get_attribute('value') in ['bacon', 'cheese']:topping.click()time.sleep(2)           
browser.find_element_by_tag_name('form').submit()

執行結果

{"args": {}, "data": "", "files": {}, "form": {"comments": "", "custemail": "", "custname": "python\u6d4b\u8bd5\u5f00\u53d1", "custtel": "", "delivery": "", "size": "medium", "topping": ["bacon", "cheese"]}, "headers": {"Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8", "Accept-Encoding": "gzip, deflate, br", "Accept-Language": "zh-CN,zh;q=0.9", "Cache-Control": "max-age=0", "Connection": "close", "Content-Length": "132", "Content-Type": "application/x-www-form-urlencoded", "Host": "httpbin.org", "Origin": "https://httpbin.org", "Referer": "https://httpbin.org/forms/post", "Upgrade-Insecure-Requests": "1", "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"}, "json": null, "origin": "183.62.236.90", "url": "https://httpbin.org/post"
}

轉載于:https://my.oschina.net/u/1433482/blog/2247004

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/537694.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/537694.shtml
英文地址,請注明出處:http://en.pswp.cn/news/537694.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

計算機網絡本直通線的制作方法,電腦網絡:教你一分鐘自制高質量網線(含水晶頭分類),不求人...

在文章開頭,我們首先來介紹一下制作水晶頭需要用到的工具——網線鉗。這不是多么高科技的東西,價格也不貴,普通用戶都能接受,從網上或是線下都能買到。網線水晶頭的制作及檢測方法,從來沒人寫過這么全我們主要用到網線…

Communications link failure,The last packet successfully received from the serve

最近做測試,發現Mysql 過一段時間會無法連接,導致數據庫數據不一至,極其郁悶。 使用Connector/J連接MySQL數據庫,程序運行較長時間后就會報以下錯誤: Communications link failure,The last packet succ…

sap crm button_正值SAP中國成立25周年之際,江蘇金來奇智能科技SAPB1項目正式啟動...

正值SAP中國成立25周年之際,江蘇金來奇智能科技的SAP項目于2020年11月02日正式啟動,代表著SAPB1在智能裝備行業又一成功的案例。江蘇金來奇隸屬于無錫金鑫集團股份有限公司,無錫金鑫集團股份有限公司坐落于風景秀麗的太湖之濱,位于…

安裝hadoop集群---resourcemanager和NameNode不在同一臺機器上

1、復制虛擬機,搞了5臺。 1:namenode 2:secondardNameNode,resourcemanager 3,4,5:DataNode 2、修改了網卡配置,連接上SecureCRT ---------root----用戶---------- 3、date查看了…

cf375D. Tree and Queries(莫隊)

題意 題目鏈接 給出一棵 n 個結點的樹,每個結點有一個顏色 c i 。 詢問 q 次,每次詢問以 v 結點為根的子樹中,出現次數 ≥k 的顏色有多少種。樹的根節點是1。 Sol 想到了主席樹和啟發式合并。。很顯然都不能做。 標算是dfs序上暴力莫隊。。甘…

it項目管理 pdf_IT項目管理的控制經驗

據調查,只有37%的IT項目在計劃時間內完成,42%的在預算內完成。IT項目成功率不高的根源在于IT項目管理是項系統工程,不僅需要項目經理個人具備一定的組織、決策、技術、業務、溝通能力,更需要運用多種手段對項目的時間、質量、成本…

安裝hadoop集群---resourcemanager和NameNode同一臺機器上

1、復制虛擬機,搞了5臺。 1:namenode,resourcemanager 2:secondardNameNode 3,4,5:DataNode 2、修改了網卡配置,連接上SecureCRT ---------root----用戶---------- 3、date查看了…

ps把圖摳到html里,ps摳圖教程:手把手教你如何用ps摳頭發絲

PS摳圖是現在常見的摳圖方法之一,色塊分明的圖是很好摳的,但是如果是需要摳出來的物體是細微凌亂的呢?就像頭發絲。PS如何摳頭發絲才能毫無P圖痕跡?如何摳頭發絲一類的圖像呢,本文介紹的是使用通道結合其余一些命令完成…

臻識科技用全智能相機,把智慧城市的交通/安防/工業制造做到極致

儼然,智慧城市已經是一個技術密集、資本密集、巨頭密集、關注度密集的大熱門領域。 從技術層面來看,智慧城市對當下熱門技術進行了綜合:Cloud、Big Data、AI、AR/VR、5G、IoT、Quantum Computing、Edge Computing、 Block Chain等&#xff0…

熱式氣體質量流量計檢定規程_寧夏熱式氣體質量流量計價位,玻璃管液位計怎么樣...

金湖中原儀表有限公司為您詳細解讀eJxKfc寧夏熱式氣體質量流量計價位的相關知識與詳情,氣體流量計是計量氣體流量的儀表。安拆正在管路中記載流過的氣體量。能夠丈量煤氣,空氣,氮氣,乙炔,,氫氣,…

自己從零安裝hadoop-HA集群

總體步驟 1、分配機器,各安裝什么軟件 2、每個節點設置時間一致,設置開機自動校驗時間。 3、每個節點修改主機名。 4、每個節點配置hosts。 5、每個節點關閉防火墻。 6、上傳JDK,配置JDK 7、創建hadoop用戶。 8、給hadoop用戶配置root…

高校學計算機研究生錄取分數排名,四川大學計算機學院2018年碩士研究生招生擬錄取名單及成績公示...

該樓層疑似違規已被系統折疊 隱藏此樓查看此樓四川大學計算機學院2018年碩士研究生招生擬錄取名單公示(全日制)姓名 擬錄取專業 總成績 初試成績 復試成績 備注白迪 計算機技術 75.3 353 160白婉玉 計算機技術 79.35 369 169.8曾春明 計算機技術 74.7 350 158.8陳澄 計算機技術…

藍牙基礎知識進階——Physical channel

藍牙基礎知識進階——Physical channel二、物理通道物理通道是piconet區分的標準,它是藍牙系統結構層次中的最底層了。Q1:物理通道有哪些類型物理通道通常可以分為四種類型:1、basicpiconet channel2、adaptedpiconet channel這兩種channel是…

mapreduce程序開發的一些總結

mapreduce在編程的時候,基本上一個固化的模式,沒有太多可靈活改變的地方,除了以下幾處: 1、輸入數據接口:InputFormat ---> FileInputFormat(文件類型數據讀取的通用抽象類) DBInputFormat (數據庫數據讀…

深度學習數據驅動_利用深度學習實現手繪數據可視化的生成

前一段時間,我開發了Sketchify, 該工具可以把任何以SVG為渲染技術的可視化轉化為手繪風格。(參考手繪風格的數據可視化實現 Sketchify)那么問題來了,很多的chart是以Canvas為渲染技術的,那要怎么辦&#xf…

遠程計算機無法操作,win7系統的QQ遠程協助無法控制計算機的問題的解決方法

在使用win7系統的計算機工作和學習過程中,可能會發生win7系統的QQ遠程協助無法控制計算機的情況. 如何處理win7系統的QQ遠程控制無法控制計算機的問題?對于計算機級別的用戶,如果win7系統qq遠程協助無法控制計算機,通常不知道該怎…

java應用中的日志介紹

日志在應用程序中是非常非常重要的,好的日志信息能有助于我們在程序出現 BUG 時能快速進行定位,并能找出其中的原因。 但是,很多介紹 AOP 的地方都采用日志來作為介紹,實際上日志要采用切面的話是極其不科學的!對于日志…

微軟全新Chromium版Edge瀏覽器下載

下載地址: https://www.microsoft.com/en-us/edge

企業網站 源碼 服務郵箱:_后來才知道:溫州騰訊企業郵箱定制服務

后來才知道:溫州騰訊企業郵箱定制服務 qnmsptdb后來才知道:溫州騰訊企業郵箱定制服務 軟文推廣得到大家的轉發之后,那么軟文的經濟價值也會隨之而來。內容更新質量言外之意,如果你長期更新低質量內容,是不可取的&#…

圣三一學院計算機專業,360教育集團:愛爾蘭都柏林大學圣三一學院計算機專業...

應用,新產品設計。網絡和分布系統的安全和管理課程介紹計算機基層和網絡安全,研究網絡管理的方法和高端信息服務的管理。這六個部分內容的學習包括每周大概20小時的溝通時間,包括講座、輔導、研討會、試驗等。絕大部分課程要求學生完成其他課…