本文目錄一覽:
- 1、python phantomjs渲染網頁很慢怎麼解決
- 2、Python + selenium + phantomjs 求助,爬一個網站的信息
- 3、如何在Ubuntu和Debian上安裝PhantomJS
- 4、js動態加載的內容怎麼獲取易語言
- 5、LINUX中phantomjs怎麼設置環境變量
- 6、App顯示大疆精靈Phantom 3 Professional“設備未連接”,如何解決?
python phantomjs渲染網頁很慢怎麼解決
調用是超級簡單的
from tornado_fetcher import Fetcher
# 創建一個爬蟲
fetcher=Fetcher(
user_agent=’phantomjs’, # 模擬瀏覽器的User-Agent
phantomjs_proxy=”, # phantomjs的地址
poolsize=10, # 最大的httpclient數量
async=False # 同步還是異步
)
# 開始連接Phantomjs的代理,可以渲染JS!
fetcher.phantomjs_fetch(url)
# 渲染成功後執行額外的JS腳本(注意用function包起來!)
fetcher.phantomjs_fetch(url, js_script=’function(){setTimeout(“window.scrollTo(0,100000)}”, 1000)’)
希望能幫到你!
Python + selenium + phantomjs 求助,爬一個網站的信息
一般我們使用python的第三方庫requests及框架scrapy來爬取網上的資源,但是設計javascript渲染的頁面卻不能抓取,此時,我們使用web自動化測試化工具Selenium+無界面瀏覽器PhantomJS來抓取javascript渲染的頁面,下面實現一個簡單的爬取
環境搭建
準備工具:python3.5,selenium,phantomjs
我的電腦裡面已經裝好了python3.5
安裝Selenium
1
pip3 install selenium
安裝Phantomjs
按照系統環境下載phantomjs,下載完成之後,將phantomjs.exe解壓到python的script文件夾下
使用selenium+phantomjs實現簡單爬蟲
1
2
3
4
5
6
7
8
9
from selenium import webdriver
driver = webdriver.PhantomJS()
driver.get(”) #加載網頁
data = driver.page_source #獲取網頁文本
driver.save_screenshot(‘1.png’) #截圖保存
print(data)
driver.quit()
selenium+phantomjs的一些使用方法
設置請求頭裡的user-Agent
1
2
3
4
5
6
7
8
9
10
11
12
from selenium import webdriver
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities
dcap = dict(DesiredCapabilities.PHANTOMJS) #設置useragent
dcap[‘phantomjs.page.settings.userAgent’] = (‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.9; rv:25.0) Gecko/20100101 Firefox/25.0 ‘) #根據需要設置具體的瀏覽器信息
driver = webdriver.PhantomJS(desired_capabilities=dcap) #封裝瀏覽器信息
driver.get(”) #加載網頁
data = driver.page_source #獲取網頁文本
driver.save_screenshot(‘1.png’) #截圖保存
print(data)
driver.quit()
請求超時設置
webdriver類中有三個和時間相關的方法:
1.pageLoadTimeout 設置頁面完全加載的超時時間,完全加載即完全渲染完成,同步和異步腳本都執行完
2.setScriptTimeout 設置異步腳本的超時時間
3.implicitlyWait 識別對象的智能等待時間
1
2
3
4
5
6
7
from selenium import webdriver
driver = webdriver.PhantomJS()
driver.set_page_load_timeout(5) #設置超時時間
driver.get(”)
print(driver.title)
driver.quit()
設置瀏覽器窗口大小
調用啟動的瀏覽器不是全屏的,有時候會影響我們的某些操作,所以我們可以設置全屏
1
2
driver.maximize_window() #設置全屏
driver.set_window_size(‘480′,’800’) #設置瀏覽器寬480,高800
元素定位
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
from selenium import webdriver
driver = webdriver.PhantomJS()
driver.set_page_load_timeout(5)
driver.get(”)
try:
driver.get(”)
driver.find_element_by_id(‘kw’) # 通過ID定位
driver.find_element_by_class_name(‘s_ipt’) # 通過class屬性定位
driver.find_element_by_name(‘wd’) # 通過標籤name屬性定位
driver.find_element_by_tag_name(‘input’) # 通過標籤屬性定位
driver.find_element_by_css_selector(‘#kw’) # 通過css方式定位
driver.find_element_by_xpath(“//input[@id=’kw’]”) # 通過xpath方式定位
driver.find_element_by_link_text(“貼吧”) # 通過xpath方式定位
print(driver.find_element_by_id(‘kw’).tag_name ) # 獲取標籤的類型
except Exception as e:
print(e)
driver.quit()
操作瀏覽器前進或後退
1
2
3
4
5
6
7
8
9
10
11
12
13
14
from selenium import webdriver
driver = webdriver.PhantomJS()
try:
driver.get(”) #訪問百度首頁
driver.save_screenshot(‘1.png’)
driver.get(”) #訪問新浪首頁
driver.save_screenshot(‘2.png’)
driver.back() #回退到百度首頁
driver.save_screenshot(‘3.png’)
driver.forward() #前進到新浪首頁
driver.save_screenshot(‘4.png’)
except Exception as e:
print(e)
driver.quit()
如何在Ubuntu和Debian上安裝PhantomJS
Ubuntu 14.04為了保證跨服務體驗的一致性,在它的倉庫中默認包含了一個版本為0.10.25的Node.JS,這個可能不是最新版本,但是卻一定是標準發行版本。
要想獲取這個版本的Node.JS,我們只要通過apt包管理工具來安裝就可以。在安裝之前,最好先更新一下apt包管理工具的本地索引,然後再從Ubuntu倉庫中安裝Node.JS。
sudo apt-get update
sudo apt-get install nodejs
如果Ubuntu倉庫中的包正好是你所需要的,那麼上述步驟就是在Ubuntu10.04下安裝Node.JS的全部操作過程。大多數情況下,我們還希望也安裝一份Node.JS的包管理工具:npm,您可以通過以下命令安裝:
sudo apt-get install npm
NPM將讓使得安裝Node.JS的模塊或者源碼包變得非常簡單。
在您運行Node.JS的時候請一定要注意,因為與別的工具包相衝突的原因,Ubuntu倉庫中可執行的名字是nodejs而不是node。
js動態加載的內容怎麼獲取易語言
利用WebBrowser控件。
利用phantomjs這個開源項目。
利用phantomjs的一個包裝類庫。
LINUX中phantomjs怎麼設置環境變量
DbVisualizer是一個完全基於JDBC的跨平台數據庫管理工具,可以做任何一種的數據庫客戶端,內置SQL語句編輯器(支持語法高亮),凡是具有JDBC數據庫接口的數據庫都可以管理
App顯示大疆精靈Phantom 3 Professional“設備未連接”,如何解決?
設備未連接代表的移動設備和遙控未正常連接,按照以下方式進行排查:
1.移動設備的問題:
確保使用的是DJI官方推薦的移動設備;
安卓設備先確保設備打開“USB調試”,三星設備需要確認是否將連接方式設置成媒體庫(MTP)相機(PTP)模式;
可嘗試更換移動設備進行排查。
2.確認USB數據線問題:
查看數據線接觸是否良好或者更換數據線進行嘗試。
3.如果以上步驟均無效果,判斷為遙控問題,與DJI售後技術支持取得聯繫。
原創文章,作者:小藍,如若轉載,請註明出處:https://www.506064.com/zh-hant/n/305130.html