爬虫自动化

自动化对比

模块 UIAutomation appium selenium pyppeteer 终极武器(chrome-devtools-protocol)
跨平台 Android,ios chrome 浏览器就行
缺点 无法跨平台 adb驱动 太强大 chrome 协议 底层
driver google原生 UIAutomation #很多 chrome all

很多:

  1. selenium可支持的PC浏览器驱动包括:

    safari driver【包含在selenium server中】

    ie driver

    chrome driver 【第三方】

    opera driver【第三方]

  2. selenium可支持的伪浏览器驱动:

    PhantomJS Driver【第三方,停止更新】

    HtmlUnit Driver【包含在selenium server中】

  3. selenium可支持的移动端驱动:

    Windows Phone driver

    Selendroid-Selenium for Android【第三方】

    ios-driver【第三方】

    Appium 支持iphone、ipad、android、FirefoxOS【第三方】

驱动代码

  • UIAutomation

python 端安装 uiautomator2 client:
pip install uiautomator2
Android端安装 ATX server
安装方法
离线
    将init_machine.sh,及android_package.zip上传至/data/local/tmp目录下
    给手机安装termux,此为命令行工具,打开软件
    输入su,切换至管理员账户
    输入cd data/local/tmp,因为云手机不能打/符,所有用tab键来凑齐。
    输入sh init_machine.sh,即可安装好软件和服务
    
usb线连
    在电脑上输入python -m uiautomator2 init即可
    ### 2、打开ATX
    打开ATX 点击"启动uiautomator"
    ### 3、打开QpythonL
    一定要先打开这个软件,不然你python脚本会上传不成功
import uiautomator2 as u2

# 0.0.0.0 为本机,127.0.0.1这个也行,这个连接是在手机上运行的
d = u2.connect('http://0.0.0.0:7912')
# 如果远程操作,就填入手机ATX显示的ip,下面有图
# d = u2.connect('http://172.17.2.237:7912')
# 字符串为包名,下面有获取包名教程
sess = d.session("com.tencent.wework")

def my_click(sess, ele, timeout=3):
    ele.wait(timeout=timeout) # 等待超时,因为可能此时界面动画,或者反映迟钝,该控件还没出现
    x, y = ele.center() # 找到该空间的中间坐标
    sess.touch.down(x, y) # 在此坐标按下
    time.sleep(0.3)
    sess.touch.up() #等待3秒后抬起


def click_search_btn(sess):
    ele = sess(resourceId=package_name+":id/e3g", #找到该空间的id
               className="android.widget.TextView",# 找到该空间的类名
               instance=0) #如果根据属性查找有多个控件,则找第一个
    my_click(sess, ele, 20)


click_search_btn(sess)
print('begin to input')
ele = sess(resourceId="com.tencent.wework:id/dpu", className="android.widget.EditText")
ele.set_text(phone) # 将手机号填入
print('end to input')
time.sleep(2)
# print(u"点击搜索")
# 点击搜索
sess(resourceId="com.tencent.wework:id/azq",
           className="android.widget.RelativeLayout").child(className="android.widget.TextView").click() # 因为该控件没有id,所以先找它爹,再找它爹的儿子控件,.click()直接触发点击事件。
ele1 = sess(resourceId="com.tencent.wework:id/sa",
               className="android.widget.TextView")
ele1.get_text() # 获取标签文本内容


  • Seleinum

安装:
pip install selenium
自行下载需要驱动的driver:如chromedriver
实用executable_path 引入driver路径
from selenium import webdriver
import time
 
drivers = ['HtmlUnit', 'PhantomJS', 'Chrome', 'FF', 'IE'] 
 
dervers_time = {
    'HtmlUnit' : 0,
    'PhantomJS' : 0,
    'Chrome' : 0,
    'FF' : 0,
    'IE' : 0,
}
times = 50
def run_with_Chrome():
    common_step(webdriver.Chrome())
 
def run_with_FF():
    common_step(webdriver.Firefox())
    
def run_with_IE():
    common_step(webdriver.Ie())
 
def run_with_PhantomJS():
    common_step(webdriver.PhantomJS(executable_path=r'C:\Python27\Scripts\phantomjs.exe'))
    
def run_with_HtmlUnit():
    driver = webdriver.Remote("http://localhost:4444/wd/hub", 
                                desired_capabilities=webdriver.DesiredCapabilities.HTMLUNIT)
    common_step(driver)
    
def common_step(driver):
    driver.get('http://www.baidu.com')
    ele = driver.find_element_by_id('su')
    print ele.get_attribute('value')
    driver.quit()
  • Appium

1.node.js 安装
brew install node
npm install -g appium  # get appium     
npm install wd         # get appium client

直接用npm下载往往不成功,这是需要通过代理来下载
具体方法如下:
npm i cnpm -g --registry=http://registry.npm.taobao.org
cnpm i appium -g       # get appium
cnpm i wd -g         # get appium client
cnpm i appium-doctor  # get appium-doctor

2.检查Appium成功安装
appium-doctor
更具提示配置 xcode 和 Android SDK

3.下载appium客户端更加方便地址 github
4.python client 安装 pip install Appium_Python_Client
5.启动appium server .用客户端appium 启动即可
# encoding: utf-8
"""
--------------------------------------
@describe 自动化微信添加好友
@version: 1.0
@project: operator_spider
@file: app_chrome.py
@author: yuanlang 
@time: 2019-02-19 10:14
---------------------------------------
"""
import unittest
from time import sleep

from appium import webdriver


class MyTestCase(unittest.TestCase):

    def setUp(self):
        capabilities = {
            'platformName': 'Android',
            'platformVersion': "5.1",
            'deviceName': "mx4",
            'appPackage': 'com.tencent.mm',
            'appActivity': '.ui.LauncherUI',
            'automationName': 'Uiautomator2',
            'unicodeKeyboard': True,
            'resetKeyboard': True,
            'noReset': True,
            'chromeOptions': {'androidProcess': 'com.tencent.mm:tools'},
        }
        self.driver = webdriver.Remote("http://127.0.0.1:4723/wd/hub", capabilities)
        self.driver.implicitly_wait(30)

        sleep(5)

    def test_chromeApp(self):
        # 点击加号
        print("search")
        driver = self.driver
        el1 = driver.find_element_by_id("com.tencent.mm:id/gd")
        el1.click()
        sleep(5)
        el2 = driver.find_element_by_xpath(
            "/hierarchy/android.widget.FrameLayout/android.widget.ListView/android.widget.LinearLayout[2]/android.widget.LinearLayout/android.widget.TextView")
        el2.click()
        sleep(5)
        el3 = driver.find_element_by_id("com.tencent.mm:id/hx")
        el3.click()
        sleep(5)
        driver.find_element_by_id("com.tencent.mm:id/hx").send_keys("15775691981")
        sleep(5)
        driver.find_element_by_id("com.tencent.mm:id/l4").click()
        sleep(5)
        print(driver.context)
        name = driver.find_element_by_id("com.tencent.mm:id/ang").text
        print(name)

    def tearDown(self):
        self.driver.close_app()
        self.driver.quit()


if __name__ == '__main__':
    unittest.main()

pyppeteer

原生是node.js 开发基于chrome-devtools-protocol + websocket
python也有对应改写版
项目由google维护

pip install pyppeteer
# encoding: utf-8
"""
--------------------------------------
@describe 
@version: 1.0
@project: operator_spider
@file: dddd.py
@author: yuanlang 
@time: 2019-02-21 19:11
---------------------------------------
"""

import asyncio
import pyppeteer
from collections import namedtuple

Response = namedtuple("rs", "title url html cookies headers history status")


async def get_html(url, timeout=30):
    # 默认30s
    #,executablePath=""
    browser = await pyppeteer.launch(headless=False, args=['--no-sandbox'])
    page = await  browser.newPage()
    js="""
    function sniffDetector() {
    const userAgent = window.navigator.userAgent;
    const platform = window.navigator.platform;

    window.navigator.__defineGetter__('userAgent', function() {
      window.navigator.sniffed = true;
      return userAgent;
    });

    window.navigator.__defineGetter__('platform', function() {
      window.navigator.sniffed = true;
      return platform;
    });
    //自动化反反爬虫,反自动化检测
    Object.defineProperty(navigator, 'webdriver', {
        get: () => false,
    });
  }
    """
    await page.evaluateOnNewDocument(js)
    res = await page.goto(url, options={'timeout': int(timeout * 1000)})
    await asyncio.sleep(5)
    data = await page.content()
    title = await page.title()
    resp_cookies = await page.cookies()
    resp_headers = res.headers
    resp_history = None
    resp_status = res.status
    response = Response(title=title, url=url,
                        html=data,
                        cookies=resp_cookies,
                        headers=resp_headers,
                        history=resp_history,
                        status=resp_status)
    return response


if __name__ == '__main__':
    url_list = ["https://jx.ac.10086.cn"]
    task = (get_html(url) for url in url_list)

    loop = asyncio.get_event_loop()
    results = loop.run_until_complete(asyncio.gather(*task))
    for res in results:
        print(res)

chrome-devtools-protocol

底层采用websocket 协议控制浏览器。[协议连接](https://chromedevtools.github.io/devtools-protocol/)
安装
1.pip install pychrom
2./Chromium --remote-debugging-port=9222
import pychrome

browser = pychrome.Browser(url="http://127.0.0.1:9222")
tab = browser.new_tab()

def request_will_be_sent(**kwargs):
    print("loading: %s" % kwargs.get('request').get('url'))


tab.set_listener("Network.requestWillBeSent", request_will_be_sent)

tab.start()
tab.call_method("Network.enable")
tab.call_method("Page.navigate", url="https://jx.ac.10086.cn", _timeout=5)
import time
# print("ok")
time.sleep(5)
result=tab.call_method("Runtime.evaluate",expression="document.documentElement.outerHTML")
print(result)
tab.stop()

自动化反反爬虫

Object.defineProperty(navigator, 'webdriver', {
        get: () => false,
});
'''
// overwrite the `languages` property to use a custom getter
Object.defineProperty(navigator, "languages", {
  get: function() {
    return ["zh-CN","zh","zh-TW","en-US","en"];
  }
});

// Overwrite the `plugins` property to use a custom getter.
Object.defineProperty(navigator, 'plugins', {
  get: () => [1, 2, 3, 4, 5],
});

// Pass the Webdriver test
Object.defineProperty(navigator, 'webdriver', {
  get: () => false,
});


// Pass the Chrome Test.
// We can mock this in as much depth as we need for the test.
window.navigator.chrome = {
  runtime: {},
  // etc.
};

// Pass the Permissions Test.
const originalQuery = window.navigator.permissions.query;
window.navigator.permissions.query = (parameters) => (
  parameters.name === 'notifications' ?
    Promise.resolve({ state: Notification.permission }) :
    originalQuery(parameters)
);
'''
# 修改chromedriver
$ hexedit chromedriver 

        # 操作
        1. tab 跳转到string栏
        2. ctrl+S 查找 var key = '$cdc_asdjflasutopfhvcZLmcfl_'(对于2.40版本)
        3. 替换'$cdc_asdjflasutopfhvcZLmcfl_'为任意值
        4. ctrl+X 保存

# 移动chromedriver 到 /usr/bin
$ mv chromedriver /usr/bin

[详细连接]("https://zhuanlan.zhihu.com/p/43581988?utm_source=wechat_session&utm_medium=social&utm_oi=32546582691840&from=groupmessage")

总结:seleium 是采用webdriver 协议 ,seleium server端也是使用chrome-devtools-protocol。只不过为了跨平台采用webdriver restful api 形式开发。chrome-devtools-protocol 可以使用 ./chromium --remote-debug 自动化测试

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,393评论 5 467
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,790评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,391评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,703评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,613评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,003评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,507评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,158评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,300评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,256评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,274评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,984评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,569评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,662评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,899评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,268评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,840评论 2 339

推荐阅读更多精彩内容