Navigations | Playwright 中文文档 | Playwright 中文网
按照官网文档,调用 page.goto(url) 后页面加载过程:
设定 url通过网络加载解析页面触发 page.on("domcontentloaded") 事件执行页面的 js 脚本,加载静态资源触发 page.on("laod") 事件页面执行动态加载的脚本当 500ms 都没有新的网络请求的时候,触发 networkidle 事件page.goto(url) 会跳转到一个新的链接。默认情况下 Playwright 会等待到 load 状态。如果我们不关心加载的 CSS 图片等信息,可以改为等待到 domcontentloaded 状态,如果页面是 ajax 加载,那么我们需要等待到 networkidle 状态。如果 networkidle 也不合适的话,可以采用 page.wait_for_selector 等待某个元素出现。不过对于 click 等操作会自动等待。
page.goto(url, referer="", timeout=30, wait_until="domcontentloaded|load|networkidle")// Navigate and wait until network is idleawait page.goto('https://example.com', { waitUntil: 'networkidle' });Playwright 会自动等待元素处于可操作的稳定状态。当然也可以用 page.wait_for_* 函数来手工等待:
page.wait_for_event("event", event_predict, timeout)page.wait_for_function(js_function)page.wait_for_load_state(state="domcontentloaded|load|networkidle", timeout)page.wait_for_selector(selector, timeout)page.wait_for_timeout(timeout) # 不推荐使用对页面的操作方法主要有:
# selector 指的是 CSS 等表达式page.click(selector)page.fill(selector, value) # 在 input 中填充值# 例子page.click("#search")获取页面中的数据的主要方法有:
page.url # urlpage.title() # titlepage.content() # 获取页面全文page.inner_text(selector) # element.inner_text()page.inner_html(selector)page.text_content(selector)page.get_attribute(selector, attr)# eval_on_selector 用于获取 DOM 中的值page.eval_on_selector(selector, js_expression)# 比如:search_value = page.eval_on_selector("#search", "el => el.value")# evaluate 用于获取页面中 JS 中的数据,比如说可以读取 window 中的值result = page.evaluate("([x, y]) => Promise.resolve(x * y)", [7, 8])print(result) # prints "56" 选择器表达式在上面的代码中,我们使用了 CSS 表达式(比如#button)来选取元素。实际上,Playwright 还支持 XPath 和自己定义的两种简单表达式,并且是自动识别的。
# 通过文本选择元素,这是 Playwright 自定义的一种表达式page.click("text=login")# 直接通过 id 选择page.click("id=login")# 通过 CSS 选择元素page.click("#search")# 除了常用的 CSS 表达式外,Playwright 还支持了几个新的伪类# :has 表示包含某个元素的元素page.click("article:has(div.prome)")# :is 用来对自身做断言page.click("button:is(:text('sign in'), :text('log in'))")# :text 表示包含某个文本的元素page.click("button:text('Sign in')") # 包含page.click("button:text-is('Sign is')") # 严格匹配page.click("button:text-matches('w+')") # 正则# 还可以根据方位匹配page.click("button:right-of(#search)") # 右边page.click("button:left-of(#search)") # 左边page.click("button:above(#search)") # 上边page.click("button:below(#search)") # 下边page.click("button:near(#search)") # 50px 之内的元素# 通过 XPath 选择page.click("//button[@id='search'])")# 所有 // 或者 .. 开头的表达式都会默认为 XPath 表达式对于 CSS 表达式,还可以添加前缀css=来显式指定,比如说 css=.login 就相当于 .login.
除了上面介绍的四种表达式以外,Playwright 还支持使用 >> 组合表达式,也就是混合使用四种表达式。
page.click('css=nav >> text=Login') 复用 Cookies 等认证信息在 Puppeteer 中,复用 Cookies 也是一个老大难问题了。这个是 Playwright 特别方便的一点,他可以直接导出 Cookies 和 LocalStorage, 然后在新的 Context 中使用。
# 保存状态import jsonstorage = context.storage_state()with open("state.json", "w") as f: f.write(json.dumps(storage))# 加载状态with open("state.json") as f: storage_state = json.loads(f.read())context = browser.new_context(storage_state=storage_state) 监听事件通过 page.on(event, fn) 可以来注册对应事件的处理函数:
def log_request(intercepted_request): print("a request was made:", intercepted_request.url)page.on("request", log_request)# sometime later...page.remove_listener("request", log_request)其中比较重要的就是 request 和 response 两个事件
拦截更改网络请求可以通过 page.on("request") 和 page.on("response") 来监听请求和响应事件。
from playwright.sync_api import sync_playwright as playwrightdef run(pw): browser = pw.webkit.launch() page = browser.new_page() # Subscribe to "request" and "response" events. page.on("request", lambda request: print(">>", request.method, request.url)) page.on("response", lambda response: print("<<", response.status, response.url)) page.goto("https://example.com") browser.close()with playwright() as pw: run(pw)其中 request 和 response 的属性和方法,可以查阅文档:https://playwright.dev/python/docs/api/class-request
通过 context.route, 还可以伪造修改拦截请求等。比如说,拦截所有的图片请求以减少带宽占用:
context = browser.new_context()page = context.new_page()# route 的参数默认是通配符,也可以传递编译好的正则表达式对象context.route("**/*.{png,jpg,jpeg}", lambda route: route.abort())context.route(re.compile(r"(.png$)|(.jpg$)"), lambda route: route.abort())page.goto("https://example.com")browser.close()其中 route 对象的相关属性和方法,可以查阅文档:https://playwright.dev/python/docs/api/class-route
灵活设置代理Playwright 还可以很方便地设置代理。Puppeteer 在打开浏览器之后就无法在更改代理了,对于爬虫类应用非常不友好,而 Playwright 可以通过 Context 设置代理,这样就非常轻量,不用为了切换代理而重启浏览器。
context = browser.new_context( proxy={"server": "http://example.com:3128", "bypass": ".example.com", "username": "", "password": ""}) 杀手级功能:录制操作直接生成代码Playwright 的命令行还内置了一个有趣的功能:可以通过录制你的点击操作,直接生成 Python 代码。
python -m playwright codegen http://example.com/Playwright 还有很多命令行功能,比如生成截图等等,可以通过 python -m playwright -h 查看。
其他除此之外,Playwright 还支持处理页面弹出的窗口,模拟键盘,模拟鼠标拖动(用于滑动验证码),下载文件等等各种功能,请查看官方文档吧,这里不赘述了。对于写爬虫来说,Playwright 的几个特性可以说是秒杀 Puppeteer/Pyppeteer:
官方同步版本的 API方便导入导出 Cookies轻量级设置和切换代理支持丰富的选择表达式
参考:
Playwright: 比 Puppeteer 更好用的浏览器自动化工具 - 知乎