日常 Web 端爬虫过程中,经常会遇到参数被加密的场景,因此,我们需要分析网页源代码
通过调式,一层层剥离出关键的 JS 代码,使用 Python 去执行这段代码,得出参数加密前后的Python实现
本文将聊聊利用Python 调用 JS 的4种方式
以一段简单的JS 脚本为例,将代码写入到文件中
- //norm.js
- //计算两个数的和
- function add(num1, num2) {
- return num1 + num2;
- }
其中,定义了一个方法,计算两个数的和
PyExecJS 是使用最多的一种方式,底层实现方式是:在本地 JS 环境下运行 JS 代码
支持的 JS 环境包含:Node.js、PyV8、PhantomJS、Nashorn 等
首先,我们需要安装依赖包PyExecJS
- //py_exec_js_demo.py
-
- //安装依赖
- pip3 install PyExecJS
-
然后,从 JS 文件中读取源码
- def js_from_file(file_name):
- """
- 读取js文件
- :return:
- """
- with open(file_name, 'r', encoding='UTF-8') as file:
- result = file.read()
-
- return result
最后,使用 execjs 类的compile()方法编译加载上面的 JS 字符串,返回一个上下文对象
- import execjs
-
- from js_code import *
-
- # 编译加载js字符串
- context1 = execjs.compile(js_from_file('./norm.js'))
最后,调用上下文对象的call()方法执行 JS 方法
其中,参数包含:JS 代码被调的方法名、对应方法的传入参数
- # 调用js代码中的add()方法,参数为2和3
- # 方法名:add
- # 参数:2和3
- result1 = context1.call("add", 2, 3)
-
- print(result1)
需要注意的,由于PyExecJS运行在本地 JS 环境下,使用之前会启动 JS 环境,最终导致运行速度会偏慢
更多功能可以参考:
https://github.com/doloopwhile/PyExecJS
js2py作为一个纯 Python 实现的 JS 解释器,可以完全脱离 JS 环境,直接将 JS 代码转换为 Python 代码
首先,安装依赖库
- # 安装依赖库
- pip3 install js2py
-
然后使用 js2py 中的EvalJs()方法生成一个上下文对象
- # 使用获取上下js2py生成一个上下文环境
- context = js2py.EvalJs()
-
接着利用上下文对象执行 JS 脚本,转换为Python 代码
- # 执行整段JS代码
- context.execute(js_content)
-
最后,利用上下文调用 JS 中的方法,并制定输入参数即可
- # 使用上下文context调用具体的函数
- # 函数名:add
- # 参数:1,2
- result = context.add(1, 2)
- print(result)
需要注意是,如果 JS 是很长的混淆代码,转换为 Python 的过程可能会报错
更多功能可以参考:
https://github.com/PiotrDabkowski/Js2Py
实际上是使用 Python 的os.popen执行 node 命令,执行 JS 脚本
首先,确保本地已经安装了 Node.js 环境
修改 JS 脚本,新增一个导出函数 init ,方便内部函数被调用
- //计算两个数的和
- function add(num1, num2) {
- return num1 + num2;
- }
-
- //新增一个导出函数(node方式)
- module.exports.init = function (arg1, arg2) {
- //调用函数,并返回
- console.log(add(arg1, arg2));
- };
-
然后,将调用 JS方法的命令组成一个字符串
- # 组成调用js的命令
- # node命令:node -e
- cmd = 'node -e "require(\\"%s\\").init(%s,%s)"' % ('./norm', 3, 5)
最后,通过 os.popen 执行命令即可
- pipeline = os.popen(cmd)
-
- # 读取结果
- result = pipeline.read()
-
- print('结果是:', result)
PyV8 是 Google将 Chrome V8引擎用 Python 封装的依赖库
它不依赖本地 JS 环境,运行速度很快
- import PyV8
- from js_code import js_from_file
-
- with PyV8.JSContext() as ctx:
- ctx.eval(js_from_file('./norm.js'))
-
- # 调用js函数,指定参数
- ctx.locals.add(1, 2)
但是经过反复测试发现,MAC 和 PC 在 Python3 环境下,使用 PyV8 会报各种奇怪的问题,所以不推荐使用!
更多功能可以参考:
https://github.com/emmetio/pyv8-binaries
上面总结了 Python 调用 JS 的 4 种方式
实际爬虫项目中,一般会先使用 node命令进行一次测试,确保没问题后,再使用前 3 种方式的任意一种进行 Python 改写
已经将文中全部源码上传:https://github.com/xingag/tools_python/tree/master/Python%E6%89%A7%E8%A1%8CJS%E6%80%BB%E7%BB%93