RT,最近玩 scrapy 有这方面的需求,不知道有没有办法以 middlewares 的手段去抓取 JS 标签里的 ajax 请求,并模拟发送。 是否只能手动提取,再组合参数发送?
在线等大佬解答,感谢!!
RT,最近玩 scrapy 有这方面的需求,不知道有没有办法以 middlewares 的手段去抓取 JS 标签里的 ajax 请求,并模拟发送。 是否只能手动提取,再组合参数发送?
在线等大佬解答,感谢!!
|
epkT6QJ3RSaz6AnJJan 15, 2019
1
|
|
epkT6QJ3RSaz6AnJJan 15, 2019
2
目前只想到可以搞个 polyfill,然后拦截
|
|
mYYnSmiTEQWcCwArJan 15, 2019
3
hookajax 以及 fetch 的 polyfill 就能在 js 层面把请求拦下来了
不过浏览器都能控制的话 为啥不直接看浏览器开发人员工具提供的 network 呢 |
|
wangtao7Jan 15, 2019
4
|
|
5
@epkT6QJ3RSaz6AnJ 您的意思是拦截器监控再复现?但是我在随机爬行某个网站时不一定能触发该 js 函数,我这算是黑盒,白盒的应该不太适用。
|