V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Outliver0
V2EX  ›  Python

[爬虫问题] 有个字段是 js 生成的,麻烦帮忙

  •  
  •   Outliver0 · 2021-07-14 10:38:54 +08:00 · 2168 次点击
    这是一个创建于 1264 天前的主题,其中的信息可能已经有所发展或是发生改变。

    爬虫小白

    目标网站: https://page.auctions.yahoo.co.jp/jp/auction/j744286598 目标字段:'送料 東京都は1,111 円(離島を除く)' 或者是 '配送方法と送料' 下面的的所有内容

    1.png https://sm.ms/image/79ynzYdXFiQNUkK 2.png

    12 条回复    2021-07-15 11:25:09 +08:00
    myCupOfTea
        1
    myCupOfTea  
       2021-07-14 10:50:12 +08:00   ❤️ 1
    playwright
    Outliver0
        2
    Outliver0  
    OP
       2021-07-14 11:03:35 +08:00
    @myCupOfTea 我用了 selenium,但是速度实在太慢了,通过渲染的方式暂时不考虑了,主要是速度问题
    vone
        3
    vone  
       2021-07-14 11:07:23 +08:00   ❤️ 1
    myCupOfTea
        4
    myCupOfTea  
       2021-07-14 11:18:40 +08:00   ❤️ 1
    直接向楼上扒接口肯定是最快的
    Outliver0
        5
    Outliver0  
    OP
       2021-07-14 11:24:57 +08:00
    @vone 感谢 我看看
    RockShake
        6
    RockShake  
       2021-07-14 11:39:03 +08:00
    能不用`selenium`就不用,只有实在跳不过去的时候才考虑
    Outliver0
        8
    Outliver0  
    OP
       2021-07-15 10:35:35 +08:00
    @vone pref_code 这个参数怎么来了 我今天测试没找到这个参数怎么生成的
    vone
        9
    vone  
       2021-07-15 10:49:27 +08:00
    @Outliver0 八北
    Outliver0
        10
    Outliver0  
    OP
       2021-07-15 10:56:50 +08:00
    @vone 八北什么意思。。。。
    vone
        11
    vone  
       2021-07-15 11:16:45 +08:00   ❤️ 1
    <option value="1">北海道</option>
    <option value="2">青森県</option>
    <option value="3">岩手県</option>
    <option value="4">宮城県</option>
    <option value="5">秋田県</option>
    <option value="6">山形県</option>
    <option value="7">福島県</option>
    <option value="8">茨城県</option>
    <option value="9">栃木県</option>
    <option value="10">群馬県</option>
    <option value="11">埼玉県</option>
    <option value="12">千葉県</option>
    <option value="13">東京都</option>
    <option value="14">神奈川県</option>
    <option value="15">新潟県</option>
    <option value="16">富山県</option>
    <option value="17">石川県</option>
    <option value="18">福井県</option>
    <option value="19">山梨県</option>
    <option value="20">長野県</option>
    <option value="21">岐阜県</option>
    <option value="22">静岡県</option>
    <option value="23">愛知県</option>
    <option value="24">三重県</option>
    <option value="25">滋賀県</option>
    <option value="26">京都府</option>
    <option value="27">大阪府</option>
    <option value="28">兵庫県</option>
    <option value="29">奈良県</option>
    <option value="30">和歌山県</option>
    <option value="31">鳥取県</option>
    <option value="32">島根県</option>
    <option value="33">岡山県</option>
    <option value="34">広島県</option>
    <option value="35">山口県</option>
    <option value="36">徳島県</option>
    <option value="37">香川県</option>
    <option value="38">愛媛県</option>
    <option value="39">高知県</option>
    <option value="40">福岡県</option>
    <option value="41">佐賀県</option>
    <option value="42">長崎県</option>
    <option value="43">熊本県</option>
    <option value="44">大分県</option>
    <option value="45">宮崎県</option>
    <option value="46">鹿児島県</option>
    <option value="47">沖縄県</option>
    Outliver0
        12
    Outliver0  
    OP
       2021-07-15 11:25:09 +08:00
    @vone 这个我找到了 但是那个请求要传的是 prefcode 从哪里获得,麻烦了,不怎么会反反爬
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2782 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 11:55 · PVG 19:55 · LAX 03:55 · JFK 06:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.