V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  weboshr  ›  全部回复第 1 页 / 共 1 页
回复总数  2
2014-10-24 15:07:07 +08:00
回复了 fising 创建的主题 问与答 百度抓取中文 URL 有问题?求大神专家指导!!
@fising 带有"?"的链接禁止抓取
2014-10-21 13:56:54 +08:00
回复了 fising 创建的主题 问与答 百度抓取中文 URL 有问题?求大神专家指导!!
robots.txt 添加一项

Disallow: /*?*
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5978 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 18ms · UTC 06:22 · PVG 14:22 · LAX 22:22 · JFK 01:22
Developed with CodeLauncher
♥ Do have faith in what you're doing.