这是一个矛盾啊
1
Jooooooooo 2021-05-06 22:01:43 +08:00 1
放过爬虫呗
虽然有可能会被钻漏洞, 但还是很小一部分 |
2
herozzm OP @Jooooooooo 搜索引擎官方指南说:它看到的就要是用户看到的,不然就是违规,有被惩罚的风险
|
3
opengps 2021-05-06 22:03:35 +08:00 1
这个要求显然冲突,搜索引擎爬虫能爬的都是可以直接打开的
|
5
FragmentLs 2021-05-06 22:08:30 +08:00 1
meta keywords
|
6
herozzm OP @FragmentLs 对于搜索引擎来说 meta keyword 是不够的啊
|
7
miyuki 2021-05-06 22:15:04 +08:00 1
搜索引擎不是还有快照吗
|
9
iBugOne 2021-05-06 22:40:08 +08:00 2
一般这样用户体验会很差,不过真想做的话可以参考 Red Hat 的知识库,不付费只能看到标题和前几行字,也不影响搜索引擎抓取
还有 Expers-Exchange,这个网站在 Stack Overflow 上常常被戏称做 dash-site,因为上面内容质量很差而且还有 pay wall |
10
lovestudykid 2021-05-07 02:53:23 +08:00 1
|
11
zachlhb 2021-05-07 08:06:22 +08:00 via iPhone 1
程序判断蜘蛛,如果是蜘蛛直接放行
|