为什么百度pc端的蜘蛛会抓取移动端页面

问题：为什么百度pc端的蜘蛛会抓取移动端页面？

回答：先看看百度搜索方面怎么说

百度爬虫会尽可能使用移动UA抓取移动端页面，但对于未知的URL，爬虫不能准确预判它是pc端还是移动端，所以可能使用pc UA爬虫抓取，只要能正常抓回页面，就不会影响到网站的内容收录。

从百度方面的回答里面，我们可以得出几个结论：

1、百度抓取pc端的蜘蛛和抓取移动端的蜘蛛不同，但中间没有严格的界线，在预判不准确的情况下，这两种蜘蛛可能会相互抓取。

2、只要页面被抓，不管是pc端还是移动端UA抓，都不影响到页面收录。

3、要注意下页面URL的处理，方便百度搜索蜘蛛做出更加准确的判断，减少两端蜘蛛交叉抓取。

通过百度方面的解释，我们可以很清楚的看到，无论是百度pc端的蜘蛛抓移动页面，还是移动端的蜘蛛抓pc页面，其实影响都不大。想要减少它们之间的交叉抓取，我们能做的就是把URL处理得更加明显，帮助蜘蛛来判断。