主體內(nèi)容過長（通常網(wǎng)頁源碼長度不能超過128k），文章過長可能會引起抓取截斷。
?
舉個例子：某網(wǎng)站主體內(nèi)容都是JS生成，針對用戶訪問，沒有做優(yōu)化；但是網(wǎng)站特針對爬蟲抓取做了優(yōu)化，直接將圖片進(jìn)行base64編碼推送給百度，然而優(yōu)化后發(fā)現(xiàn)內(nèi)容沒有被百度展示出來；頁面質(zhì)量很好，還特意針對爬蟲做了優(yōu)化，為什么內(nèi)容反而無法出現(xiàn)在百度搜索中；
?
主體內(nèi)容過長影響蜘蛛抓取原因如下：
1、站點優(yōu)化后將主體內(nèi)容放于最后，圖片卻放于前面；
2、網(wǎng)站針對爬蟲爬取做的優(yōu)化，是直接將圖片base64編碼后放到HTML中，導(dǎo)致頁面長度過長，網(wǎng)站頁面長度達(dá)164k；
3、爬蟲抓取內(nèi)容后，頁面內(nèi)容過長被截斷，已抓取部分無法識別到主體內(nèi)容，最終導(dǎo)致頁面被認(rèn)定為空短而不建索引。
閱讀本文的人還可以閱讀：
