最近院長(zhǎng)收到一個(gè)非常典型的抓取優(yōu)化例子，整理一下分享給各位，各位站長(zhǎng)們謹(jǐn)記不要出現(xiàn)相同的情況：

站點(diǎn)反饋：


網(wǎng)站主體內(nèi)容都是js生成，針對(duì)用戶訪問(wèn)，沒(méi)有做優(yōu)化；但是網(wǎng)站特針對(duì)爬蟲(chóng)抓取做了優(yōu)化，且將圖片也直接做了base64轉(zhuǎn)化；然而優(yōu)化后發(fā)現(xiàn)內(nèi)容卻不被百度收錄。


頁(yè)面質(zhì)量很好，還特意針對(duì)爬蟲(chóng)做了優(yōu)化，為什么內(nèi)容反而不收錄了呢？


工程師分析：


1、網(wǎng)站針對(duì)爬蟲(chóng)爬取做的優(yōu)化，直接將圖片二進(jìn)制內(nèi)容放到了html中導(dǎo)致頁(yè)面長(zhǎng)度過(guò)長(zhǎng)，網(wǎng)站頁(yè)面長(zhǎng)度達(dá)164k；


2、 站點(diǎn)優(yōu)化后將主體內(nèi)容放于最后，圖片卻放于前面；


3、爬蟲(chóng)抓取內(nèi)容后，頁(yè)面內(nèi)容過(guò)長(zhǎng)被截?cái)�，已抓取部分無(wú)法識(shí)別到主體內(nèi)容，最終導(dǎo)致頁(yè)面被認(rèn)定為空短而不收錄。


工程師建議：


1、不建議站點(diǎn)使用js生成主體內(nèi)容，如js渲染出錯(cuò)，很可能導(dǎo)致頁(yè)面內(nèi)容讀取錯(cuò)誤，頁(yè)面無(wú)法抓取


2、 如站點(diǎn)針對(duì)爬蟲(chóng)爬取做優(yōu)化，建議頁(yè)面長(zhǎng)度在128k之內(nèi)，不要過(guò)長(zhǎng)


3、針對(duì)爬蟲(chóng)爬取做優(yōu)化，請(qǐng)將主題內(nèi)容放于前方，避免抓取截?cái)嘣斐傻膬?nèi)容抓取不全