文钊飞,文钊飞讲师,文钊飞联系方式,文钊飞培训师-【讲师网】
文钊飞 2019年度中国200强讲师
内容电商产业推动者,新零售研究实践者。
52
鲜花排名
0
鲜花数量
扫一扫加我微信
文钊飞:如何让Baiduspider迅速抓取网站
2016-01-20 88906

百度推出了很多自己的产品,仔细想想,他自己也是利用这些产品数据来更好的解决搜索服务的,百度统计,百度收藏,博客等,
下面说下如何用百度收藏来解决网站的收录问题

一个网站有很多的页面,有些页面Baiduspider可能抓取不到,这个时候怎么办呢?让这个url出现在网络上(免费发外链论坛),尽可能快得呗蜘蛛发现
如何去做?

我们可以申请一批百度账号,然后把这些页面url添加到每个账号下的百度收藏里面(如果是大量页面,百万级别的,可以开发工具来做,期待有人解决,呵呵)
用一批百度账号做收藏,是为了增加爬虫发现的几率和到达网站的几率,用百度的收藏夹,是为了解决百度爬虫的发现页面的速度和时间
做百度收藏的测试结果如下:看日志
220.181.51.210 - - [02/Sep/2011:10:03:02 -0400] "GET / HTTP/1.1" 200 83160 "-" "Baiduspider-favo+(+https://www.baidu.com/search/spider.htm)"
61.135.190.72 - - [02/Sep/2011:10:03:02 -0400] "GET / HTTP/1.1" 200 83160 "-" "Baiduspider-favo+(+https://www.baidu.com/search/spider.htm)"

ps:百度搜藏 的蜘蛛为 Baiduspider-favo

我们可以吧这个测试拓展,通过百度收藏添加更多的url,那么蜘蛛获得你网站的url的几率和数量是不是很加大很多的,增加了页面在spider的曝光率,那么收录也有可能呗解决。以上思路仅供参考,欢迎提出新方法!


全部评论 (0)
热门领域讲师
互联网营销 互联网 新媒体运营 短视频 电子商务 社群营销 数据加载错误
Message:Exception of type 'System.Web.HttpUnhandledException' was thrown.
Source:System.Web
StackTrace: at System.Web.UI.Page.HandleError(Exception e) at System.Web.UI.Page.ProcessRequestMain(Boolean includeStagesBeforeAsyncPoint, Boolean includeStagesAfterAsyncPoint) at System.Web.UI.Page.ProcessRequest(Boolean includeStagesBeforeAsyncPoint, Boolean includeStagesAfterAsyncPoint) at System.Web.UI.Page.ProcessRequest() at System.Web.UI.Page.ProcessRequest(HttpContext context) at System.Web.Mvc.ViewPage.ProcessRequest(HttpContext context) at System.Web.Mvc.ViewUserControl.ViewUserControlContainerPage.ProcessRequest(HttpContext context) at System.Web.Mvc.ViewPage.RenderView(ViewContext viewContext) at System.Web.Mvc.ViewUserControl.RenderView(ViewContext viewContext) at System.Web.Mvc.WebFormView.RenderView(ViewContext viewContext, TextWriter writer, Object instance) at System.Web.Mvc.Html.RenderPartialExtensions.RenderPartial(HtmlHelper htmlHelper, String partialViewName, Object model, ViewDataDictionary viewData) at System.Web.Mvc.Html.SDRenderPartialExtensions.SDRenderPartial(HtmlHelper helper, String partialName, Object model, ViewDataDictionary viewData, Action`2 expFunc)
Message:Collection was modified; enumeration operation may not execute.
Source:mscorlib
StackTrace: at System.Collections.Generic.List`1.Enumerator.MoveNextRare() at ASP.views_space_spacerightbar_v2_ascx.__Render__control1(HtmlTextWriter __w, Control parameterContainer) in d:\webs\subsite-pc.jiangshi.org\Views\Space\SpaceRightBar_v2.ascx:line 52 at System.Web.UI.Control.RenderChildrenInternal(HtmlTextWriter writer, ICollection children) at System.Web.UI.Control.RenderChildrenInternal(HtmlTextWriter writer, ICollection children) at System.Web.Mvc.ViewPage.Render(HtmlTextWriter writer) at System.Web.UI.Page.ProcessRequestMain(Boolean includeStagesBeforeAsyncPoint, Boolean includeStagesAfterAsyncPoint)
讲师网深圳站 sz.jiangshi.org 由加盟商 杭州讲师云科技有限公司 独家运营
培训业务联系:小文老师 18681582316

杭州讲师网络科技有限公司 更多城市分站招商中