INSO开源镜像站 - pan.isoyu.com
/代码/spider/
文件
图片缩略
修改时间
大小
README.md
2019-08-11 17:27:41
35.38 KB
README.md
# 欢迎使用 INSO 抓取工具（用户代理） **查看INSO用于抓取网络的机器人**  “Crawler”是用于通过跟踪从一个网页到另一个网页的链接自动发现和扫描网站的任何程序（例如机器人或蜘蛛）的通用术语。INSO的主要抓取工具称为INSObot。此表列出了您在引荐来源日志中可能会看到的常见抓取工具的相关信息，以及如何在robots.txt，robots元标记和X-Robots-Tag HTTP指令中指定它们。 ## INSObot常见问题解答 ### 1. 什么是INSObot INSObot是INSO搜索引擎的一个自动程序，它的作用是访问互联网上的网页，建立索引数据库，使用户能在INSO搜索引擎中搜索到您网站上的网页。 ### 2. INSObot的user-agent是什么？ | Crawler | 用户代理令牌（产品令牌） | 完整用户代理字符串 | | ------------ | ------------- | ------------| | INSObot (Desktop)| INSObot | Mozilla/5.0 (compatible; INSObot/1.0;+http://www.isoyu.com/spider/spider.html） | | INSObot (Smartphone)| INSObot | Mozilla/5.0 (Linux; Android 6.0.1; INSO bot Build/MM2019P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.96 Mobile Safari/537.36 (compatible; INSObot/1.0; +http://www.isoyu.com/spider/spider.html) | ### 3.如何区分PC与移动网页搜索的UA PC搜索完整UA：Mozilla/5.0 (compatible; INSObot/1.0;+http://www.isoyu.com/spider/spider.html） 移动搜索完整UA：Mozilla/5.0 (Linux; Android 6.0.1; INSO bot Build/MM2019P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.96 Mobile Safari/537.36 (compatible; INSObot/1.0; +http://www.isoyu.com/spider/spider.html) pc ua：通过关键词INSObot/1.0来确定是pc ua 移动ua：通过关键词android和mobile确定是来自移动端抓取访问，INSObot/1.0 确定为INSO爬虫。 ### 4.INSObot对一个网站服务器造成的访问压力如何？ 为了达到对目标资源较好的检索效果，INSObot需要对您的网站保持一定量的抓取。我们尽量不给网站带来不合理的负担，并会根据服务器承受能力，网站质量，网站更新等综合因素来进行调整。如果您觉得INSObot的访问行为有任何不合理的情况，您可以反馈至反馈中心 ### 5. 为什么INSObot不停的抓取我的网站？ 对于您网站上新产生的或者持续更新的页面，INSObot会持续抓取。此外，您也可以检查网站访问日志中INSObot的访问是否正常，以防止有人恶意冒充INSObot来频繁抓取您的网站。 如果您发现INSObot非正常抓取您的网站，请通过投诉平台反馈给我们，并请尽量给出INSObot对贵站的访问日志，以便于我们跟踪处理。 ### 6. 如何判断是否冒充INSObot的抓取？ 建议您使用DNS反查方式来确定抓取来源的ip是否属于INSO，根据平台不同验证方法不同，如linux/windows/os三种平台下的验证方法分别如下： 要将INSObot验证为来电者： 使用该host命令对日志中的访问IP地址运行反向DNS查找。 验证域名是否位于isoyu.com中 使用host 检索到的域名上的命令对步骤1中检索到的域名运行正向DNS查找 。验证它与日志中的原始访问IP地址是否相同。 | 域 名 | IP | 数字地址 | 地址 | | ------------ | ------------- | ------------| ---------| | *.isoyu.com| 111.231.179.251 | 1877455867 | 中国上海市 | | *.isoyu.com| 111.231.97.251 | 1877434875 | 中国上海市 | ### 7. 我不想我的网站被INSObot访问，我该怎么做？ INSObot遵守互联网robots协议。您可以利用robots.txt文件完全禁止INSObot访问您的网站，或者禁止INSObot访问您网站上的部分文件。 注意：禁止INSObot访问您的网站，将使您的网站上的网页，在INSO搜索引擎以及所有INSO提供搜索引擎服务的搜索引擎中无法被搜索到。关于robots.txt的写作方法，请参看我们的介绍：robots.txt写作方法 您可以根据各产品不同的user-agent设置不同的抓取规则，如果您想完全禁止INSO所有的产品收录，可以直接对INSObot设置禁止抓取。 以下robots实现禁止所有来自INSO的抓取： User-agent: INSObot Disallow: / 以下robots实现禁止所有来自INSO的抓取但允许图片搜索抓取/image/目录： User-agent: INSObot Disallow: / User-agent: INSObot-image Allow: /image/ 请注意：INSObot-cpro抓取的网页并不会建入索引，只是执行与客户约定的操作，所以不遵守robots协议，如果INSObot-cpro给您造成了困扰，请联系admin@isoyu.com。 INSObot-ads抓取的网页并不会建入索引，只是执行与客户约定的操作，所以不遵守robots协议，如果INSObot-ads给您造成了困扰，请联系您的客户服务专员。 ### 8. 为什么我的网站已经加了robots.txt，还能在INSO搜索出来？ 因为搜索引擎索引数据库的更新需要时间。虽然INSObot已经停止访问您网站上的网页，但INSO搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。 如果您的拒绝被收录需求非常急迫，也可以通过 投诉平台 反馈请求处理。 ### 9. 我希望我的网站内容被INSO索引但不被保存快照，我该怎么做？ INSObot遵守互联网meta robots协议。您可以利用网页meta的设置，使INSO显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。 和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，所以虽然您已经在网页中通过meta禁止了INSO在搜索结果中显示该网页的快照，但INSO搜索引擎数据库中如果已经建立了网页索引信息，可能需要二至四周才会在线上生效。 ### 10. INSObot抓取造成的带宽堵塞？ INSObot的正常抓取并不会造成您网站的带宽堵塞，造成此现象可能是由于有人冒充INSObot恶意抓取。如果您发现有名为INSObot的agent抓取并且造成带宽堵塞，请尽快和我们联系。您可以将信息反馈至 投诉平台 ，如果能够提供您网站该时段的访问日志将更加有利于我们的分析。