English | 简体中文 | 繁體中文

MediavBot

MediavBot是一个网络爬虫程序,通常被用于抓取网页内容并建立搜索引擎的索引。这种爬虫程序可能由媒体公司、搜索引擎或其他组织开发和使用。

MediavBot可能被用于抓取特定类型的网页内容,例如新闻、媒体信息或其他与媒体相关的内容。它可以自动访问网站上的页面,收集其中的信息,并进行索引以支持后续的检索和展示。

不过对于国内网站来说不会带来什么流量,可以选择robots.txt协议禁止。

User-agent: MediavBot

Disallow: /

如果还是禁止不了,可以选择nginx规则禁止访问,如下:

if ($http_user_agent ~* "MediavBot") {

 return 403;

}

补充纠错
上一蜘蛛: Jinquanspider
下一蜘蛛: YunGuanCe