机器人流量是指由自动软件程序(或机器人)而非人类用户生成的互联网流量。机器人可以执行各种任务,包括有益的和恶意的,而且速度比人类快得多。
据估计,大约 30% 的互联网流量来自旨在窃取内容、破坏服务和开展其他恶意活动的恶意机器人。
有效识别和阻止不必要的机器人流量对于维护网站性能、安全性和准确的分析至关重要。
什么是机器人流量?
机器人流量是指网站或应用上的任何非人类活动。虽然机器人流量通常名声不佳,但根据机器人的目的,它可能是正面的,也可能是负面的。
这些机器人旨在无需人工干预即可执行特定任务或操作。因此,任何来自这些非人类来源的流量都被视为机器人流量。
一些机器人流量是有帮助的(例如 Siri、Alexa),但其他机器人流量可能是坏的并会导致问题(DDOS 攻击)。
网站所有者和应用程序开发人员需要跟踪和分析他们的流量以识别和区分机器人和人类访问者,确保指标准确并防止安全威胁。
如何识别机器人流量?
Web 工程师可以检查其网站上的网络请求,以发现可能的机器人流量。Google Analytics 或 Heap 等工具也可以帮助查找机器人流量。
以下是分析数据中机器人流量的一些迹象:
1. 异常高的页面浏览量:
如果某个网站的访问量突然比平时多很多,那么很可能是因为有机器人点击了该网站。
2. 高跳出率:
跳出率表示有多少用户只访问了网站上的一个页面,然后就离开了,没有点击任何其他内容。如果跳出率突然上升,可能是因为机器人瞄准了该页面。
3. 虚假转化:
虚假注册数量的增加,例如使用随机电子邮件地址创建账户或填写虚假姓名和号码的联系表格,可能是由自动机器人造成的。
4. 意外的流量激增
特定区域的访问者数量突然增加,尤其是很少有人会说该网站的语言的区域,可能意味着存在机器人活动。
机器人流量的类型
好的机器人:
- 搜索引擎爬虫 –搜索引擎使用机器人访问网页、下载网页并查找其他网页的链接。这有助于它们对网页进行组织和分类,以便获得搜索结果。
- 网站监控机器人——这些机器人监控网站的性能问题,例如加载时间或停机时间,确保网站的最佳健康状态。
- 聚合机器人——这些机器人从多个来源收集数据并将其集中起来,协助数据收集或内容聚合。
- 抓取机器人——虽然抓取机器人可用于研究或数据收集等合法目的,但它们也可用于非法活动,如内容盗窃或发送垃圾邮件。
恶意机器人:
- 垃圾邮件机器人 –这些机器人通常会在评论部分或通过网络钓鱼电子邮件分享不受欢迎的内容。
- DDoS 机器人 –高级机器人可以组织 DDoS 攻击,使网站流量过大并导致网站崩溃。
- 广告欺诈机器人 -机器人是以不诚实的方式点击广告的计算机程序。有时,它们会与虚假网站合作,让广告看起来更受欢迎,这可能会导致其背后的欺诈者获得更高的报酬。
- 恶意攻击 –机器人可能会被用于有害用途。它们可能会传播有害软件(如病毒),或发起攻击,索要解锁计算机文件的钱财。它们还会侵入系统,降低系统的安全性。
如何识别机器人流量
1. 异常高的页面浏览量:
如果某个网站的访问量突然比平时多很多,那么很可能是因为有机器人点击了该网站。
2 .高跳出率:
跳出率表示有多少用户只访问了网站上的一个页面,然后就离开了,没有点击任何其他内容。如果跳出率突然上升,可能是因为机器人瞄准了该页面。
3. 虚假转化:
虚假注册数量的增加,例如使用随机电子邮件地址创建账户或填写虚假姓名和号码的联系表格,可能是由自动机器人造成的。
4. 意外的流量激增
特定区域的访问者数量突然增加,尤其是很少有人会说该网站的语言的区域,可能意味着存在机器人活动。
如何防止不必要的机器人流量?
1. 阻止旧版 Web 浏览器和用户代理
许多工具和脚本默认使用旧的用户代理字符串列表。这不会阻止高级攻击者,但可以阻止一些攻击者。阻止过时的浏览器的风险很小;现代浏览器会自动更新,因此很难在网络上使用过时的版本。
2. 防范恶意机器人
不仅要保护您的网站,还要保护暴露的 API 和移动应用程序。确保在所有系统中共享有关阻止可疑活动的信息。如果不阻止不良行为者进入的其他方式,仅仅保护您的网站是不够的。
3.分析网站的访客渠道
注意您的网站访客来自哪里。是否有很多访客很快离开的来源?是否有一些来源没有带来很多销售?这些可能是机器人虚假流量的迹象。
4. 了解流量高峰
乍一看,流量激增似乎对您的业务有利。但您知道这些激增来自哪里吗?如果无法解释,则可能意味着有不必要的机器人活动导致了这些激增。
5. 监控失败的登录尝试
设置登录尝试失败次数的限制。然后密切关注任何突然增加或异常模式。设置警报,以便在发生任何异常情况时自动收到通知。
请记住,某些高级攻击可能不会针对每个用户或会话触发警报,因此设置一般限制来捕获它们至关重要。
6. 注意更多礼品卡验证失败
礼品卡号码检查失败的次数增多可能意味着像 GiftGhostBot 这样的机器人正在试图窃取余额。
7. 注意公共数据泄露
最近被盗的凭证更有可能仍然有效。当任何地方发生重大违规行为时,恶意机器人会更频繁地使用这些凭证来尝试访问您的网站。
结论
机器人流量包括自动访问网站,通常用于数据抓取或欺诈等恶意目的。要识别和防止不必要的机器人流量,请监控网站活动中的异常峰值,使用 CAPTCHA 或机器人检测工具,并实施 IP 地址阻止或速率限制措施。定期更新安全协议也有助于降低风险。