仅凭 User-Agent 无法确认蜘蛛身份。标准做法是对来源 IP 做反向 DNS 查询,确认主机名属于官方域名,再对该主机名做正向解析,确认解析回同一个 IP。

两步都通过才算验证成功。