AI 爬虫爬虫 —— 开发商、用户代理 UA 与 robots.txt 拦截方法
User-agent: OAI-SearchBot Disallow: /
robots.txt
Disallow: /