User-agent: *
Disallow: /cgi-bin
Crawl-delay: 600 # задает таймут в 60 секунд