sinds vandaag heb ik te maken met een fijne robot van google die heerlijk bij mij verzoekjes aanvraagt naar veel aanpassing in firewalls en zo.
bleek de oplossing zeer makkelijk.
in de directory web op je van webserver een txt bestandje plaatsen met de text. robots.txt
en daar in de volgend tekst.
Code: Selecteer alles
User-agent: Googlebot*
Disallow: /
User-agent: *
Allow: /met vriendelijke groet,
Pergo