Robots.txt Generátor
Vytvoř pravidla pro vyhledávače a AI scrapery. Nastav, co mohou a co nesmějí procházet.
Globální pravidlo (* všichni boti)
AI Scrapers
🗺️ Sitemap
robots.txt
Spravuješ živnost nebo zakázky?
Spravuješ živnost nebo zakázky? VšeVKapse — fakturace, zakázky, klientský portál a AI v jedné aplikaci. Česky.
K čemu je Robots.txt Generátor
Pokud provozuješ web – ať už jako OSVČ, freelancer nebo vývojář – pravděpodobně nechceš, aby vyhledávače indexovaly všechno bez výjimky. Administrační sekce, testovací stránky, duplicitní obsah nebo interní soubory prostě do výsledků vyhledávání nepatří. Soubor robots.txt je první linie obrany, jenže jeho ruční psaní je náchylné na chyby v syntaxi.
Tento generátor ti umožní sestavit funkční robots.txt bez toho, abys musel memorovat přesný formát direktiv. Jednoduše zadáš, co chceš povolit nebo zakázat, vyberete boty a výsledek zkopíruješ rovnou na server.
Čím dál víc webů navíc řeší otázku AI botů – konkrétně GPTBot od OpenAI nebo CCBot od Common Crawl, které procházejí weby a sbírají data pro trénování jazykových modelů. Pokud nechceš, aby tvůj obsah sloužil jako trénovací dataset, je zákaz těchto botů první praktický krok.
Co umí
- Nastavení pravidel pro konkrétní boty (Googlebot, Bingbot, GPTBot a další)
- Globální zákaz nebo povolení pro všechny crawlery najednou (`User-agent: *`)
- Blokování konkrétních cest nebo celých adresářů
- Přidání URL sitemapové mapy pro snazší indexaci Googlem
- Rychlé vložení předpřipravených pravidel pro nejčastější AI boty
- Okamžitý náhled výsledného souboru před stažením
Jak to funguje
- Zvol, pro kterého bota pravidla nastavuješ – buď konkrétního (například GPTBot), nebo všechny najednou.
- Zadej cesty, které chceš zakázat – třeba `/admin/`, `/tmp/` nebo celé adresáře.
- Pokud máš sitemapou, vlož její URL – generátor ji přidá jako direktivu `Sitemap:`.
- Přidej další boty nebo pravidla pomocí tlačítka pro nový blok.
- Zkopíruj nebo stáhni výsledný soubor `robots.txt`.
- Nahraj ho do kořenového adresáře webu (vedle `index.php` nebo `index.html`).