Ostatnio w temacie http://forum.invisio...plik-robotstxt/ poruszyłem problem optymalnych wpisów w pliku robots.txt. Jak wiemy plik ten służy do informowania robotów sieciowych, które zasoby naszej witryny mogą przeglądać (indeksować), a które mają omijać "szerokim łukiem". W kontekście używania IP.SEO plik ten ma dość ważne znaczenie - wspomaga tworzenie przez boty indeksu najbardziej wartościowych stron. Za pomocą ustawień IP.SEO bardzo precyzyjnie określamy, co powinno zostać zindeksowane, a za pomocą robots.txt określamy co powinno być potraktowane jako "szum".
Na podstawie własnych doświadczeń i analizy danych pobranych z narzędzi dla webmasterów (Google) stworzyłem taki plik robots.txt:
User-agent: * Disallow: /admin/ Disallow: /cache/ Disallow: /converge_local/ Disallow: /hooks/ Disallow: /ips_kernel/ Disallow: /retail/ Disallow: /public/style_captcha/ Disallow: /index.php?&unlockUserAgent=1 Disallow: /*app=forums Disallow: /*app=core Disallow: /*app=members Disallow: /*app=calendar Disallow: /*app=blog /usuń ten wiersz, jeśli nie masz zainstalowane IP.Blogs/ Disallow: /*app=downloads /usuń ten wiersz, jeśli nie masz zainstalowane IP.Downloads/ Disallow: /*app=gallery /usuń ten wiersz, jeśli nie masz zainstalowane IP.Gallery/ Disallow: /*&p= Disallow: /*&pid= Disallow: /*&hl= Disallow: /*&start= Disallow: /*view__ Disallow: /*&view= Disallow: /*?s= Disallow: /*&s=
Moja rada
Jeżeli nie posiadasz w katalogu głównym pliku robots.txt to utwórz go. Dzięki temu precyzyjnie określisz strefy dostępu i zaoszczędzisz na transferze serwera, który marnotrawią boty mające pełen niczym nieskrępowany dostęp do Twojej witryny.
Uwaga!
Jeżeli zainstalowałeś skrypt forum nie w katalogu głównym lecz np. w katalogu mojepiekneforum to pierwsze siedem wpisów powinno wyglądać następująco:
Disallow: /mojepiekneforum/admin/ Disallow: /mojepiekneforum/cache/ Disallow: /mojepiekneforum/converge_local/ Disallow: /mojepiekneforum/hooks/ Disallow: /mojepiekneforum/ips_kernel/ Disallow: /mojepiekneforum/retail/ Disallow: /mojepiekneforum/public/style_captcha/
- 4
5 komentarzy
Rekomendowane komentarze
Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto
Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.
Zarejestruj nowe konto
Załóż nowe konto. To bardzo proste!
Zarejestruj sięZaloguj się
Posiadasz już konto? Zaloguj się poniżej.
Zaloguj się