Tutorial Setting Custom Robots.txt Yang Benar

Cara Setting Custom Robots.txt Yang Benar. Sobat Blogger, Robots.txt adalah berisi pedoman atau pengaturan untuk Robot-crawler tentang bagaimana mereka akan meng-crawler dan mengindexs situs web atau blog anda, maka dari itu, blogger menyediakan pengaturan khusus untuk mengatur beberapa pengaturan SEO yang sangat dasar dan sangat mudah dari dashboard blog anda. Salah satunya adalah menetapkan custom  robots.txt untuk blog anda sesuai kebutuhan sobat.

Ketika robot crawler search engine mengunjungi halaman atau situs web dan blog, maka hal pertama yang terlihat adalah file robots.txt. bagi pemakai platform  Blogger, sekarang anda bisa atau mempunyai pilihan untuk mengontrol bot crawler search engine dan menentukan mana yang harus di rayapi dan di indexs dari situs web atau blog sobat.

Pada dasarnya setiap blog dari platfrom blogger memiliki robots.txt setelan default, namun dengan perubahan baru di blogger ini, anda dapat mengubahnya sesuai dengan kebutuhan, nah..untuk itu dalam posting kali ini, anda akan tahu tentang bagaimana stelan robots.txt default blogger dan cara menambahkan atau mengedit robots.txt custom untuk blog anda.

Di Bawah Ini Adalah Custom Robots.txt Standar Default Blogger

User-agent: Mediapartners-Google
Disallow:
User-agent: *
Disallow: /search
Allow: /
Sitemap: http://sun3daily.blogspot.com/feeds/posts/default?orderby=UPDATED

Settingan Robot.txt default di atas ini sama untuk setiap blog. tapi jika anda merasa settingan ini sudah mampu memenuhi kebutuhan SEO untuk blog anda dan blog sudah memiliki banyak visitor, maka anda tidak perlu menggantinya jika ini memang tidak perlu,karena stelan robots.txt ini akan sangat berpengaruh terhadap blog anda,tapi tentu anda juga harus tau jika dalam settingan ini, mungkin ada yang anda butuhkan dan ini penting untuk blog anda.

Untuk mengecek kustom Robots.txt blog, anda cukup menambahkan robots.txt di belakang url blog anda di browser dan klik enter.
contoh :

http://NamaBlogAnda.blogspot.com/robots.txt

Cara Setting Atau Menggunakan Kustom Robots.txt Khusus Dalam Penambahan-nya

1. Buka Dashboard > Setting > Preferensi Penelusuran > Perayapan Dan Pengindeksan.
2. Klik 'Custom robots.txt'> Klik 'Ya'.
3. Paste kustom robots.txt yang sudah anda tentukan. (Lihat Contoh Gambar Di bawah)
4. Klik 'Simpan perubahan' untuk menyimpan robots.txt kustom.

Itulah cara untuk memasukkan atau meng-edit custom robots.txt di dashboar. Sekarang mari kita lihat bagaimana menulis custom robots.txt untuk blogger yang baik namun ini juga harus di sesuaikan dengan kebutuhan anda. pada poin-poin ini anda hanya harus memasang kode sesuai yang anda butuhkan saja.

Custom robots.txt yang tepat dalam Blog dengan kebutuhan-nya.

User-agent: Mediapartners-Google
Disallow:
User-agent: *
Disallow: /search
Disallow: /p/*
Disallow: /view/*
Disallow: /?m=1
Disallow: /?m=0
Disallow: /*?m=1
Disallow: /*?m=0
Allow: /
Sitemap: sun3daily.blogspot.com/feeds/posts/default?orderby=UPDATED

Contoh di atas ini adalah custom robots.txt untuk blog sesuai kebutuhannya, bagaimana untuk yang tidak penting dan yang penting harus di indexs dan di blok. Sekarang saya akan menjelaskan apa arti dari setiap baris di atas dari setiap kode-kode yang di terapkan dan arti tambahan yang di berikan di kostum ini.

User-agent: Mediapartners-Google

Disallow: Garis ini menunjukan bahawa bot crawler di perintah untuk merayapi atau meng-crawler adsense. jika anda sudah mempunyai iklan Adsense; baris ini sangat bagus untuk ,meng-crawler adsense dan untuk mengunjungi semua halaman situs anda sesuai dengan pedoman adsense, untuk garis ini lebih baik di biarkan.

User-agent: * Baris ini digunakan untuk bot meng-crawler semua situs halaman blog anda (kecuali untuk pengaturan yang terpisah di bawahnya, apakah harus di indexs atau di blok dalam penambahan kode di bawah-nya. yang di maksud dibawahnya ini adalah kode-kode yang anda terapkan.

Disallow: /search Baris ini menunjukkan bahwa setiap halaman / pencarian dalam bentuk URL tidak akan dijelajahi dan diindeks oleh bot crawler. Baris ini sangat penting untuk membuat SEO blog anda, seperti tidak akan merayapi atau tidak akan mengindeks halaman Label dan Arsip. Karena halaman tersebut bukan halaman unik atau URL yang bisa di indexs dan juga untuk menghindari duplikat konten pada blog anda.

Disallow: /p/* Garis ini berfungsi untuk memblokir robot  menjelajah halaman untuk blog anda. Tetapi jika anda ingin halaman anda tetap di indeks oleh crawler , silahkan hapus baris ini.

Disallow: / view / * Garis ini berfungsi untuk menghentikan robot merayapi halaman blogger dengan tampilan link dinamis. Jika anda menggunakan tampilan dinamis di blog anda, maka anda bisa menghapus garis ini tapi jika anda tidak menggunakannya silahkan di biarkan saja.

Disallow: /?m=1
Disallow: /?m=0
Disallow: /*?m=1
Disallow: /*?m=0 Garis-garis ini berfungsi untuk menghentikan robot merayapi halaman redirect ke mobile phone atau tampilan handphone. Jika anda tidak menggunakannya, maka anda mungkin akan melihat blog dengan link dalam hasil pencarian tampilan mobile phone *?M = 1 atau *?M = 0 garis ini diperlukan untuk menghindari masalah duplikat halaman. Jika anda tidak mempunyai masalah ini atau jika anda tidak membutuhkannya, anda bisa menghapusnya.


Sitemap: http://sun3daily.blogspot.com/feeds/posts/default?orderby=UPDATED
garis ini pada dasarnya menunjukkan link ke sitemap blog anda.
silahkan ganti  http://sun3daily.blogspotcom/  menjadi URL blog anda.

Periksa dan Menganalisis Robot.txt anda

Ada banyak alat yang tersedia di web untuk memeriksa robots.txt anda. Tapi untuk memeriksa bagaimana robot google (ie.Adsbot-Google, Mediapartners-Google, Googlebot) akan merayapi di blog anda, anda harus menggunakan alat google-webmaster. silahkan buka webmaster dashboard > Crawler > URL di blokir. Anda bisa melihat bagaimana robot ini bekerja di blog anda sesuai dengan robots.txt yang anda tentukan.

Catatan : dalam penggunaan robots.txt ini,anda harus benar-benar menggunakan kode yang anda butuhkan saja, karena dalam penerapan robots.txt ini jika anda hanya asal saja menerapkan tanpa tahu fungsi-fungsi dari setiap kode tersebut,akan berakibat fatal ,bahkan dampak parahnya bot crwaler tidak akan mengindex blog anda, jadi lebih baik pelajari terlebih dahulu dari setiap kode dan fungsi-fungsinya. 

Jika ada ide yang lain yang menurut anda lebih bagus atau ada yang di pertanyakan silahkan diskusi di kolom komentar. oke sobat blogger saya rasa cukup sekian dulu di tutorial Cara Setting Custom Robots.txt Yang Benar menurut saya :). lebih dan kurangnya saya mohon maaf. semoga sukses