ネットツールボックス

robots.txt生成ツール

クローラーのアクセス設定を選択してrobots.txtを自動生成します。

プリセット

ルール 1

使い方

プリセットを選ぶか、User-agent・Allow・Disallowパスを入力して「robots.txtを生成」をクリックします。

生成されたテキストをダウンロードし、Webサーバーのルートディレクトリに配置してください。

Disallowが空の場合はそのUser-agentのクロールをすべて許可します。

Googleなど主要検索エンジンはrobots.txtを尊重しますが、全てのクローラーが従うわけではありません。

開発作業で使うときの確認ポイント

  • 多くの変換・整形ツールはブラウザ内で処理します。DNS確認やIP確認のように外部通信が必要な機能は、ページ内の説明も確認してください。
  • 整形・変換・生成結果は、言語仕様や実行環境によって解釈が変わる場合があります。本番投入前にテスト環境やCIで検証してください。
  • JSON、正規表現、HTTPヘッダーなどは小さな差分が不具合につながるため、変更前後を保存して比較する運用がおすすめです。

関連ツール

関連ガイド記事

このツールをシェア