robots.txtに拒否されてから始めるデータ設計――中古バイクサイトに「車種×バッテリー適合表」42車種を1日で公開した話
出典: Qiita (Claude tag)
Hiroba による自動要約
個人開発の中古バイク検索サービス MotoHub に車種別バッテリー型番適合表を1日で公開。スクレイピングが robots.txt と利用規約で閉ざされたため手動キュレーションで対応し、型式粒度でのスキーマ設計と 4 段階のデータ検証柵(model_name_check・全置換インポート・verified_at ゲート・dry-run)を実装。投入前の dry-run で名前不一致 5 件と slug 重複による公開 URL 曖昧性を検出し、誤データ配信を防止。
出典・元記事
Qiita (Claude tag) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 6024 件あります。
関連する記事
同じタグの記事




Windows で Claude Code のフックが効かない:PowerShell 5.1 の ParserError と対処
Qiitagit push 阻止用の Claude Code フックが、日本語を含む BOM なし UTF-8 の .ps1 を PowerShell 5.1 で起動した結果 ParserError となり、終了コード 1 で push を素通りさせた事例。Claude Code は終了コード 2 でのみ操作を止める仕様。対処として `pwsh` への切り替え、`"onFailure": "block"` の付与、BOM 付き UTF-8 での保存を実測付きで検証。Windows でフックを運用する開発者向け。