robots.txtに拒否されてから始めるデータ設計――中古バイクサイトに「車種×バッテリー適合表」42車種を1日で公開した話
出典: Qiita (Claude tag)
Hiroba による自動要約
個人開発の中古バイク検索サービス MotoHub に車種別バッテリー型番適合表を1日で公開。スクレイピングが robots.txt と利用規約で閉ざされたため手動キュレーションで対応し、型式粒度でのスキーマ設計と 4 段階のデータ検証柵(model_name_check・全置換インポート・verified_at ゲート・dry-run)を実装。投入前の dry-run で名前不一致 5 件と slug 重複による公開 URL 曖昧性を検出し、誤データ配信を防止。
出典・元記事
Qiita (Claude tag) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 3410 件あります。
関連する記事
同じタグの記事




Hong Kong 空港での Amazon Bedrock 検証: Anthropic と OpenAI のプロプライエタリモデルのみがブロック
Qiita著者が Hong Kong 国際空港の Wi-Fi から Amazon Bedrock の 4 リージョン (東京・バージニア北部・シンガポール・台北) を実際に検証した結果、Claude や GPT などの Anthropic / OpenAI プロプライエタリモデルは接続元 IP ベースで一貫してブロックされる一方、gpt-oss-120b や Kimi K2.5 などのオープンウェイトモデルや Amazon Nova Pro は正常に動作することが判明。請求先住所がサポート対象国でも、リージョン選択でも回避できず、地域制限は提供元企業の方針に依存することが確認された。