robots.txtに断られてから始めるデータ設計——中古バイクサイトに「車種×バッテリー適合表」42車種を1日で公開した話
Hiroba による自動要約
個人開発の中古バイク検索サービス MotoHub に、42車種分のバッテリー適合表を1日で公開。スクレイピングが robots.txt と利用規約で不可のため手動キュレーションに切り替え、型式単位のスキーマ設計と4段階の安全柵（名前チェック・全置換インポート・公開ゲート・dry-run）を構築した結果、本番投入前に名前不一致と slug 重複という2種類の実害を検出・防止。
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 3410 件あります。
関連する記事
同じタグの記事
robots.txtに拒否されてから始めるデータ設計――中古バイクサイトに「車種×バッテリー適合表」42車種を1日で公開した話
Qiita個人開発の中古バイク検索サービス MotoHub に車種別バッテリー型番適合表を1日で公開。スクレイピングが robots.txt と利用規約で閉ざされたため手動キュレーションで対応し、型式粒度でのスキーマ設計と 4 段階のデータ検証柵（model_name_check・全置換インポート・verified_at ゲート・dry-run）を実装。投入前の dry-run で名前不一致 5 件と slug 重複による公開 URL 曖昧性を検出し、誤データ配信を防止。
Hong Kong 空港での Amazon Bedrock 検証: Anthropic と OpenAI のプロプライエタリモデルのみがブロック
Qiita著者が Hong Kong 国際空港の Wi-Fi から Amazon Bedrock の 4 リージョン (東京・バージニア北部・シンガポール・台北) を実際に検証した結果、Claude や GPT などの Anthropic / OpenAI プロプライエタリモデルは接続元 IP ベースで一貫してブロックされる一方、gpt-oss-120b や Kimi K2.5 などのオープンウェイトモデルや Amazon Nova Pro は正常に動作することが判明。請求先住所がサポート対象国でも、リージョン選択でも回避できず、地域制限は提供元企業の方針に依存することが確認された。