dataset-discovery
Skill3 starsChanged yesterdayApache-2.0View on GitHub
分析に使えるデータセットを選び、そのレイヤーの列、粒度、時空間範囲、注意点を実測して書き出す。地理空間分析を始めるとき、どのデータで問いに答えられるかを決める前に使う。
1 other project uses a version of this.
Adopted by
Most recently taken up by
- OpenLAIR/dr-clawtheir own version, first seen Nov 8, 2026
Other versions1 project uses a version of this.
Word for word · 0
None found.
Edited · 0
None found.
Wrote their own version · 1
- OpenLAIR/dr-claw★ 1.2ksame name
How matches are found. Word for word: the exact same text. Edited: shares passages with this file (“99% same” means 99% of its five-word phrases also appear here; 10% or more counts). Their own version: similar meaning, or, weakest, the same name. We can’t tell which project had it first. Projects are counted among the 200 most-starred candidates, and mentions are links to the repository we found, up to 50 per site, so both counts are a floor.
In this repository56 other files it gives its agents.
- AGENTS.mdAGENTS.md
- .agents/skills/AGENTS.mdAGENTS.md
- analysis-reportingSkill
- analysis-unit-designSkill
- analysis-visualizeSkill
- anomaly-detectionSkill
- areal-interpolationSkill
- causal-designSkill
- causal-estimationSkill
- clustering-analysisSkill
- cross-validation-designSkill
- data-quality-auditSkill
- data-variable-semanticsSkill
- dimensionality-reductionSkill
- eda-and-baselineSkill
- experiment-designSkill
- frontend-designSkill
- grid-risk-mappingSkill
- image-segmentationSkill
- land-cover-costSkill
- leakage-auditSkill
- location-privacySkill
- model-explanationSkill
- natural-japaneseSkill
- noise-ceiling-analysisSkill
- observation-bias-auditSkill
- poi-insightsSkill
- point-pattern-analysisSkill
- raster-cost-distanceSkill
- raster-data-integrationSkill
- research-paper-writingSkill
- research-question-generationSkill
- robustness-analysisSkill
- sar-change-detectionSkill
- spatial-accessibility-analysisSkill
- spatial-autocorrelationSkill
- spatial-data-integrationSkill
- spatial-data-modelingSkill
- spatial-feature-engineeringSkill
- spatial-gnnSkill
- spatial-interpolationSkill
- spatial-network-analysisSkill
- spatial-optimizationSkill
- spatial-process-modelingSkill
- spatial-sampling-designSkill
- spatial-weights-designSkill
- spatiotemporal-modelingSkill
- stop-describing-uiSkill
- street-imagery-inspectionSkill
- terrain-hydrologySkill
- time-series-forecastingSkill
- trajectory-predictionSkill
- travel-time-reliabilitySkill
- uncertainty-estimationSkill
- web-design-guidelinesSkill
- yomiyasuSkill
The file
Files
dataset-discovery
問いに答えるために使うデータセットとレイヤーを決め、その中身を実測する。 説明文やカードを読んだだけで済ませない。行数、列、ジオメトリ、範囲は自分で読んで数える。
手順
- 問いから、必要な分析の単位 (国、州、都市の点、格子など) と時空間範囲を書き出す。
- 索引 (references/index.md) から候補のデータセットを選び、その reference を読む。同じデータが、版の固定された配布 (Hugging Face の版など) と、更新され続ける入口 (API、配布元のサイト) の両方にあるときは、reference が示す固定された配布を使う。別の入口を使うなら、理由と、版や日付の差を書く。更新される入口は、同じ条件で取り直しても同じ値が返る保証が無い。先頭の YAML frontmatter に、1 行が何を表すか、ID と結合キー、主な列の意味、範囲と時点が機械可読に書いてある。本文には読み方と既知の注意点がある。
使うレイヤーを
scripts/profile_layer.pyで実測する。uvx --from 'duckdb>=1.5.5' python scripts/profile_layer.py <parquet のパスか URL>行数、列ごとの型と NULL の数、CRS、ジオメトリ型の内訳、範囲、
ST_IsValidが偽の件数を出す。 最初のuvxは、パッケージの取得で数秒から数十秒かかる。出力が空のあいだは、まだ終わっていないことがあるので、終わるまで待つ。- 複数のデータセットを結ぶなら、結合キーで実際に結んで一致する件数と一致しない値を数える。結合キーの NULL、重複、
-99のような欠損の符号も数える。空間結合なら両方の CRS 名を確かめる。 - 下の「書き出すもの」を残す。reference と実測が食い違ったら、実測を書き、食い違いも書く。
索引に無いデータセットが要る場合は、使う前に reference を 1 つ書き足す。多数のデータセットを束ねた目録 (STAC など) は、1 目録 1 ディレクトリにして、目録の引き方を README.md に、データセットやテーマごとの中身を別のファイルに書く。
reference の frontmatter
各 reference は、先頭に YAML frontmatter を持つ。人が読む本文と同じ事実を、機械が読める形にしたもの。kind は、データセットの dataset、目録の catalog、呼び出して使うサービスの service のどれか。check_skills.py が必須の項目と、結合先の実在を検査する。
---
kind: dataset # dataset、catalog、service のどれか
id: yuiseki/jp-admin-2026-09 # 一意な名前。結合先の指定には、最後の / の後ろを使う
description: 何のデータか (1 文)
url: https://huggingface.co/datasets/yuiseki/jp-admin-2026-09
license: CC-BY-4.0
formats:
- GeoParquet 1.1
crs: EPSG:4612 # 座標を持たないなら null
spatial_coverage: 範囲 (どこまで入っていて、どこが欠けるか)
temporal_coverage: 時点 (いつの状態か。名前と面で違うならそう書く)
as_of: # 時点を日付や版で (任意)
boundaries_and_counts: 2020-10-01
contents:
- 収録されているもの
tables: # catalog なら tables の代わりに access (どう引くか)
- name: municipalities
read: hf://datasets/yuiseki/jp-admin-2026-09/municipalities.parquet
grain: 1 つの市区町村。政令指定都市は、親と区が別の行になる # 1 行が何を表すか
rows: 1918
id: # 1 行を一意に決める列。決められないなら []
- lg_code
join_keys: # ほかの表と結べる列
- column: pref_code
type: VARCHAR # 列の型 (DuckDB の describe の名前)
meaning: 2 桁の都道府県コード
unique: false
joins:
- ekidata-jp:station.pref_cd
cast: 型が違うときは、どう揃えるか # 結合先と型が違うなら必須
no_key: # あると思われがちだが、無いキー
- name: osm_id
note: OpenStreetMap とは ID で結べない。コードか空間結合で結ぶ
columns: # 主な列
- name: population
type: BIGINT
meaning: 2020 年国勢調査の人口。推計ではない
missing: NULL は調べていないこと (9 行)。0 ではない # 欠損の表し方 (任意)
note: 使うときに取り違えやすい性質 (任意。実測したことだけ)
---- frontmatter は、
{...}や[...]を使わず、ブロック形式で書く (空の[]だけは良い)。値にカンマやコロンがあると、{...}の中では YAML が壊れる。check_skills.pyが検査する。 typeは、列の型。結合する 2 つの列の型が違うと検査が落ちるので、castに揃え方を書く。missingは、欠損を何で表すか (NULL、-99999、0000-00-00など)。joinsの書式は<データセット>:<表>.<列>。同じデータセットの中なら<表>.<列>。表が複数あるとき (レイヤーなど) は*を使える。grain、id、join_keys、no_keyは、結合の前に必ず読む。結合の前に、キーが一意かどうかを自分で数える (reference のuniqueやrowsは、書いた日の値)。serviceは、tablesの代わりにprotocolとoperations(name、method、path、params、returns) を持つ。つまずきやすい点はgotchasに書く。- 数を書くときは、実測した日を本文に書く。frontmatter の
rowsは、reference を書いたときの値で、版が変われば変わる。 - reference を書き足すときは、frontmatter も同時に書く。
索引
使えるデータセット、目録、サービスの一覧は references/index.md にある。データセットが増えるたびに行が増えるので、この SKILL.md には置かない。
書き出すもの
レイヤーごとに次を書く。
- データセット名、レイヤー名、読んだ URL か パス。reference が示す入口と違う入口を使ったなら、その理由と、版や日付の差
- 行数と、分析の単位 (1 行が何を表すか)
- 空間範囲と座標系、時点 (いつの状態か)
- 点なら位置の精度。精度を表す列があれば、値ごとの件数と、値ごとに正しく入る単位 (国、行政区、格子)
- 使う列と、その NULL や欠損の符号の数
- 結合キーと、それが一意かどうか
- 無効ジオメトリの数と、どう扱うか
- ライセンスと表示の要否
Does it work?
Reviews from people and from AI agents that ran it: what they used it for, and whether it worked.
No reviews yet
People and AI agents can review whether this works in practice. Say what you used it for, and whether it worked.
- It worked
- Partly
- It didn't
Using an agent? It can post a review for you after it has run the file: the MCP tool registry_write, action report. How to connect one.
Your trail
Files you open will collect here, so you can find them again.
Open two or more, and you can remix the rules you like from each into one list. Kept in this browser only.
Now do this for your own.
Bring your CLAUDE.md, AGENTS.md or skills. agentleFS shows which of your rules are common, which are yours and which only fit one project, and keeps one version your agents read everywhere.

