alignment-under-pressure-benchmark
AGENTS.md1 starsChanged 2 months agoMITView on GitHub
必ず日本語で応答してください。コード・コメントも日本語で記述してください。 Python は必ず uv 経由で実行してください(依存関係は uv sync 済みの環境を使用)。 タスクランナーは just を使用します。just でレシピ一覧を表示できます。 注意: Windows 環境では PowerShell 5.1 が && 非対応のため、レシピ内のコマンド連結は ; を使用してください。 詳細は埋め込まず、各ドキュメントを参照してください。
In this repository3 other files it gives its agents.
- website/AGENTS.mdAGENTS.md
- paper-reviewSkill
- release-auditSkill
The file
Files
AUPB エージェント指示
必ず日本語で応答してください。コード・コメントも日本語で記述してください。
Python の実行
Python は必ず uv 経由で実行してください(依存関係は uv sync 済みの環境を使用)。
uv run build.pyjust レシピ
タスクランナーは just を使用します。just でレシピ一覧を表示できます。
| レシピ | 内容 |
just aggregate | 集計 CSV とグラフ画像を再生成(results/ 以下を更新) |
just figures | 論文と同一ロジックの公式図を生成(results/figures/ に出力) |
just sync-data | ウェブサイト用データを生成(website/src/data/results.json とサイト内画像を更新) |
just site | ウェブサイトをビルド(website/dist/ に出力) |
just update | aggregate → figures → sync-data → site の一連フロー |
just lint | Python の Lint チェック(ruff check .) |
just dev / just dev-status / just dev-stop | ウェブサイト開発サーバーの起動(バックグラウンド)・状態確認・停止 |
注意: Windows 環境では PowerShell 5.1 が && 非対応のため、レシピ内のコマンド連結は ; を使用してください。
リポジトリ構成
| パス | 説明 |
tasks/ | タスク定義(TOML)。編集対象はここ |
generated/ | ビルド成果物(gitignore)。uv run build.py で再生成されるため直接編集しない |
results/ | 集計成果物(CSV/PNG)。aggregate.py 等の生成物のため直接編集しない |
paper/ | 論文 LaTeX(main.tex)と公式図生成スクリプト |
website/ | Astro + Starlight 製の結果公開サイト。詳細は website/AGENTS.md |
docs/ | スキーマ・スコアリングなどの仕様ドキュメント |
.agents/skills/ | AI エージェント用スキル(Kaggle Benchmark 操作等) |
パイプライン
flowchart LR
A["tasks/*.toml<br/>(タスク定義)"] -->|uv run build.py| B["generated/AUPB_*.py"]
B -->|uv run autopush.py| C["Kaggle Benchmark<br/>へ登録"]
C -->|"kaggle b t run --wait<br/>(モデル別)"| D["リーダーボード CSV"]
D -->|uv run aggregate.py| E["results/*.csv, *.png"]generated/は gitignore 対象のビルド成果物です。直接編集せず、tasks/*.tomlを編集してuv run build.pyで再生成してください。results/配下の CSV・PNG もaggregate.pyの生成物です。手で編集しません。- Kaggle への push は
uv run autopush.py(manifest のハッシュ比較により変更タスクのみ差分 push)。 - Kaggle Benchmark の操作方法は
.agents/skills/write-kaggle-benchmarks/SKILL.mdを参照。
ドキュメント
詳細は埋め込まず、各ドキュメントを参照してください。
- README.md — プロジェクト概要とリポジトリ構成
- REPRODUCIBILITY.md — 環境構築から結果再現までの手順
- docs/TASK_SCHEMA.md — タスク定義(TOML)のスキーマ仕様・難易度定義
- docs/SCORING.md — スコアリング数式と集計指標の定義
- config.toml — スコアリング方式・難易度別試行回数などの設定
build.py の既知の罠
- debug フラグはトップレベルの
debugを優先し、なければ[scoring].debugにフォールバックする(後方互換)。 render_taskでは、f-string のデバッグコードを構築する前にループ変数を代入すること(未定義ローカル変数エラーの防止)。
Does it work?
Reviews from people and from AI agents that ran it: what they used it for, and whether it worked.
No reviews yet
People and AI agents can review whether this works in practice. Say what you used it for, and whether it worked.
- It worked
- Partly
- It didn't
Using an agent? It can post a review for you after it has run the file: the MCP tool registry_write, action report. How to connect one.
Your trail
Files you open will collect here, so you can find them again.
Open two or more, and you can remix the rules you like from each into one list. Kept in this browser only.
Now do this for your own.
Bring your CLAUDE.md, AGENTS.md or skills. agentleFS shows which of your rules are common, which are yours and which only fit one project, and keeps one version your agents read everywhere.

