ikedachin/imabari_wiki_rl_v3

Imabari Wiki RL v3 Dataset

English

Dataset Summary

This dataset is a Japanese reinforcement learning dataset created from ikedachin/imabari_wiki_cpt_v3. It contains multiple-choice question-answering examples based on local knowledge derived from the source dataset. Each example includes a question, answer choices, the correct label, the correct answer text, a blind answer, a grounded answer, supporting evidence, difficulty, RL suitability, and chat-style messages. The dataset is designed for reinforcement learning-style training and evaluation of Japanese language models, especially in settings such as RLHF, RLAIF, GRPO, PPO, reward modeling, grounded QA evaluation, and local-knowledge QA alignment. Unlike a pure SFT dataset, this dataset is intended to be used as a source of prompts, answer candidates, reference labels, evidence-grounded answers, and reward-oriented evaluation signals.

Dataset Details

Dataset Description

This dataset was generated from local knowledge data in ikedachin/imabari_wiki_cpt_v3. The examples are multiple-choice QA records designed to support reinforcement learning and evaluation workflows. Each record contains both a blind answer and a grounded answer. The blind answer represents an answer generated without using the evidence, while the grounded answer is based on the provided evidence. This structure makes the dataset useful for evaluating and training models that should improve their answers when grounded in reference information. Main characteristics:

• Japanese multiple-choice question-answering dataset
• Designed for reinforcement learning-style training and evaluation
• Based on local knowledge from ikedachin/imabari_wiki_cpt_v3
• Includes answer choices with labels such as A, B, C, and D
• Includes the correct label and correct answer
• Includes a blind answer and blind confidence
• Includes a grounded answer and supporting evidence
• Includes difficulty labels
• Includes RL suitability labels
• Includes rejection reasons for unsuitable examples
• Includes chat-style messages
• Includes the name of the QA generation model
• Each record is linked to an original source chunk by chunk_index This dataset is especially useful for experiments where a model is optimized not only to imitate answers, but also to improve factuality, evidence use, answer calibration, and multiple-choice reasoning through reward-based training.

Dataset Sources

• Source dataset: ikedachin/imabari_wiki_cpt_v3
• RL dataset: ikedachin/imabari_wiki_rl_v3
• QA generation model: Qwen3.5-35B-A3B-GPTQ-Int4

Uses

Direct Use

This dataset can be used for:

• Reinforcement learning of Japanese language models
• RLHF / RLAIF experiments
• GRPO, PPO, or other reward-based optimization workflows
• Reward model training or reward signal design
• Multiple-choice QA evaluation
• Evidence-grounded QA evaluation
• Blind-vs-grounded answer comparison
• Local-knowledge QA alignment
• Japanese QA model evaluation
• Regional chatbot optimization
• Experiments on converting CPT/RAG-style source data into RL training data
• Evaluating synthetic QA generation and scoring pipelines

Possible Training Patterns

Depending on the training method, this dataset can be used in several ways. For prompt-based RL training:

• Use question and choices as the prompt
• Generate model responses during training
• Reward the model for selecting correct_label or correct_answer
• Optionally use evidence to evaluate grounded behavior For grounded QA training:
• Use question, choices, and evidence as input
• Train or evaluate whether the model can produce grounded_answer
• Compare grounded performance against blind_answer For reward modeling:
• Use correct and incorrect choices to construct preference pairs
• Treat responses matching correct_label as preferred
• Treat responses matching incorrect choices as rejected
• Use blind_confidence, difficulty, and rl_suitability as auxiliary metadata For GRPO / PPO-style training:
• Use the multiple-choice question as the rollout prompt
• Generate one or more candidate answers
• Score candidates by exact match against correct_label or correct_answer
• Optionally add evidence-consistency rewards using evidence For filtering:
• Use only examples where rl_suitability is accepted
• Exclude examples with non-empty rejection_reason
• Use difficulty to create curriculum or evaluation splits

Out-of-Scope Use

This dataset should not be used as the sole source of truth for high-stakes or fact-critical applications. Out-of-scope uses include:

• Medical, legal, financial, or disaster-response decision making
• Official administrative guidance without verification
• Real-time tourism or public-service information
• Treating synthetic evidence as always complete or authoritative
• Treating dialect-like expressions as linguistically authoritative Imabari dialect
• Using the dataset as a fully verified encyclopedia of Imabari
• Using blind_answer as a correct answer
• Treating blind_confidence as a calibrated probability
• Using rl_suitability as an objective quality guarantee without inspection

Dataset Structure

Each record is stored in JSON Lines format and has the following structure.

{
  "id": "19395",
  "chunk_index": 1,
  "title": "成人式",
  "question": "2018 年現在、名古屋市 16 区の成人式会場について、小学校の学区毎に主に学校施設を使用して行われているのはどの区の数か。",
  "choices": [
    {
      "label": "A",
      "text": "10 区"
    },
    {
      "label": "B",
      "text": "12 区"
    },
    {
      "label": "C",
      "text": "14 区"
    },
    {
      "label": "D",
      "text": "16 区"
    }
  ],
  "correct_label": "B",
  "correct_answer": "12 区",
  "blind_answer": "10",
  "blind_confidence": "中",
  "grounded_answer": "12",
  "evidence": "参照情報「成人式に関する現状と課題」の記述「名古屋市 16 区のうち、東区・中区・昭和区・熱田区を除く 12 区では、小学校の学区毎に、主に学校施設を使用して成人式を行っとるんや」に基づき、対象となる区は 12 区であることが確定します。",
  "difficulty": "borderline",
  "rl_suitability": "accepted",
  "rejection_reason": "",
  "qa_generator": "Qwen3.5-35B-A3B-GPTQ-Int4",
  "messages": [
    {
      "role": "user",
      "content": "2018 年現在、名古屋市 16 区の成人式会場について、小学校の学区毎に主に学校施設を使用して行われているのはどの区の数か。\n\nA. 10 区\nB. 12 区\nC. 14 区\nD. 16 区\n\n正しい選択肢をA、B、C、Dから1つ選んでください。"
    },
    {
      "role": "assistant",
      "content": "B. 12 区"
    }
  ]
}

Fields

Field	Type	Description
id	string	Example ID.
chunk_index	integer	Index of the source chunk in the seed dataset.
title	string	Title or topic of the source chunk.
question	string	Multiple-choice question.
choices	list	Answer choices. Each choice has label and text.
correct_label	string	Correct option label, such as A, B, C, or D.
correct_answer	string	Correct answer text.
blind_answer	string	Answer produced without grounding evidence. It may be incorrect.
blind_confidence	string	Confidence label for the blind answer.
grounded_answer	string	Answer produced or verified using evidence.
evidence	string	Supporting evidence used to identify the grounded answer.
difficulty	string	Difficulty label for the example.
rl_suitability	string	Suitability label for RL training.
rejection_reason	string	Reason for rejecting the example, if unsuitable.
qa_generator	string	Model used to generate the QA sample.
messages	list	Chat-style prompt and answer.

Data Splits

The current dataset split is: Split Examples train

If needed, users may create their own train, validation, and test splits. Split Examples train validation test

Data Creation

Curation Rationale Local-knowledge language models require more than general Japanese instruction data. They need examples that contain local entities, place names, cultural context, historical information, and region-specific expressions. This dataset was created to make knowledge derived from ikedachin/imabari_wiki_cpt_v3 usable in reinforcement learning workflows. The purpose is not only to teach a model to imitate answers, but also to support reward-based optimization of answer correctness, evidence use, calibration, and multiple-choice reasoning. It is designed for experiments in local LLMs, regional QA systems, grounded QA, RAG-based systems, reward modeling, and synthetic data generation from local-knowledge corpora.

Source Data

The seed dataset is ikedachin/imabari_wiki_cpt_v3. Multiple-choice QA examples were generated from chunks in the source dataset and converted into a format suitable for RL-oriented training and evaluation.

Generation Process

The dataset was created through the following process:

1. Retrieve a chunk from ikedachin/imabari_wiki_cpt_v3
2. Generate a multiple-choice question based on the chunk
3. Generate answer choices
4. Identify the correct label and correct answer
5. Generate or record a blind answer without using evidence
6. Generate or verify a grounded answer using evidence
7. Add evidence supporting the grounded answer
8. Assign difficulty and RL suitability labels
9. Add metadata such as id, title, chunk_index, and qa_generator
10. Convert the result into chat-style messages

QA Generator

The QA examples were generated using the following model: Qwen3.5-35B-A3B-GPTQ-Int4

Evaluation and Reward Signals

This dataset includes several fields that can be used for evaluation or reward design.

• correct_label can be used for exact-match scoring.
• correct_answer can be used for answer-text matching.
• blind_answer can be used as a baseline response.
• grounded_answer can be used as an evidence-aware answer.
• evidence can be used for groundedness checks.
• difficulty can be used for curriculum learning or stratified evaluation.
• rl_suitability can be used to filter examples for RL training.
• rejection_reason can be used to exclude unsuitable examples.

For example, an RL reward function may give positive reward when the model selects the correct label and negative reward when it selects an incorrect option. A more advanced reward function may also check whether the answer is consistent with evidence. The metadata should not be treated as perfect or objective. Users are encouraged to inspect, recalibrate, or re-evaluate the examples before using them in production training.

How to Use

Load with datasets

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
print(dataset)
print(dataset["train"][0])

Use Multiple-Choice Questions as RL Prompts

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
sample = dataset["train"][0]
prompt = sample["messages"][0]["content"]
correct_label = sample["correct_label"]
correct_answer = sample["correct_answer"]
print("Prompt:", prompt)
print("Correct label:", correct_label)
print("Correct answer:", correct_answer)

Filter RL-Suitable Examples

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
def filter_rl_suitable(example):
    return example["rl_suitability"] == "accepted"
filtered = dataset["train"].filter(filter_rl_suitable)
print(filtered)

Convert to Prompt-Answer Format

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
def to_prompt_answer(example):
    return {
        "prompt": example["messages"][0]["content"],
        "answer": f'{example["correct_label"]}. {example["correct_answer"]}',
        "correct_label": example["correct_label"],
        "correct_answer": example["correct_answer"],
        "difficulty": example["difficulty"],
        "rl_suitability": example["rl_suitability"],
    }
converted = dataset["train"].map(to_prompt_answer)
print(converted[0])

Create a Simple Exact-Match Reward Function

def reward_exact_match(response: str, correct_label: str, correct_answer: str) -> float:
    normalized = response.strip()
    expected_1 = correct_label.strip()
    expected_2 = f"{correct_label}. {correct_answer}".strip()
    expected_3 = correct_answer.strip()
    if normalized == expected_1:
        return 1.0
    if normalized == expected_2:
        return 1.0
    if normalized == expected_3:
        return 1.0
    return 0.0

Training Notes

This dataset is suitable for:

• RLHF-style experiments
• RLAIF-style experiments
• GRPO-style training
• PPO-style training
• Reward model training
• Multiple-choice QA optimization
• Prompt-based rollout generation
• Local-knowledge QA optimization
• Grounded QA evaluation
• Japanese language model alignment
• Regional response-style tuning
• Evaluation of local-knowledge answer quality

For RL training, the messages[0]["content"] field can be used as the rollout prompt. The target response can be represented as:
B. 12 区

or, depending on the training setup, simply:
B

The correct_label and correct_answer fields can be used for automatic scoring. The evidence field can be used to construct groundedness-aware reward functions. The blind_answer field can be used as a baseline for evaluating whether grounding improves answer correctness. The rl_suitability field can be used to select examples appropriate for RL training.

Limitations

This dataset has several limitations:

• It is synthetic data and may contain hallucinations
• Generated questions or choices may contain factual errors
• The source data may be outdated
• The evidence may not always be complete
• The blind answer may not represent a stable model baseline
• The grounded answer may still contain errors
• Dialect-like expressions may not accurately represent real Imabari dialect
• The dataset is region-specific and may not improve general QA ability
• rl_suitability depends on the dataset creation criteria
• Models optimized on this dataset may learn to exploit exact-match reward formats
• Models may learn to answer with labels only, without explaining their reasoning
• If evidence is included during training, models may become overly dependent on evidence-style prompts

Bias, Risks, and Recommendations

Bias

The dataset reflects the coverage and biases of the source data. Well-known places, historical figures, temples, tourist spots, administrative topics, and public facilities may be overrepresented. The generated questions, choices, blind answers, and grounded answers may also contain stylistic or factual biases caused by the QA generation model. Difficulty and RL suitability labels may reflect the assumptions of the scoring and filtering process.

Risks

Models trained or optimized on this dataset may:

• Prefer short label-only answers
• Overfit to the multiple-choice format
• Answer confidently even when uncertain
• Overuse regional or dialect-like expressions
• Add Imabari- or Ehime-related context even when unnecessary
• Reproduce errors from the synthetic generation process
• Optimize for exact-match rewards rather than robust reasoning
• Learn reward-hacking behaviors if the reward signal is too narrow

⸻

Recommendations

Recommended usage:

• Inspect samples before training
• Use only examples where rl_suitability is accepted
• Review examples with non-empty rejection_reason
• Use difficulty for curriculum learning or evaluation subsets
• Use correct_label for exact-match scoring
• Use evidence for groundedness-aware reward design
• Evaluate models on held-out local-knowledge questions
• Combine with RAG or external fact-checking for factual applications
• Normalize answer format before scoring
• Avoid relying only on label exact match for final model quality

License

This dataset inherits the license of the source dataset, ikedachin/imabari_wiki_cpt_v3, and is licensed under cc-by-sa-4.0. Because this dataset is derived from ikedachin/imabari_wiki_cpt_v3, users should follow the same license terms as the source dataset. Before publishing, redistribution, or commercial use, please check the license of:

• ikedachin/imabari_wiki_cpt_v3
• the original source materials used to create ikedachin/imabari_wiki_cpt_v3
• any applicable attribution, redistribution, or commercial-use requirements

Citation

If you use this dataset, please cite both this dataset and the source dataset.

@misc{ikedachin_imabari_wiki_cpt_v3,
  title        = {Imabari Wiki CPT v3},
  author       = {ikedachin},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/ikedachin/imabari_wiki_cpt_v3}},
  note         = {Source dataset. Licensed under CC BY-SA 4.0.}
}
@misc{ikedachin_imabari_wiki_rl_v3,
  title        = {Imabari Wiki RL v3 Dataset},
  author       = {ikedachin},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/ikedachin/imabari_wiki_rl_v3}},
  note         = {Derived from ikedachin/imabari_wiki_cpt_v3. Licensed under CC BY-SA 4.0.}
}

---

今治 Wiki RL v3 データセット

日本語

データセット概要

このデータセットは、ikedachin/imabari_wiki_cpt_v3 をもとに作成した、日本語の強化学習用データセットです。 シードデータセット由来のローカルナレッジをもとにした、日本語の選択式 QA データを収録しています。 各サンプルには、質問、選択肢、正解ラベル、正解回答、blind answer、grounded answer、根拠文、難易度、RL 適性、Chat 形式の messages が含まれます。 このデータセットは、RLHF、RLAIF、GRPO、PPO、報酬モデル学習、grounded QA 評価、地域知識 QA のアラインメント実験に利用することを想定しています。 純粋な SFT データセットとは異なり、このデータセットは、プロンプト、選択肢、参照ラベル、根拠に基づく回答、報酬設計用の評価信号として使うことを想定しています。

データセット詳細

データセット説明

このデータセットは、ikedachin/imabari_wiki_cpt_v3 のローカルナレッジデータをもとに生成されています。 各サンプルは、強化学習および評価ワークフローで利用しやすい選択式 QA 形式のレコードです。 各レコードには、blind answer と grounded answer の両方が含まれています。blind answer は根拠情報を使わずに生成された回答を表し、grounded answer は根拠情報に基づいて生成または検証された回答を表します。 この構造により、根拠情報を使うことで回答が改善されるか、モデルが正しく evidence を利用できるかを評価・学習しやすくなっています。 主な特徴は以下の通りです。

• 日本語の選択式 QA データである
• 強化学習スタイルの学習・評価を想定している
• ikedachin/imabari_wiki_cpt_v3 由来のローカル知識を含む
• A、B、C、D などの選択肢ラベルを含む
• 正解ラベルと正解回答を含む
• blind answer と blind confidence を含む
• grounded answer と根拠文を含む
• 難易度ラベルを含む
• RL 適性ラベルを含む
• 不採用理由を含む
• Chat 形式の messages を含む
• QA 生成に使用したモデル名を含む
• 各レコードは chunk_index によって元チャンクと対応している

このデータセットは、回答を単純に模倣させるだけでなく、事実性、根拠利用、回答の確信度、選択式推論を報酬ベースで改善する実験に向いています。

データソース

• 元データセット: ikedachin/imabari_wiki_cpt_v3
• RL データセット: ikedachin/imabari_wiki_rl_v3
• QA 生成モデル: Qwen3.5-35B-A3B-GPTQ-Int4

用途

直接利用

このデータセットは、以下の用途に利用できます。

• 日本語 LLM の強化学習
• RLHF / RLAIF 実験
• GRPO、PPO などの報酬ベース最適化
• 報酬モデルの学習や報酬信号の設計
• 選択式 QA 評価
• 根拠に基づく QA 評価
• blind answer と grounded answer の比較
• 地域特化 QA のアラインメント
• 日本語 QA モデルの評価
• 地域チャットボットの最適化
• CPT/RAG 用データを RL 用データへ変換する実験
• 合成 QA 生成・スコアリングパイプラインの評価

想定される学習パターン

学習方法に応じて、このデータセットは複数の形で利用できます。 プロンプトベースの RL 学習では、以下のように使えます。

• question と choices をプロンプトとして使う
• 学習中にモデルから応答を生成する
• correct_label または correct_answer を選択した場合に報酬を与える
• 必要に応じて evidence を用いて grounded behavior を評価する

grounded QA 学習では、以下のように使えます。

• question、choices、evidence を入力として使う
• モデルが grounded_answer を出力できるかを学習・評価する
• grounded performance を blind_answer と比較する

報酬モデル学習では、以下のように使えます。

• 正解選択肢と不正解選択肢から preference pair を構成する
• correct_label に一致する応答を chosen として扱う
• 不正解選択肢に一致する応答を rejected として扱う
• blind_confidence、difficulty、rl_suitability を補助メタデータとして使う

GRPO / PPO 形式の学習では、以下のように使えます。

• 選択式質問をロールアウト用プロンプトとして使う
• 1 つまたは複数の候補回答を生成する
• correct_label または correct_answer との完全一致で採点する
• 必要に応じて evidence との整合性報酬を追加する

フィルタリングでは、以下のように使えます。

• rl_suitability が accepted のサンプルのみを使う
• rejection_reason が空でないサンプルを除外または確認する
• difficulty を使って curriculum learning や評価分割を作る

想定外の利用

このデータセットは、重要な意思決定や厳密な事実確認が必要な用途において、唯一の根拠として使うべきではありません。 想定外の利用例は以下の通りです。

• 医療、法律、金融、防災などの高リスク判断
• 検証なしの行政案内
• 最新性が必要な観光案内や公共サービス案内
• 合成された根拠文を、常に完全または権威あるものとして扱うこと
• 方言風表現を、言語学的に正確な今治方言として扱うこと
• 今治に関する完全に検証済みの百科事典として利用すること
• blind_answer を正解として扱うこと
• blind_confidence を較正済み確率として扱うこと
• rl_suitability を内容確認なしに客観的品質保証として扱うこと

データセット構造

各レコードは JSON Lines 形式で保存されており、以下の構造を持ちます。

{
  "id": "19395",
  "chunk_index": 1,
  "title": "成人式",
  "question": "2018 年現在、名古屋市 16 区の成人式会場について、小学校の学区毎に主に学校施設を使用して行われているのはどの区の数か。",
  "choices": [
    {
      "label": "A",
      "text": "10 区"
    },
    {
      "label": "B",
      "text": "12 区"
    },
    {
      "label": "C",
      "text": "14 区"
    },
    {
      "label": "D",
      "text": "16 区"
    }
  ],
  "correct_label": "B",
  "correct_answer": "12 区",
  "blind_answer": "10",
  "blind_confidence": "中",
  "grounded_answer": "12",
  "evidence": "参照情報「成人式に関する現状と課題」の記述「名古屋市 16 区のうち、東区・中区・昭和区・熱田区を除く 12 区では、小学校の学区毎に、主に学校施設を使用して成人式を行っとるんや」に基づき、対象となる区は 12 区であることが確定します。",
  "difficulty": "borderline",
  "rl_suitability": "accepted",
  "rejection_reason": "",
  "qa_generator": "Qwen3.5-35B-A3B-GPTQ-Int4",
  "messages": [
    {
      "role": "user",
      "content": "2018 年現在、名古屋市 16 区の成人式会場について、小学校の学区毎に主に学校施設を使用して行われているのはどの区の数か。\n\nA. 10 区\nB. 12 区\nC. 14 区\nD. 16 区\n\n正しい選択肢をA、B、C、Dから1つ選んでください。"
    },
    {
      "role": "assistant",
      "content": "B. 12 区"
    }
  ]
}

フィールド

Field	Type	説明
id	string	サンプル ID。
chunk_index	integer	シードデータセット内の元チャンク番号。
title	string	元チャンクまたはトピックのタイトル。
question	string	選択式の質問文。
choices	list	選択肢。各選択肢は label と text を持ちます。
correct_label	string	正解の選択肢ラベル。例: A, B, C, D。
correct_answer	string	正解の回答テキスト。
blind_answer	string	根拠情報なしで生成された回答。誤答の場合があります。
blind_confidence	string	blind answer に対する確信度ラベル。
grounded_answer	string	根拠情報に基づく回答。
evidence string	grounded	answer を導くための根拠文。
difficulty	string	サンプルの難易度ラベル。
rl_suitability	string	RL 学習への適性ラベル。
rejection_reason	string	不採用の場合の理由。
qa_generator	string	QA 生成に使用したモデル。
messages	list	Chat 形式のプロンプトと回答。

データ分割

現在のデータ分割は以下の通りです。 Split Examples train

必要に応じて、利用者側で train / validation / test に分割してください。

Split Examples train validation test

データ作成

キュレーションの意図

地域特化型の言語モデルを作るには、一般的な日本語 Instruction データだけでは不十分です。 地域固有の地名、施設名、文化、歴史、観光資源、人物、寺社、行政トピック、地域表現などを含む学習データが必要になります。 このデータセットは、ikedachin/imabari_wiki_cpt_v3 由来の知識を強化学習ワークフローで扱いやすい形式に変換することを目的として作成されています。 目的は、モデルに回答を単純に模倣させることだけではなく、回答の正確性、根拠利用、確信度の較正、選択式推論を報酬ベースで改善することです。 地域 LLM、地域 QA システム、grounded QA、RAG ベースのシステム、報酬モデル学習、ローカルナレッジコーパスからの合成データ生成実験に利用できます。

元データ

シードデータセットは ikedachin/imabari_wiki_cpt_v3 です。 元データセット内のチャンクをもとに選択式 QA サンプルを生成し、RL 指向の学習・評価に利用しやすい形へ整理しています。

生成プロセス

このデータセットは、以下の流れで作成されています。

1. ikedachin/imabari_wiki_cpt_v3 からチャンクを取得
2. チャンク内容をもとに選択式質問を生成
3. 選択肢を生成
4. 正解ラベルと正解回答を特定
5. 根拠情報なしの blind answer を生成または記録
6. 根拠情報に基づく grounded answer を生成または検証
7. grounded answer を支える evidence を付与
8. 難易度と RL 適性ラベルを付与
9. id、title、chunk_index、qa_generator などのメタデータを付与
10. Chat 形式の messages に変換

QA 生成モデル

QA サンプルの生成には、以下のモデルを使用しています。 Qwen3.5-35B-A3B-GPTQ-Int4

評価と報酬信号

このデータセットには、評価や報酬設計に利用できる複数のフィールドが含まれています。

• correct_label は完全一致採点に利用できます。
• correct_answer は回答テキストの一致判定に利用できます。
• blind_answer はベースライン回答として利用できます。
• grounded_answer は根拠利用後の回答として利用できます。
• evidence は groundedness の確認に利用できます。
• difficulty は curriculum learning や層別評価に利用できます。
• rl_suitability は RL 学習に使うサンプルのフィルタリングに利用できます。
• rejection_reason は不適切なサンプルの除外に利用できます。

たとえば、RL の報酬関数では、モデルが正しい選択肢ラベルを選んだ場合に正の報酬を与え、不正解の選択肢を選んだ場合に負またはゼロの報酬を与えることができます。 より発展的には、evidence との整合性を確認する groundedness-aware reward を追加できます。 ただし、これらのメタデータは完全または客観的なものとは限りません。実運用の学習に使う前に、サンプルの目視確認、再評価、スコアの再調整を行うことを推奨します。

使い方

datasets で読み込む

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
print(dataset)
print(dataset["train"][0])

選択式質問を RL プロンプトとして使う

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
sample = dataset["train"][0]
prompt = sample["messages"][0]["content"]
correct_label = sample["correct_label"]
correct_answer = sample["correct_answer"]
print("Prompt:", prompt)
print("Correct label:", correct_label)
print("Correct answer:", correct_answer)

RL に適したサンプルのみ抽出する

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
def filter_rl_suitable(example):
    return example["rl_suitability"] == "accepted"
filtered = dataset["train"].filter(filter_rl_suitable)
print(filtered)

Prompt-Answer 形式へ変換する

from datasets import load_dataset
dataset = load_dataset("ikedachin/imabari_wiki_rl_v3")
def to_prompt_answer(example):
    return {
        "prompt": example["messages"][0]["content"],
        "answer": f'{example["correct_label"]}. {example["correct_answer"]}',
        "correct_label": example["correct_label"],
        "correct_answer": example["correct_answer"],
        "difficulty": example["difficulty"],
        "rl_suitability": example["rl_suitability"],
    }
converted = dataset["train"].map(to_prompt_answer)
print(converted[0])

単純な完全一致報酬関数を作る

def reward_exact_match(response: str, correct_label: str, correct_answer: str) -> float:
    normalized = response.strip()
    expected_1 = correct_label.strip()
    expected_2 = f"{correct_label}. {correct_answer}".strip()
    expected_3 = correct_answer.strip()
    if normalized == expected_1:
        return 1.0
    if normalized == expected_2:
        return 1.0
    if normalized == expected_3:
        return 1.0
    return 0.0

学習時の注意

このデータセットは、以下の用途に向いています。

• RLHF 形式の実験
• RLAIF 形式の実験
• GRPO 形式の学習
• PPO 形式の学習
• 報酬モデルの学習
• 選択式 QA の最適化
• プロンプトベースのロールアウト生成
• 地域知識 QA の最適化
• grounded QA 評価
• 日本語 LLM のアラインメント
• 地域風応答スタイルの調整
• ローカルナレッジ回答品質の評価

RL 学習では、messages[0]["content"] をロールアウト用プロンプトとして利用できます。

目標応答は、以下のように表現できます。
B. 12 区

または、学習設定によっては以下のようにラベルのみでも利用できます。
B

correct_label と correct_answer は、自動採点に利用できます。 evidence フィールドは、根拠整合性を考慮した報酬関数の構築に利用できます。 blind_answer フィールドは、根拠利用によって回答精度が改善されるかを評価するためのベースラインとして利用できます。 rl_suitability フィールドは、RL 学習に適したサンプルの選択に利用できます。

制約

このデータセットには以下の制約があります。

• 合成データであり、幻覚を含む可能性があります
• 生成された質問や選択肢に事実誤認が含まれる可能性があります
• 元データの情報が古い可能性があります
• evidence が常に完全とは限りません
• blind answer は安定したモデルベースラインを表すとは限りません
• grounded answer にも誤りが含まれる可能性があります
• 方言風表現は、実際の今治方言を正確に表しているとは限りません
• 地域特化データであるため、汎用 QA 能力の向上には限定的な場合があります
• rl_suitability はデータ作成時の基準に依存します
• このデータで最適化したモデルは、完全一致報酬の形式を利用するように過学習する可能性があります
• モデルが説明ではなく、ラベルのみを返す傾向を学習する可能性があります
• evidence を学習時に含める場合、モデルが evidence 付きプロンプトに過度に依存する可能性があります

バイアス・リスク・推奨事項

バイアス

このデータセットは、元データの収録範囲や記述傾向を反映しています。 有名な場所、歴史的人物、寺社、観光地、行政トピック、公共施設などに情報が偏る可能性があります。 生成された質問、選択肢、blind answer、grounded answer には、QA 生成モデルによる文体上または事実上の偏りが含まれる可能性があります。 難易度や RL 適性ラベルも、スコアリングおよびフィルタリング過程の前提を反映している可能性があります。

リスク

このデータセットで学習・最適化したモデルは、以下のような挙動を示す可能性があります。

• 短いラベルのみの回答を好む
• 選択式形式に過学習する
• 不確かな質問に対して自信ありげに回答する
• 方言風表現を過剰に使う
• 不要な場面でも今治・愛媛関連の文脈を補う
• 合成データ生成時の誤りを再現する
• 堅牢な推論ではなく、完全一致報酬に過剰最適化する
• 報酬信号が狭い場合、reward hacking 的な挙動を学習する

推奨事項

利用時には以下を推奨します。

• 学習前にサンプルを目視確認する
• rl_suitability が accepted のサンプルのみを使う
• rejection_reason が空でないサンプルを確認する
• difficulty を curriculum learning や評価分割に利用する
• correct_label を完全一致採点に利用する
• evidence を groundedness-aware reward の設計に利用する
• hold-out した地域知識 QA でモデルを評価する
• 事実性が重要な用途では、RAG や外部ファクトチェックと組み合わせる
• 採点前に回答形式を正規化する
• 最終的なモデル品質評価では、ラベル完全一致だけに依存しない

ライセンス

このデータセットは、元データセットである ikedachin/imabari_wiki_cpt_v3 のライセンスを継承し、cc-by-sa-4.0 とします。 このデータセットは ikedachin/imabari_wiki_cpt_v3 から派生して作成されているため、利用者は元データセットと同じライセンス条件に従ってください。 公開、再配布、商用利用の前に、以下を確認してください。

• ikedachin/imabari_wiki_cpt_v3 のライセンス
• ikedachin/imabari_wiki_cpt_v3 の作成に使用された元資料のライセンス
• 帰属表示の要否
• 再配布条件
• 商用利用の可否
• 派生した合成 QA / RL データの再配布条件

引用

このデータセットを利用する場合は、このデータセットと元データセットの両方を引用してください。

@misc{ikedachin_imabari_wiki_cpt_v3, title = {Imabari Wiki CPT v3}, author = {ikedachin}, year = {2026}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/datasets/ikedachin/imabari_wiki_cpt_v3}}, note = {Source dataset. Licensed under CC BY-SA 4.0.} } @misc{ikedachin_imabari_wiki_rl_v3, title = {Imabari Wiki RL v3 Dataset}, author = {ikedachin}, year = {2026}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/datasets/ikedachin/imabari_wiki_rl_v3}}, note = {Derived from ikedachin/imabari_wiki_cpt_v3. Licensed under CC BY-SA 4.0.} }