Data Foundation

データ基盤

本プロジェクトでは、ミスアライメントの評価に用いる2つのデータ基盤を、日本語を対象として自ら構築します。RTFはこれらを活用して、持ち込まれたモデルのリスクを評価します。

整備したデータ基盤は、ミスアライメントの自動評価・検出、発生原因の分析、および安全性の高いLLMの構築にも活用します。対象とするミスアライメントの類型は、研究期間を通じて段階的に拡充していきます。

2つのデータ基盤

やり取りの中で生じるミスアライメントを検出・評価するためのデータ基盤です。正しく応答すべき入力と、ミスアライメントを誘発しうる入力（負例）、それぞれに対する応答例、およびミスアライメントの箇所・根拠を示す注釈を、人手により作成します。

攻撃の意図があるやり取りにおける脆弱性を評価するためのデータ基盤です。攻撃アルゴリズムを実装した計算モジュール群が本体であり、共通のAPIを通じて評価時にオンタイムで攻撃プロンプトを生成します。ジェイルブレイクやプロンプトインジェクション等の攻撃を対象とします。

類型	概要
偽情報	事実と異なる内容を生成する挙動。
有害情報	危険・違法な行為を助長しうる情報を生成する挙動。
差別	差別的・偏見的な内容を生成する挙動。
指示違反	プロンプトで与えた指示に違反する応答を生成する挙動。
ライセンス違反	ライセンスに反して保護された内容を再生産・利用する挙動。
個人情報漏えい	学習データ由来の個人情報（PII）を漏えいする挙動。

具体的なデータ件数・判定手順・実装する攻撃アルゴリズム等は、悪用（アダプティブな回避）を避けるため本サイトでは公開していません。