令和7年度秋期 情報処理安全確保支援士 午前Ⅱ 問5

AI のおしゃべりから「元になったマル秘データ」を逆算して当てる攻撃

モデルインバージョン（モデルの反転）は、AI の回答（出力）を何度も分析することで、その AI がお勉強に使った「元の学習データ（個人情報など）」を逆算して推測しちゃうサイバー攻撃だよ。

この問題で問われていること

攻撃者が盗みたいのは「AIの仕組み自体（モデル）」なのか、それとも「学習に使われた元のデータ」なのかに注目して読み解こう。

機械学習モデルへの典型攻撃

モデル抽出は API 出力から代替モデルを作る攻撃、データ汚染は学習前に悪意あるデータを混ぜる攻撃、モデルインバージョンは応答から学習データの情報を引き戻す攻撃として区別する。

出力から学習データ推測 -> モデルインバージョン
出力から代替モデル作成 -> モデル抽出
学習前に混入 -> データ汚染

確認ポイント

• 狙いが「元の学習データ」なのか「代替モデル」なのかを見る。
• 学習前の介入か、運用中の問い合わせ解析かで分ける。
• 単なるリバースエンジニアリングは、学習データ推測とは別の話。

正解

ア

出典

問題文と解答は IPA 公開の過去問題冊子・解答例を基にしています。

選択肢ア（正解）

これは正解だよ。モデルインバージョン攻撃は、AIに入力を少しずつ変えて何度も反応を見ながら、学習に使われた元データを逆向きに推測する攻撃なんだ。たとえるなら、窓口の返事を何度も聞き比べて、裏に置いてある個人情報ファイルの中身を探ろうとする感じだよ。

選択肢イ

これは不正解だよ。AIにいろいろ質問して答え方をまねし、そっくりなAIを作る話なので、これは「モデル抽出攻撃」に近いよ。たとえるなら、人気店の料理を何度も食べて味をまねる感じで、元のレシピそのものを探る「モデルインバージョン攻撃」とは目的が違うんだ。

選択肢ウ

これは不正解だよ。学習データに悪意あるデータを混ぜてAIを変な方向に学習させるのは「データポイズニング攻撃」だよ。たとえるなら、先生が採点に使う模範解答にこっそり間違いを混ぜて、クラス全体を間違った覚え方にさせるようなものなんだ。

選択肢エ

これは不正解だよ。実行ファイルを逆アセンブル・逆コンパイルして中身のコードを見ようとするのは、普通のソフトウェア解析やリバースエンジニアリングの話だよ。たとえるなら、機械を分解して設計図を探す感じで、AIの出力から学習データを逆算する攻撃ではないんだ。