令和6年度秋期 情報処理安全確保支援士 午前Ⅱ 問2

午前II 問02：AIをだます“ちょい足し画像”攻撃だよ

Adversarial Examples攻撃は、画像に人間にはほとんど分からないくらい小さなノイズを足して、AIの判定をわざと間違えさせる攻撃だよ。たとえば、標識にほんの少し落書きしただけで、人間には同じ標識に見えるのに、AIだけが別物だと勘違いするイメージだね。

この問題で問われていること

この問題では、AIに入れるデータそのものを少し改変して誤認識させる攻撃と、AIの学習データを汚染したり、推測結果から情報を盗み見たりする攻撃を区別しよう。Adversarial Examplesは、学習段階ではなく、推論時の入力を細工する攻撃だよ。

Adversarial Examples

わずかな入力変化でもモデルの判断を大きく誤らせる。

画像 + 微小ノイズ\n-> 誤分類

確認ポイント

• Model Inversion は学習済みモデルから情報を逆推定する攻撃です。
• DRDoS とは無関係です。
• Adversarial Examples を選ぶ。

正解

イ

出典

問題文と解答は IPA 公開の過去問題冊子・解答例を基にしています。

選択肢ア

これは不正解だよ。Adaptively Chosen Message攻撃は、デジタル署名で「この書類にもサインして」と相手にいくつか署名させ、その情報を使って別の書類の偽サインを作ろうとする攻撃なんだ。今回のように、画像にこっそりノイズを混ぜてAIの見間違いを誘う話ではないよ。

選択肢イ（正解）

これは正解だよ。Adversarial Examples攻撃は、人間にはほとんど分からない小さなノイズを画像に混ぜて、AIだけを勘違いさせる攻撃なんだ。たとえば、人には普通のパンダ写真に見えるのに、AIには別の動物だと判定させるようなイメージだよ。問題文の「人間には知覚できないノイズや微小な変化で誤認識させる」にぴったり合うよ。

選択肢ウ

これは不正解だよ。Distributed Reflection Denial of Service攻撃は、たくさんの窓口に「返事はあの店へ送って」となりすまして依頼し、標的の店を返事の山でパンクさせるような攻撃なんだ。サービス妨害の話で、AIに画像を誤認識させる攻撃ではないよ。

選択肢エ

これは不正解だよ。Model Inversion攻撃は、AIに質問を重ねて、AIが学習に使ったデータや個人情報を逆向きに推測しようとする攻撃なんだ。レシピを食べた味から逆算する感じだね。今回のポイントは「画像に小さな変化を入れてAIをだます」ことなので違うよ。