令和3年度秋期 情報処理安全確保支援士 午前Ⅱ 問1

午前II 問01：AIをだます小さなノイズの攻撃だよ

AIの画像認識に、人間にはほとんど分からない小さなノイズや微妙な変化を混ぜて、わざと間違った分類をさせる攻撃を Adversarial Examples 攻撃というよ。たとえるなら、人間には同じ写真に見えるのに、AIだけが標識を別物だと勘違いしてしまうようなイメージだね。

この問題で問われていること

この問題では、機械学習モデルに入力するデータを少し細工して誤認識させる攻撃だと見抜けるかがポイントだよ。大量アクセスでサービスを止めるDDoS攻撃や、学習済みモデルから元データを推測するModel Inversion攻撃とは目的も仕組みも違うので、そこを区別しよう。

Adversarial Examples

見た目はほぼ同じ画像でも、モデルにとっては分類境界を越える入力へ変わることがある。

微小ノイズ付加\n-> AI が誤分類

確認ポイント

• DDoS 攻撃ではありません。
• Model Inversion は学習データ推定の文脈です。
• Adversarial Examples 攻撃を選ぶ。

正解

イ

出典

問題文と解答は IPA 公開の過去問題冊子・解答例を基にしています。

選択肢ア

これは不正解だよ。Adaptively Chosen Message攻撃は、署名してもらう文書を攻撃者がいろいろ選び、その署名結果をヒントに別の署名を偽造しようとする攻撃なんだ。合鍵屋さんに何本も鍵を見せてクセを調べるような話で、AIの画像認識をノイズでだます話ではないよ。

選択肢イ（正解）

これは正解だよ。Adversarial Examples攻撃は、人間にはほとんど分からない小さな落書きやノイズを画像に混ぜて、AIだけを勘違いさせる攻撃なんだ。人には普通の標識に見えるのに、AIには別の標識に見えてしまう、みたいなイメージだよ。

選択肢ウ

これは不正解だよ。DRDoS攻撃は、たとえば泥棒が他人の住所を差出人にして大量の問い合わせを送り、返事を全部その人の家に集中させるような攻撃なんだ。サーバに大量通信を浴びせる話であって、画像にこっそりノイズを混ぜてAIの判定を間違えさせる話ではないよ。

選択肢エ

これは不正解だよ。Model Inversion攻撃は、AIモデルの出力を手掛かりに、学習に使われた個人情報や元データを逆に推測しようとする攻撃なんだ。窓口の返答を何度も聞いて、裏にある台帳の中身を探るようなイメージで、入力画像を少し変えて誤判定させる攻撃とは別物だよ。