オンラインシミュレーションゲームを人工知能でチートする研究 | ScanNetSecurity
2024.03.29(金)

オンラインシミュレーションゲームを人工知能でチートする研究

ペンシルバニア州立大学のXinyu Xing氏らのチームはDRLを利用してゲームに(異常に高い確率で)勝つAIボットを研究している。

研修・セミナー・カンファレンス セミナー・イベント
AIエージェントを使ってゲームAIの脆弱性を探す
AIエージェントを使ってゲームAIの脆弱性を探す 全 6 枚 拡大写真
 オンラインシミュレーションゲームには「深層強化学習( Deep Reinforcement Learning:DRL )」といった AI 技術が投入されている。プレーヤーはただのアルゴリズムを相手にしているのではなく AI と対戦しているといってもよい。また、チート行為を検出する目的でも AI が活用されている。どちらも AI との戦いだ。

 ならばチート行為に AI を、と考える輩(やから)もでてくる。この場合、単純にプレーヤーを AI 化して負けないようにするだけでなく、敵や環境を、制御する AI に誤認識させる AI も研究されている。

 ペンシルバニア州立大学の Xinyu Xing 氏らのチームは DRL を利用してゲームに(異常に高い確率で)勝つ AI ボットを研究している。本稿は昨夏オンライン開催された Black Hat USA 2020 の講演の抄録だ。なお、本年の Black Hat USA 2021 はハイブリッド開催される。

●深層強化学習ゲームへの攻撃

 さて、DRL は、ゲームのようなモデル化された環境であるほど高い効果を発揮する。無敵のブロック崩しプレーヤーの研究、囲碁有段者でも勝てない AlphaGo・OpenGo、名うてのポーカープレーヤーの心理戦が通用しない Texas hold'em などは、どれも DRL で実装された AI ボットだ。StarCraft II や Dota 2 のようなリアルタイムシミュレーションゲームでも、敵キャラの動きなどに DRL が利用されている。

 一般的に DRL や機械学習( ML )への攻撃は、トレーニングフェーズの段階に汚染データを注入して学習を妨害する方法や、入力データに細工をしてニューラルネットワークの評価処理に摂動(相互作用)を引き起こさせる方法が知られている。後者のデータに施す細工は人間には知覚できないが、AI の処理には影響を及ぼす。たとえば、バナナ(に見える)の画像を自動車や別のものに認識させる手法だ。

《中尾 真二( Shinji Nakao )》

関連記事

この記事の写真

/

特集

PageTop

アクセスランキング

  1. 富士通の複数の業務パソコンにマルウェア、個人情報を含むファイルを不正に持ち出せる状態に

    富士通の複数の業務パソコンにマルウェア、個人情報を含むファイルを不正に持ち出せる状態に

  2. ランサムウェアに身代金を支払う傾向の強い組織の構造が明らかに

    ランサムウェアに身代金を支払う傾向の強い組織の構造が明らかに

  3. 総務省「無線LANセキュリティガイドライン」更新、自宅と公衆に分冊

    総務省「無線LANセキュリティガイドライン」更新、自宅と公衆に分冊

  4. プロ e スポーツ選手のアカウントにハッキング

    プロ e スポーツ選手のアカウントにハッキング

  5. 日東製網へのランサムウェア攻撃、約 1 ヶ月で全システム復旧

    日東製網へのランサムウェア攻撃、約 1 ヶ月で全システム復旧

  6. 時給7,500円 ~ 総務省、非常勤サイバーセキュリティ人材募集 月2時間 霞が関勤務

    時給7,500円 ~ 総務省、非常勤サイバーセキュリティ人材募集 月2時間 霞が関勤務

  7. UDP ベースのアプリケーション層プロトコル実装にサービス運用妨害(DoS)の脆弱性

    UDP ベースのアプリケーション層プロトコル実装にサービス運用妨害(DoS)の脆弱性

  8. 脆弱性診断の新たな選択肢「ちょうどいいレベルの診断」を AeyeScan活用でサービス化 ~ NTTデータ先端技術

    脆弱性診断の新たな選択肢「ちょうどいいレベルの診断」を AeyeScan活用でサービス化 ~ NTTデータ先端技術PR

  9. Jenkins に任意のファイルの読み取りが可能となるコマンドラインインターフェース機能におけるアクセス制御不備の脆弱性(Scan Tech Report)

    Jenkins に任意のファイルの読み取りが可能となるコマンドラインインターフェース機能におけるアクセス制御不備の脆弱性(Scan Tech Report)

  10. 「サイバーセキュリティお助け隊サービス」制度に新たに 2 類を創設、価格要件を緩和

    「サイバーセキュリティお助け隊サービス」制度に新たに 2 類を創設、価格要件を緩和

ランキングをもっと見る