富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発 | ScanNetSecurity
2026.03.11(水)

富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発

株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

製品・サービス・業界動向 新製品・新サービス
株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

AI活用が様々な領域で進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているが、従来の対策は画像や音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり不十分であった。

同社では、系列データに適用可能なAIモデルの耐性強化技術を開発、偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させ判定精度を維持したまま偽装攻撃への耐性を向上させることが可能となる。本技術を同社が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用したところ、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。

本技術が対象とする系列データ分析AIは様々な分野で利用されているため、本技術の活用でメディアデータ向けに留まらない広範なAI活用システムの安全性向上に貢献が可能となる。

同技術の詳細は、10月26日から10月29日まで開催された「コンピュータセキュリティシンポジウム2020(CSS 2020)」でも発表された。

《ScanNetSecurity》

関連記事

特集

PageTop

アクセスランキング

  1. 誤操作の発覚を恐れて委託先社員がログから記録を削除・変更したことが原因 ~ JAL「手荷物当日配送サービス」システム障害

    誤操作の発覚を恐れて委託先社員がログから記録を削除・変更したことが原因 ~ JAL「手荷物当日配送サービス」システム障害

  2. L2 スイッチでゼロトラストを実現、「セキュリティ予算」でなく「ネットワーク機器予算」で導入 ~ パイオリンクが語る超現実解

    L2 スイッチでゼロトラストを実現、「セキュリティ予算」でなく「ネットワーク機器予算」で導入 ~ パイオリンクが語る超現実解PR

  3. 厚生労働省初動対応チームの派遣を受け対応 ~ 白梅豊岡病院にランサムウェア攻撃

    厚生労働省初動対応チームの派遣を受け対応 ~ 白梅豊岡病院にランサムウェア攻撃

  4. みずほリサーチ&テクノロジーズが経済産業省から受託したアンケート情報を混在して環境省に納品、ホームページで公開

    みずほリサーチ&テクノロジーズが経済産業省から受託したアンケート情報を混在して環境省に納品、ホームページで公開

  5. なぜ12年も連続で内部不正は「脅威」にランクインし続けるのか? 情報漏えいとの時系列の違いを理解せよ ~ Proofpoint が語る対策が進まない構造的理由

    なぜ12年も連続で内部不正は「脅威」にランクインし続けるのか? 情報漏えいとの時系列の違いを理解せよ ~ Proofpoint が語る対策が進まない構造的理由PR

ランキングをもっと見る
PageTop