富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発 | ScanNetSecurity
2025.10.04(土)

富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発

株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

製品・サービス・業界動向 新製品・新サービス
株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

AI活用が様々な領域で進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているが、従来の対策は画像や音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり不十分であった。

同社では、系列データに適用可能なAIモデルの耐性強化技術を開発、偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させ判定精度を維持したまま偽装攻撃への耐性を向上させることが可能となる。本技術を同社が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用したところ、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。

本技術が対象とする系列データ分析AIは様々な分野で利用されているため、本技術の活用でメディアデータ向けに留まらない広範なAI活用システムの安全性向上に貢献が可能となる。

同技術の詳細は、10月26日から10月29日まで開催された「コンピュータセキュリティシンポジウム2020(CSS 2020)」でも発表された。

《ScanNetSecurity》

関連記事

特集

PageTop

アクセスランキング

  1. 業務目的外でパソコンを利用中に詐欺サイトに接続 ~ 委託事業者パソナの従業員

    業務目的外でパソコンを利用中に詐欺サイトに接続 ~ 委託事業者パソナの従業員

  2. ガートナー、2025 年版の日本におけるセキュリティのハイプ・サイクル発表

    ガートナー、2025 年版の日本におけるセキュリティのハイプ・サイクル発表

  3. Microsoft が土壇場で譲歩 欧州 Windows 10 ユーザーだけに猶予措置

    Microsoft が土壇場で譲歩 欧州 Windows 10 ユーザーだけに猶予措置

  4. 諭旨解雇処分 ~ 電気通信大学 准教授 共同研究先の企業に秘密を漏えい

    諭旨解雇処分 ~ 電気通信大学 准教授 共同研究先の企業に秘密を漏えい

  5. アサヒグループホールディングスにサイバー攻撃、現時点で復旧の目処立たず

    アサヒグループホールディングスにサイバー攻撃、現時点で復旧の目処立たず

ランキングをもっと見る
PageTop