富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発 | ScanNetSecurity
2024.04.20(土)

富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発

株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

製品・サービス・業界動向 新製品・新サービス
株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

AI活用が様々な領域で進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているが、従来の対策は画像や音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり不十分であった。

同社では、系列データに適用可能なAIモデルの耐性強化技術を開発、偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させ判定精度を維持したまま偽装攻撃への耐性を向上させることが可能となる。本技術を同社が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用したところ、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。

本技術が対象とする系列データ分析AIは様々な分野で利用されているため、本技術の活用でメディアデータ向けに留まらない広範なAI活用システムの安全性向上に貢献が可能となる。

同技術の詳細は、10月26日から10月29日まで開催された「コンピュータセキュリティシンポジウム2020(CSS 2020)」でも発表された。

《ScanNetSecurity》

関連記事

特集

PageTop

アクセスランキング

  1. 東芝テックが利用するクラウドサービスに不正アクセス、取引先や従業員の個人情報が閲覧された可能性

    東芝テックが利用するクラウドサービスに不正アクセス、取引先や従業員の個人情報が閲覧された可能性

  2. 東京高速道路のメールアカウントを不正利用、大量のメールを送信

    東京高速道路のメールアカウントを不正利用、大量のメールを送信

  3. セキュリティ対策は株価を上げるのか ~ 株主総利回り(TSR)の平均値は高い傾向

    セキュリティ対策は株価を上げるのか ~ 株主総利回り(TSR)の平均値は高い傾向

  4. フュートレックにランサムウェア攻撃、本番環境への侵入形跡は存在せず

    フュートレックにランサムウェア攻撃、本番環境への侵入形跡は存在せず

  5. 「引っかかるのは当たり前」が前提、フィッシングハンターが提案する対策のポイント ~ JPAAWG 6th General Meeting レポート

    「引っかかるのは当たり前」が前提、フィッシングハンターが提案する対策のポイント ~ JPAAWG 6th General Meeting レポート

  6. インフォマート 公式 Facebook ページに不正ログイン

    インフォマート 公式 Facebook ページに不正ログイン

  7. バッファロー製無線 LAN ルータに複数の脆弱性

    バッファロー製無線 LAN ルータに複数の脆弱性

  8. クラウド労務管理「WelcomeHR」の個人データが閲覧可能な状態に、154,650 人分のダウンロード確認

    クラウド労務管理「WelcomeHR」の個人データが閲覧可能な状態に、154,650 人分のダウンロード確認

  9. ガートナー クラウドクッキング教室 ~ CCoE 構築の重要性

    ガートナー クラウドクッキング教室 ~ CCoE 構築の重要性

  10. 転職先で営業活動に活用、プルデンシャル生命保険 元社員 顧客情報持ち出し

    転職先で営業活動に活用、プルデンシャル生命保険 元社員 顧客情報持ち出し

ランキングをもっと見る