ラック「生成 AI 活用システム リスク診断」提供開始 | ScanNetSecurity
2024.04.12(金)

ラック「生成 AI 活用システム リスク診断」提供開始

 株式会社ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を同日より開始すると発表した。

製品・サービス・業界動向 新製品・新サービス

 株式会社ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を同日より開始すると発表した。

 同社の「生成AI活用システム リスク診断」は、生成AIを使ったシステムを対象に特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスで、「プロンプトの悪用による機密情報の窃取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の窃取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。同サービスに含まれる評価項目は下記の通り。

・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を窃取できてしまう脆弱性

・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性

・プロンプトリーク
システムの内部で設定されているプロンプトを窃取できてしまう脆弱性。

・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性

・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性

 同サービスを利用し、生成AIを使ったシステムに対し特有のセキュリティ評価を行うことで、安心・安全な生成AIシステムの開発・提供が可能となる。

《ScanNetSecurity》

関連記事

特集

PageTop

アクセスランキング

  1. 山田製作所にランサムウェア攻撃、「LockBit」が展開され複数のサーバのデータが暗号化

    山田製作所にランサムウェア攻撃、「LockBit」が展開され複数のサーバのデータが暗号化

  2. プルーフポイント、マルウェア配布する YouTube チャンネル特定

    プルーフポイント、マルウェア配布する YouTube チャンネル特定

  3. レンズの受注や製造を停止 ~ HOYAグループで不正アクセスに起因する可能性が高いシステム障害

    レンズの受注や製造を停止 ~ HOYAグループで不正アクセスに起因する可能性が高いシステム障害

  4. 日本のセキュリティ人材の 74 %、2023年に昇給なし

    日本のセキュリティ人材の 74 %、2023年に昇給なし

  5. お茶の水女子大学の研究室サーバに不正アクセス、攻撃の踏み台に

    お茶の水女子大学の研究室サーバに不正アクセス、攻撃の踏み台に

  6. 県職員懲戒免職 ~ 不正アクセス・データ複製 ・物品窃取

    県職員懲戒免職 ~ 不正アクセス・データ複製 ・物品窃取

  7. マリンネットサイトに SQL インジェクション攻撃、メールアドレス流出

    マリンネットサイトに SQL インジェクション攻撃、メールアドレス流出

  8. Apache HTTP Server 2.4 に複数の脆弱性

    Apache HTTP Server 2.4 に複数の脆弱性

  9. クラウド労務管理「WelcomeHR」の個人データが閲覧可能な状態に、154,650 人分のダウンロード確認

    クラウド労務管理「WelcomeHR」の個人データが閲覧可能な状態に、154,650 人分のダウンロード確認

  10. デロイトと JFEスチール、サイバーセキュリティの合弁会社設立

    デロイトと JFEスチール、サイバーセキュリティの合弁会社設立

ランキングをもっと見る