デジタル庁「テキスト生成 AI 利活用におけるリスクへの対策ガイドブック(α版)」公開 | ScanNetSecurity
2024.07.07(日)

デジタル庁「テキスト生成 AI 利活用におけるリスクへの対策ガイドブック(α版)」公開

 デジタル庁は5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」を公開した。

調査・レポート・白書・ガイドライン 調査・ホワイトペーパー

 デジタル庁は5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」を公開した。

 生成AIを用いる際の行政業務における指針としては、総務省の「広島AIプロセス」や「AI事業者ガイドライン」があるが、「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」ではこれらの指針を踏まえ、生成AIの中でテキスト生成AIとその利活用に焦点を当て、政府調達で考慮する点について、より具体的なリスクと対策についての技術的なレポートをまとめている。

 同ガイドブックの特徴は下記の通り。

・テキスト生成AIのサービス開発者と提供者を対象
実際の業務でやりとりする情報の多くはテキスト情報である。

・テキスト生成AIの利用形態、想定ユースケースや工程による分類
利用形態とユースケースの違いを意識し、デジタル・ガバメント推進標準ガイドライン実践ガイドブックで定義されている工程に応じたリスクや留意点を挙げている。

・検証により判明したリスクや留意点を可能な限り記載
検証を進めていく中で発見した想定リスクについては可能な限り記載。

 同ガイドブックはPDF 59ページで構成され、Webからダウンロード可能。

 同庁では今後、正式版としての公開に向け、定期的に内容の拡充・改善を図る。

《ScanNetSecurity》

関連記事

特集

PageTop

アクセスランキング

  1. スマホアプリ「ピッコマ」に外部サービスの APIキーがハードコードされている問題

    スマホアプリ「ピッコマ」に外部サービスの APIキーがハードコードされている問題

  2. KADOKAWA グループへのランサムウェア攻撃「犯罪行為には厳正に対処」

    KADOKAWA グループへのランサムウェア攻撃「犯罪行為には厳正に対処」

  3. 16 桁ランダム文字列パスワード突破か 広島県のメールアドレスアカウントでスパム配信

    16 桁ランダム文字列パスワード突破か 広島県のメールアドレスアカウントでスパム配信

  4. Google フォーム設定ミスで SECCON CTF for Girls 運営イベントの参加申込者の個人情報が閲覧可能に

    Google フォーム設定ミスで SECCON CTF for Girls 運営イベントの参加申込者の個人情報が閲覧可能に

  5. KADOKAWA グループへのランサムウェア攻撃、角川ドワンゴ学園に関する一部情報も漏えい

    KADOKAWA グループへのランサムウェア攻撃、角川ドワンゴ学園に関する一部情報も漏えい

  6. 太陽工業にサイバー攻撃、情報システムの一部に被害

    太陽工業にサイバー攻撃、情報システムの一部に被害

  7. クボタクレジットの委託先のイセトーにランサムウェア攻撃、61,424名の利用明細が漏えい

    クボタクレジットの委託先のイセトーにランサムウェア攻撃、61,424名の利用明細が漏えい

  8. 神奈川県警現役サイバー犯罪捜査官へ5つの質問

    神奈川県警現役サイバー犯罪捜査官へ5つの質問

  9. HTMLで作成しOCR回避 ~ 新たなQRコードフィッシング手法

    HTMLで作成しOCR回避 ~ 新たなQRコードフィッシング手法

  10. スマートフォンアプリ「Yahoo! JAPAN」にXSSの脆弱性

    スマートフォンアプリ「Yahoo! JAPAN」にXSSの脆弱性

ランキングをもっと見る