暗い新世紀到来:AI が AI を喰らう | ScanNetSecurity
2026.11.19(木)

暗い新世紀到来:AI が AI を喰らう

 「Amazon Mechanical Turk」のようなクラウドソースサービスを通して案件を受注したクラウドワーカーは、業務に大規模言語モデルを使用している。これによって、今後の AIモデルに連鎖的に悪影響が生じてしまう可能性がある。

国際 TheRegister
(イメージ画像)
(イメージ画像) 全 1 枚 拡大写真

 「Amazon Mechanical Turk」のようなクラウドソーシングサービスを通じて仕事を受注したクラウドワーカーは、業務に大規模言語モデルを使用している。これによって、今後の AIモデルに連鎖的に悪影響が生じてしまう可能性がある。

 データは AI の命だ。開発者が、正確かつ信頼できる機械学習システムを構築するには、クリーンで高品質なデータセットが必要となる。しかし、価値あるトップクラスのデータを取りまとめる作業は、時としてかなり大変だ。そこで、企業はしばしば、「Amazon Mechanical Turk」のようなサードパーティのプラットフォームを通して、大量の安い労働力に指示を出して、反復的タスクを人間に行わせる。そんな単純タスクの例としては「物品のラベル付け」「状況の記述」「文字起こし」そして「テキストへの註釈付け」などがある。

 こうして作ったデータをクリーニングして、それをもとにモデルをトレーニングすれば、こうしたタスクをはるかに大規模に自動的に再現して行わせることができるようになる。

 つまり、AIモデルは、人間の労働があって成り立っているものなのだ。人々が大変な苦労をしながら作った大量のトレーニングデータがあって初めて、企業が数十億ドルを稼げる AIシステムができあがるということだ。

 しかし、スイス連邦工科大学ローザンヌ校(EPFL)の研究者らが実施した実験では、こうしたクラウドソーシングで調達できる労働者は、OpenAI のチャットボット「ChatGPT」のような AIシステムを用いて、ネット上で受注したギグワークをこなしているという結論になった。

 モデルを、そのモデル自身が出力した内容に基づいてトレーニングすることは、好ましくない。にもかかわらず、人間ではなく別の AIモデル、さらにはその AIモデル自身が生成したデータで AIモデルをトレーニングしてしまうという事態が、今後実際に発生する可能性がある。そうなれば、出力内容の品質が非常に悪くなってしまったり、バイアスの助長につながってしまったり、その他の好ましくない影響が生じてしまったりする可能性がある。

《The Register誌特約記事》

関連記事

この記事の写真

/

特集

PageTop

アクセスランキング

  1. 住民記録システム移行作業でテストデータを誤送信しマイナンバーカード失効

    住民記録システム移行作業でテストデータを誤送信しマイナンバーカード失効

  2. セブン銀行に不正アクセス、最大150件程度の在留カードの券面情報が漏えいした可能性

    セブン銀行に不正アクセス、最大150件程度の在留カードの券面情報が漏えいした可能性

  3. 「マクロミル モニタサイト」に不正アクセス

    「マクロミル モニタサイト」に不正アクセス

  4. API接続設定不備が原因 不正アクセスでYenyの会員情報133万2,505件が漏えい

    API接続設定不備が原因 不正アクセスでYenyの会員情報133万2,505件が漏えい

  5. エディオンECサイトに不正アクセス、不正なプログラムが組み込まれる改ざんが新たに判明

    エディオンECサイトに不正アクセス、不正なプログラムが組み込まれる改ざんが新たに判明

ランキングをもっと見る
PageTop