チェック・ポイント・ソフトウェア・テクノロジーズ株式会社は2月16日、サイバー犯罪者がテレグラムボットを使用することでChatGPTの制限を回避し、悪意あるメールやコードを作成していることを確認したと発表した。
フィッシング詐欺などへの悪用を防ぐためChatGPTでは、不正行為を助長するような質問や依頼を投げかけると「要求に応じることはできない」とAIが断るように制限を設けている。
テレグラムボットは、チャットアプリ「テレグラム」内のグループや個人のチャットに追加して利用するボットで、リアルタイムに自動で会話を行う。
チェック・ポイント・ソフトウェア・テクノロジーズの脅威インテリジェンス部門であるチェック・ポイント・リサーチ（Check Point Research、CPR）では、テレグラムボットを用いることでOpenAIのAPIを利用して悪意あるメールやコードの生成を可能とするサービスが、アンダーグラウンドのフォーラムで売られていることを確認している。
CPRによると、ボットはOpenAIのAPIを利用して、脅威アクターが悪意あるメールやコードを作成することを可能にし、ボット作成者には20回まで無料のクエリが付与されるが、その後は100回ごとに5.50ドルを請求されるとのこと。
チェック・ポイントの脅威インテリジェンスグループマネージャー、セルゲイ・シュキエヴィチ（Sergey Shykevich）氏は、「現在、OpenAIのAPIは外部のアプリケーションに利用されており、不正対策はほとんど行われていません。その結果、ChatGPTがユーザーインターフェースに設定している制限に引っかかることなく、フィッシングメールやマルウェアコードなどの悪意あるコンテンツの作成が可能になっています。」こコメントしている。
