サイバー攻撃者は現在のところ、AI の活用に積極的ではなく懐疑的になっています。

12月 12, 2023 —

Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス（日本法人：ソフォス株式会社（東京都港区代表取締役中西智行）は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AIの負の側面:生成 AIが可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル（LLM）を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。

  • AIの負の側面

Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。

ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」

  • GPTに対して割れるサイバー犯罪者の方向性

Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。

さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。

Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。

「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」

AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AIの負の側面:生成 AIが可能にした大規模詐欺」と「GPTに対して割れるサイバー犯罪者の方向性」を参照してください。

●ソフォスについて

ソフォスは、組織をサイバー攻撃から守るDetection and Response (MDR)サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP（マネージドサービスプロバイダー）から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com（日本語サイト：https://www.sophos.com/ja-jp）をご覧ください

ソフォスについて

ソフォスは、サイバー攻撃に打ち勝つための高度なセキュリティソリューションのグローバルリーダーです。2025年2月にセキュアワークスを買収し、MDRを中心にAIに最適化されたサービス、テクノロジー、製品を提供するサイバーセキュリティ業界の先駆者として、新たな展開を迎えました。ソフォスは現在、28,000以上の組織をサポートする世界最大のMDR（Managed Detection and Response）プロバイダーとなりました。ソフォスのポートフォリオには、先進的エンドポイントやネットワーク、メール、クラウドセキュリティが含まれ、Sophos Centralプラットフォームを通じて統合的防御を提供しています。セキュアワークスは、Taegis、ID脅威検出と対応（ITDR）、次世代 SIEM、リスク管理、包括的なアドバイザリーサービスを提供しています。ソフォスは、これらすべてのソリューションを、世界中のリセラーパートナー、マネージドサービスプロバイダー（MSP）、マネージドセキュリティサービスプロバイダー（MSSP）を通じて提供することで、フィッシング、ランサムウェア、データ盗難、などの日常的なサイバー犯罪や、国家主導型サイバー攻撃から世界60万以上の組織を守っています。このソリューションは、Sophos X-Opsによる脅威インテリジェスと、新たに統合されたCounter Threat Unit (CTU) のデータによって強化されます。ソフォスは英国オックスフォードに本社を置いています。詳細は www.sophos.com をご覧ください。