2023年12月12日
＜＜報道資料＞＞
ソフォス株式会社
ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
～サイバー攻撃者は現在のところ、AIの活用に積極的ではなく懐疑的になっています～
Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス（日本法人：ソフォス株式会社（東京都港区 代表取締役 中西 智行）は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AI の負の側面: 生成 AI が可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル（LLM）を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。
●AIの負の側面
Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。
ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」
● GPTに対して割れるサイバー犯罪者の方向性
Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。
さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。
Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。
「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」
AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AI の負の側面: 生成 AI が可能にした大規模詐欺」（https://news.sophos.com/ja-jp/2023/11/27/the-dark-side-of-ai-large-scale-scam-campaigns-made-possible-by-generative-ai-jp/）と「GPTに対して割れるサイバー犯罪者の方向性」（https://news.sophos.com/en-us/2023/11/28/cybercriminals-cant-agree-on-gpts）を参照してください。
●詳細情報
・防御側の組織がAIをサイバーセキュリティの副操縦士として活用する方法
https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot
・「豚の屠殺」と呼ばれるロマンス詐欺における、生成AIを使用した最新の攻撃手法
https://news.sophos.com/ja-jp/2023/08/03/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users-jp/
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・サイバー犯罪フォーラムにおける詐欺師による騙し合い
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・ダークウェブでのサイバー犯罪コンテスト
https://news.sophos.com/en-us/2023/08/29/for-the-win-offensive-research-contests-on-criminal-forums/
・急速に変化する脅威環境の中で、防御側の組織がサイバー攻撃に対抗する方法（「セキュリティ担当者のためのアクティブアドバーサリレポート 2023 年版」）
https://news.sophos.com/ja-jp/2023/11/14/active-adversary-for-security-practitioners-jp/
・攻撃者の滞留時間の減少、攻撃者の行動と手法の変化（テクノロジーリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/08/23/active-adversary-for-tech-leaders-jp/
・150件以上のソフォスのインシデント対応事例を分析し、変化を続ける攻撃者の行動、手法、戦術を明らかにした「ビジネスリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/04/25/2023-active-adversary-report-for-business-leaders/
・Sophos X-Opsのブログ（https://news.sophos.com/ja-jp/category/threat-research/）をサブスクライブし、Sophos X-Opsと画期的な脅威リサーチの詳細（https://www.sophos.com/ja-jp/x-ops）をチェックしてください。
●ソフォスについて
ソフォスは、組織をサイバー攻撃から守るDetection and Response （MDR） サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP（マネージドサービスプロバイダー）から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com（日本語サイト：https://www.sophos.com/ja-jp.aspx）をご覧ください。
●報道関係のお問合せ先
ソフォス株式会社広報事務局
Tel: 03-6454-6930
Email: sophos@ambilogue.com
以上
＜＜報道資料＞＞
ソフォス株式会社
ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
～サイバー攻撃者は現在のところ、AIの活用に積極的ではなく懐疑的になっています～
Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス（日本法人：ソフォス株式会社（東京都港区 代表取締役 中西 智行）は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AI の負の側面: 生成 AI が可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル（LLM）を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。
●AIの負の側面
Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。
ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」
● GPTに対して割れるサイバー犯罪者の方向性
Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。
さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。
Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。
「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」
AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AI の負の側面: 生成 AI が可能にした大規模詐欺」（https://news.sophos.com/ja-jp/2023/11/27/the-dark-side-of-ai-large-scale-scam-campaigns-made-possible-by-generative-ai-jp/）と「GPTに対して割れるサイバー犯罪者の方向性」（https://news.sophos.com/en-us/2023/11/28/cybercriminals-cant-agree-on-gpts）を参照してください。
●詳細情報
・防御側の組織がAIをサイバーセキュリティの副操縦士として活用する方法
https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot
・「豚の屠殺」と呼ばれるロマンス詐欺における、生成AIを使用した最新の攻撃手法
https://news.sophos.com/ja-jp/2023/08/03/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users-jp/
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・サイバー犯罪フォーラムにおける詐欺師による騙し合い
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・ダークウェブでのサイバー犯罪コンテスト
https://news.sophos.com/en-us/2023/08/29/for-the-win-offensive-research-contests-on-criminal-forums/
・急速に変化する脅威環境の中で、防御側の組織がサイバー攻撃に対抗する方法（「セキュリティ担当者のためのアクティブアドバーサリレポート 2023 年版」）
https://news.sophos.com/ja-jp/2023/11/14/active-adversary-for-security-practitioners-jp/
・攻撃者の滞留時間の減少、攻撃者の行動と手法の変化（テクノロジーリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/08/23/active-adversary-for-tech-leaders-jp/
・150件以上のソフォスのインシデント対応事例を分析し、変化を続ける攻撃者の行動、手法、戦術を明らかにした「ビジネスリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/04/25/2023-active-adversary-report-for-business-leaders/
・Sophos X-Opsのブログ（https://news.sophos.com/ja-jp/category/threat-research/）をサブスクライブし、Sophos X-Opsと画期的な脅威リサーチの詳細（https://www.sophos.com/ja-jp/x-ops）をチェックしてください。
●ソフォスについて
ソフォスは、組織をサイバー攻撃から守るDetection and Response （MDR） サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP（マネージドサービスプロバイダー）から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com（日本語サイト：https://www.sophos.com/ja-jp.aspx）をご覧ください。
●報道関係のお問合せ先
ソフォス株式会社広報事務局
Tel: 03-6454-6930
Email: sophos@ambilogue.com
以上
