その不満は聞き慣れたものです。「サイトにAIのゴミを組み込もうとしていることに失望しています。誰もこれを求めていません。サイトを改善してほしいのです。新機能に料金を課すのをやめてください」と、匿名の人物がオンラインメッセージで述べています。 これは、お気に入りのアプリにAIが強制されることに文句を言う、普通のインターネットユーザーではありません。代わりに、彼らはサイバー犯罪フォーラムがより多くの生成AIを導入する計画に不満を抱いています。何百万人もの他の人々と同じように、詐欺師、ペテン師、そして低レベルのハッカーたちは、AIが自分たちの生活に侵入してくることや、オンラインコミュニティに投稿される低品質なAIのゴミの増加にうんざりしています。 ### アンダーグラウンドフォーラムでのAI懐疑論の広がり 「人々はそれを好きではありません」と、セキュリティ研究者でエディンバラ大学のシニア講師である**ベン・コリアー**氏は述べています。低レベルのサイバー犯罪者がAIをどのように利用しているかについての最近の研究の一環として、コリアー氏と同僚の研究者たちは、アンダーグラウンドのサイバー犯罪フォーラムやハッキンググループでの生成AIの使用に対する反発が増加していることに気づきました。 過去数年間の生成AIのブームと誇大広告のサイクルの中で、ハッキングフォーラムに投稿している一部の人々は、AIがハッキングをどのように助けるかについて前向きだった状態から、この技術に対する懐疑論へと移行していると、ケンブリッジ大学とストラスクライド大学の研究者も関わったこの研究は述べています。 研究者たちは、2022年の**ChatGPT**のローンチから昨年末までのサイバー犯罪フォーラムにおける97,895件のAI関連の会話を分析しました。彼らは、基本的なサイバーセキュリティの概念を「箇条書きで説明する」投稿の氾濫、低品質な投稿の数への不満、そして**Google**のAI検索概要がフォーラムへの訪問者数を減少させていることへの懸念といった苦情を発見しました。 ### コミュニティ対AI：文化の衝突 何十年もの間、しばしばロシア発祥のサイバー犯罪掲示板やマーケットプレイスは、詐欺師たちが共にビジネスを行うことを可能にしてきました。それらは、盗まれたデータが取引され、ハッキングの仕事が宣伝され、詐欺師たちがライバルについてくだらない投稿をする場所です。詐欺師たちはしばしば互いを騙そうとしますが、フォーラムにはコミュニティの感覚もあります。例えば、ユーザーは信頼できるという評判を築き、フォーラムのオーナーは執筆コンテストを開催します。 「これらは本質的にソーシャルスペースです。彼らはフォーラムで[AI]を使用する他の人々を本当に嫌っています」とコリアー氏は言います。彼は、潜在的なサイバー犯罪者がAI生成のハッキング解説を投稿することでより良い評判を得ようとすることによって、グループのソーシャルダイナミクスが混乱する可能性があると述べています。「多くの人々はAIに対して両方の感情を抱いていると思います。なぜなら、それは彼らが熟練した人物であるという主張を損なうからです。」 **WIRED**が、ハッキングについて話し合い、テクニックを共有することに関心のある人々のための自己申告制のスペースである**Hack Forums**でレビューした投稿は、AIを使用して投稿を作成する人々によって引き起こされるいらだちを示しています。「多くのメンバーが投稿やスレッドの作成にAIを使用しているのを見かけますが、彼らは簡単な一文や二文を書く時間さえかけないため、私をイライラさせます」とある投稿者は書いています。別の投稿者はより率直に述べました。「AIのゴミを投稿するのをやめろ。」 コリアー氏によると、いくつかの事例では、複数のフォーラムのユーザーが、友人を作りたいと考えているため、AI投稿にいらだっているようです。研究で引用されたある投稿は、「AIチャットボットと話したいなら、そのためのウェブサイトはたくさんあります…私は人間の交流のためにここに来ています」と述べています。 ### AIの影響は限定的（今のところ） ChatGPTが登場した2022年末以降、AIのハッキング能力と、この技術がオンライン犯罪をどのように変革できるかについて大きな関心が寄せられています。高度なハッカーと能力の低いハッカーの両方が、攻撃にAIを使用しようとしています。一部の組織的な詐欺師は、ますますリアルになるAI顔交換技術とAIを使用して翻訳されたソーシャルエンジニアリングメッセージで事業を強化していますが、生成AIの悪意のあるコードの作成や脆弱性の発見能力に多くの注目が集まっています。 セキュリティ会社**Flashpoint**のインテリジェンス担当副社長である**イアン・グレイ**氏は、「より高度な脅威アクターは、ガードレールを備えた商用モデルの短所を認識しており、それらのプロンプトを脱獄する方法を知っています」と述べており、これは**OpenAI**、**Anthropic**、およびGoogleによって導入された安全メカニズムを指しています。「彼らはまた、フォーラムやマーケットプレイスでのAI生成プロジェクトにも注意を払っています。そこには弱点や脆弱性があり、時には基盤となるインフラストラクチャを露出させることもあります」とグレイ氏は述べています。 Flashpointは、ハッカーたちが最近、Anthropicの最新の最先端AIモデルである**Claude Mythos Preview**の潜在的な能力について話しているのを目撃しました。一部のサイバー犯罪者は、ハッキング操作にAIを使用していると非難された他の人々を軽蔑することさえあります。「彼らにできることはAIを使うことだけだ」と、Flashpointの分析によると、あるグループは述べています。 コリアー氏は、彼の研究が追跡した低レベルのサイバー犯罪者の間では、高度なハッカーや国家支援のハッカーではなく、現時点ではAIによる「真の混乱」の明らかな兆候はないと述べています。「参入のスキル障壁を大幅に低下させておらず、確立されたビジネスモデルや慣行に深刻な混乱をもたらしてもいません」と研究は述べています。「代わりに、その主な影響は、SEO詐欺、ソーシャルメディアボット、そして一部のロマンス詐欺のような、すでに高度に自動化された分野に及んでいます。」 ### サイバー犯罪におけるAIの未来：慎重な受け入れか？ サイバー犯罪フォーラムでのAIの使用に対する冷ややかな反応にもかかわらず、他の人々は可能性を見ています。Hack Forumsの一部の投稿者は、「」投稿の構造化や文法の改善を「助けて」くれるAIアシスタントを歓迎するかもしれないと述べていますが、完全に投稿できるAIについては一線を引いています。「投稿用のAIジェネレーターがあれば、ここはAI同士が話し合うだけのつまらないフォーラムになってしまうでしょう」と一人が書いています。 一方、Flashpointの研究者は、ハッカーたちが「AI強化型」サイバー犯罪市場を構築するというアイデアについて議論しているのを発見しました。これは、人々が盗まれたデータやオンラインアカウントをより迅速に購入できるようにするための方法として宣伝されていました。全員が賛成したわけではありません。ある人が書いたように、「市場にAIを導入するのは愚かでクソなアイデアだ。」