おばばのブログ

2022年中高一貫校へ進学。大学受験(2028年)。東進スーパーエリートコース受講中

AI情報工作の脅威!AIスウォーム、AIグルーミングとは?

今回は、AI情報工作の脅威!AIスウォーム、AIグルーミングとは? についてです。

週刊エコノミスト(2026/2/17号)に脳研究者の池谷裕二さんが記事を書いていましたので、補足を加えつつ、ポイントを紹介します。

 

・AIスウォームという情報工作が世論形成に介入し始めている。サイエンス誌掲載の論説も、その脅威を指摘。

 

・AIスウォームとは、個別の各AIが固有の人格(AI格?)と記憶を維持しながら、各AI毎に投稿頻度、表現も変えつつ、集団としてリアルタイムで協調して、異なるコミュニティに同時にメッセージを浸透させ、超党派の草の根的な合意が存在するかのような幻覚を生み出すもの。

 

・ヒトは多数派に従う傾向があるので、AIスウォームによる種々の場での投稿や人間の反応に対するメッセージ送信により、簡単に意見を変えてしまうおそれがある。

 

・AIグルーミングと呼ばれる長期戦略も無視できない。

 

・AIグルーミングとは、大量の捏造コンテンツを氾濫させ、次世代のAIの訓練データを汚染するもの。

 

・これは、AIスウォームが人間をターゲットに洗脳を狙うのに対して、AIの学習(ウェブ上の情報を自動収集するプログラム)を標的にしている。

 

・ロシア発の「プラウダ(ロシアの新聞等の出版社)」ネットワークには、既にこの手法が確認されている。

 

こんな内容でした。

 

そうなんですね!

 

ちなみに、「スウォーム(Swarm)」とは、昆虫、動物、ヒトなどの群れや群衆を意味する英単語だそうです。

 

個々のAIが協調して情報工作する様子が、「群れ」のようだとして、この名称がついたのでしょう。

 

AIスウォーム、恐ろしいですね!

 

最近はネットやSNSの情報によって世論が形成され、政治や選挙に大きな影響を及ぼすようになっていると思います。

 

そして、それは、必ずしも論理的ではなく、一時のバズりのようなものである場合も少なくありません。

 

例えば、石丸伸二氏の旋風もその一つだったのではないでしょうか。

 

東京都知事選(令和6年7月)の際は、石丸候補がネットやSNSを活用して人気を集めて、驚くべきことに小池氏に続いて第2位の得票数を集めました。

 

ところが、続く令和7年の参院選で、「再生の道」を立ち上げて臨んだ際は、石丸氏の主張に大きな変化があった訳ではなかったにも関わらず、大敗を喫することとなります。

 

知事選と国政では同様にはいかないのでしょうし、石丸氏の攻撃的なやり取りが段々と批判を集めた面はあるでしょうが、いずれにしても、短期間にネットにおける石丸氏への支持が大きく変わったことが、都知事選の旋風と参院選の敗退の原因の一つと思われます。

 

このように、ネットやSNSの影響が大きい状況で、AIスウォームとかAIグルーミングといった情報工作手法は大きな脅威になっていくおそれがありそうです。

 

どうすればいいのでしょうか。

 

日本ではAIやITに精通した人材が十分でないとの指摘もあります。

 

このAI分野は、経済社会を大きく変革させるでしょうし、また、AIスウォームなどの情報工作からの防御だって大切なことだと思います。

 

幸い、現在、学生の間で理系人気が上がっているそうでもあるので、AIやITに詳しく、そして経済社会にも関心の高い人材を更に育成していくことが、AIによる情報工作に対抗する手段の一つではないか、と思いました。

 

今回は、ここまでです。

にほんブログ村 受験ブログ 大学受験(本人・親)へ
にほんブログ村