ところでハヤシくん、国内Twitter界隈でもネット世論誘導工作はあるのかなぁ？

15 min readSep 30, 2022

はじめに

SNSの普及以来、Twitterでのやり取りにおいても議論が盛り上がった結果、「炎上」となるケースが散見されています。

それら炎上の中には、最近一般紙でも取り上げられるようになってきたネット世論誘導（＝ネットでのインフルエンスオペレーション）と目される活動があるかも、という懸念が指摘されています。

インフルエンスオペレーションとは、世論誘導工作のことです。昨今は、SNSを活用した高度な手法が知られています。（その辺りは、一田和樹先生のご著書などをご参照ください）

インフルエンスオペレーションは、情報戦（Information Warfare）の一形態で、自由主義国家における健全な議論・政治プロセスへの干渉であり、国家安全保障の観点でも問題視されています。過去、いくつか記事を書いていますので、ご笑覧ください。

また、先日も、明治大学サイバーセキュリティ研究所にて、「我が国で高まるサイバー脅威、『インフルエンスオペレーション』」というイベントを開き、80名を超える方々にご参加頂きました。

さて、残暑もようやく収まり、ようやく齋藤研も研究エンジンがかかってきたので、2020年で発表したブログ記事以来となりますが、SNS研究班の有志で「2022ツイッターInfOps検証スペシャルチーム」を急遽結成し、いくつかの「炎上」について、ネット世論誘導（＝ネットでのインフルエンスオペレーション）の痕跡を見出せないかと、スクランブル調査をしてみました。

免責事項

内容・結果に関して手順としては間違いはないと考えておりますが、内容・結果を保証するものではありません
政治的な議論をしたい訳ではないので、そのように解釈できる文言があったとしても、それは政治的な議論ではありません。また、そのつもりもありません
今回の調査は我々の研究活動（基礎勉強）の一環ではありますが、何かを主張したい訳でもございません

調査概要

今回の調査項目は、以下のとおりです。時間的な制約だけでなく、極力客観性のあるデータ分析になるように、調査項目は絞っています。以降、いわゆる炎上は「バイラル」と呼びます。また、バイラルにおいて、議論のテーマとなる拡散因子を「ミーム」と呼びます。今回は、ハッシュタグ（1つもしくは複数）をミームとします。

いくつかのミームに関するバイラルのツイート群を収集
バイラルに関わっていたアカウントの作成の時期を調査
バイラルに関わっていたアカウントにおけるボットの割合
複数のバイラルに関わっているアカウントの特定

サンプリング・データセット

※収集したツイートには、リツイートを含む（2022/10/06追記）

保守系某女性議員のポスト起用に関する反対ミーム（以降、政治ポストミーム）
- 収集期間：2022–08–13 10:32:24 ~ 2022–08–25 08:45:59
- ツイート数：198,446
- ツイートしたアカウント数：45,619
2022年沖縄県知事選挙（以降、沖縄選挙ミーム）なお、沖縄選挙ミームについては、イベントに関するハッシュタグを複数リストアップし、どれか一つでも含むツイートを取得
- 収集期間：2022–08–31 16:24:53 ~ 2022–09–12 08:59:57
- ツイート数：955,096
- ツイートしたアカウント数：70,833
某コンビニの新発売菓子の宣伝ミーム（以降、コンビニPRミーム）
- 収集期間：2022–08–10 09:07:52 ~ 2022–08–25 08:59:59
- ツイート数：342,115
- ツイートしたアカウント数：291,794
ハッシュタグ #検察庁法改正案に抗議します（以降、法改正ミーム）
- 収集期間：2020–05–08 19:40:59 ~ 2020–05–11 08:59:59
- ツイート数：4,409,769
- ツイートしたアカウント数：460,519
ハッシュタグ #台風14号（以降、台風ミーム）
- 収集期間：2022–09–12 10:20:17 ~ 2022–09–25 08:57:33
- ツイート数：417,975
- ツイートしたアカウント数：239,560
2022年7月に発生した au障害に関するミーム（以降、au障害ミーム）
- 収集期間：2022–06–30 18:27:07 ~ 2022–07–06 20:21:58
- ツイート数：70,603
- ツイートしたアカウント数：60,561
2022年6月に発生した尼崎市でのUSB紛失事件に関するミーム（以降、尼崎USBミーム）
- 収集期間：2022–06–23 11:15:12 ~ 2022–07–01 08:30:58
- ツイート数：33,151
- ツイートしたアカウント数：29,577

（2022/10/02追記、※データセットの収集が間に合わず9/5までとなっていることに注意）

ハッシュタグ #国葬（以降、国葬ミーム）
- 収集期間：2022–07–08 08:51:22 ~ 2022–09–05 23:59:58
- ツイート数：160217
- ツイートしたアカウント数：63163

【補足説明】
コンビニPRミーム（に関するバイラル）は、マーケティング宣伝活動が入っているのではないか（＝意図的に炎上させている）との仮説のもと、比較対象データとして取り上げます。

また、台風ミーム、 au障害ミームと、尼崎USBミームについては、自然発生したバイラルではないかとの仮説のもと、同じく比較対象として取り上げます。

調査結果

☆アカウント作成時期とミームの関係性はいかに？

いくつかのミームに関わるアカウント作成時期1ヶ月単位で集計したグラフを確認します。

まず、図1に、政治ポストミームのアカウント作成時期を示します。

政治ポストミームの場合、2020年5月と2022年7月に作成されたアカウントが多いことがわかります。

つぎに、図2に、沖縄選挙ミームのアカウント作成時期を示します。

沖縄選挙ミームの場合、2020年の4月と5月、2022年の7月と8月に作成されたアカウントが多く、アカウント作成数の増えるタイミングが、政治ポストミームと類似していることがわかります。

比較対象として、コンビニPRミームに関するバイラルをみてみます。

コンビニPRミームでは、若干の揺れはありますが、徐々にアカウント作成数が増加しています。この傾向は、政治ポストミーム、沖縄選挙ミームとは異なる傾向です。

政治的なイベントに対してSNSで発言したい人が自然発生して増えたのか、あるいは組織的に作られたアカウントなのか、、、これだけで判断するのは難しいところです。

さらに、政治ポストミーム、沖縄選挙ミームに関して、2020年5月に作られたアカウントの作成時刻を、12時間おきに丸めて集計したグラフを図4に示します。

政治ポストミーム、沖縄選挙ミームのバイラルに関わったアカウントはともに、5月10日の12時〜24時の間に多く作成されていました。（政治ポストミーム: 112アカウント、沖縄選挙ミーム: 77アカウント、合計: 148アカウント）

なお、この日のトレンド一位は、なんと！法改正ミーム（#検察庁法改正案に抗議します）でした。

そこで、政治ポストミーム、沖縄選挙ミームのバイラルに関わったアカウントグループをグループAとし、グループAが、法改正ミーム（#検察庁法改正案に抗議します）についても関与しているか確認してみました（表1）。

グループAに属するアカウントの半数近くは、法改正ミームに関与していました。つまり、政治ポストミーム、沖縄選挙ミームに関わるアカウントは、法改正ミーム（#検察庁法改正案に抗議します）のバイラルにも参加していたということです。

【ここまでの簡単なまとめ】

ここまでの調査から、政治的なバイラルに関連する一部のアカウントは、以下の2つのことが確認できました。

政治的なイベントが発生する直前でアカウントが作成されていた
過去の政治的バイラルが発生する直前に作られたアカウントが、最近の政治的バイラルにも一部関わっている

☆ バイラルにボットはどれくらいいるのか？

次に、各ミームに関与するアカウントにボットがどのくらいいるのかを調査しました。

この調査では、当研究室で設計構築した機械学習による推定モデル（以降、ボット推定モデル）を使って、ボットか否かを推定しています。このボット推定モデルは、確率スコア[0,1]で「ボットらしさを算出するもの」となっています。以前、研究室で発表したブログで使用したBotometerから提供されているデータセットを用いて独自に設計構築しました。精度は、現状0.91となります。

本記事の調査では、各ミームに関するバイラルに関わたアカウントにおいて、ボット関与の傾向を明確にするために、確率スコアが0.7以上の場合をボットアカウントとしています。（なお、通常、今回作成したボット推定モデルでは、確率スコアが0.46以上をボットとしています。つまり、今回は、より確実性の高いもののみでの比較をしています。）

また、推定対象である収集したすべてのアカウントの数（以降、総アカウント数）と、ボットと推定されたアカウントの数の割合をボット率としています。

ボット率=（ボットと推定されたアカウント数）/（総アカウント数）

各ミームにおけるボット率とグラフを以下に示します。

（2022/10/02修正、国葬ミームを追加、※データセットは9/5まで）