炎上の解剖学: 小さな意見の対立が私刑と化す仕組み
集団攻撃(パイルオン)が最初からそうであることはほとんどありません。あるスレッドが、単独ではそれほど深刻でもなかった何かをめぐって50人が一人のメンバーに集団で襲いかかる状態に変わった瞬間をモデレーターに指し示してもらうと、たいていは数メッセージ前の、その時点ではまったく何でもないように見えた普通のやり取りを指し示します——軽い意見の対立、やや鋭い返信、うまく着地しなかったジョーク。集団攻撃は完成した形で現れるわけではありません。かなり予測可能な一連の小さな構造的な後押しを通じて蓄積していきます。その連鎖を理解することは、ほとんどコストがかからない4番目のメッセージで介入できるモデレーターと、スレッドがすでに混乱し、どんな対応をしても悪く見えてしまう60番目のメッセージで初めて気づくモデレーターとの違いを生みます。
第1段階: 普通の意見対立
すべての集団攻撃は、それ単体ではまったく何でもないもの——二人が意見を異にする、一人が別の誰かが間違っていると思う主張をする、作った本人の意図とは違う読み方をされるジョーク——から始まります。この段階は、活発なコミュニティのどの瞬間にも起きている何千もの他の普通の意見対立と見分けがつきません。だからこそ早期に捉えるのがとても難しいのです。この特定の意見対立が、まったく介入なしに正常に解決される他の何百もの意見対立と違うという明白なシグナルはまだありません。
この普通の瞬間が普通のままでいるか、エスカレートし始めるかを実際に決めるのは、たいてい元の意見対立がどれだけ深刻だったかではなく、次の返信がどう言葉にされるかです。言われたことの実質に、たとえ鋭くても、向き合う返信は、意見対立を意見対立のまま留める傾向があります。論点への対応から人物の性格描写へと移る返信——「うわ、[否定的な特性]を持つ人間だけがそんなことを言うだろう」——は、構造的に異なることをします。主張についての意見対立を、その人の性格に対する国民投票へと変換してしまうのです。そして性格についての国民投票は、まさに傍観者を巻き込むような類のものです。今や、元の、しばしばかなり狭い意見対立の論点とは無関係な、はっきりと取れる側ができてしまったからです。
第2段階: 観客が形成され始める
意見対立が主張についてではなく人物についてのものに移った時点で、それは元のやり取りに関わっていなかった、独立した利害関係のない人々にも見えるようになります。これが決定的な機械的転換であり、なぜそうなのかを正確に理解する価値があります。例えば、特定のデザイン選択が良いアイデアかどうかについての意見対立には、意見を持つためにある程度の文脈が必要です。誰かが嫌な奴かどうかについての意見対立にはまったく文脈が必要ありません——通りすがりの誰でも、根底にある実質にゼロの関心しかなくても、純粋にトーンだけに基づいて即座に意見を形成できます。そのアクセスのしやすさこそが観客を引き寄せるものであり、観客が形成され始めると、スレッドの力学は完全に変わります。今や元の二人の参加者だけが、それがどう解決するかに利害を持つ声ではなくなるからです。
この段階で形成される観客が悪意を持っていることはめったにありません。この時点で返信し始める人のほとんどは、本当に不当に扱われている誰かを支持していると信じているか、意地悪に見えた何かに本気で押し返していると信じています。個別に見れば、これらの返信のそれぞれは、その特定の人物が見たものに対する合理的で善意ある反応です。問題は個々の意図ではなく集約です——20の個別には合理的な返信が、それぞれ他の19の存在に気づかないまま積み重なり、実際には何の協調もなかったにもかかわらず、受け取る側から見ると協調された暴徒と見分けがつかないものになります。これは集団攻撃についてもっとも直感に反することの一つです。集団攻撃が起こるのに、誰かが悪意を持って行動する必要はほとんどありません。単に、同時に同じことをしている他の人数が誰にも見えないまま、十分な数の人々が同じ目に見えるシグナルに独立して反応するだけで十分なのです。
第3段階: エスカレートするコミットメント
スレッドに観客がつき、はっきりとした「側」が形成されると、数メッセージ前であればもっと容易だった沈静化を大きく困難にする心理的な力学が働き始めます。すでに公然と意見を表明した人々は、心を変えるかもしれない新しい情報に直面しても、自分の立場を更新するのではなく擁護する方向に引っ張られます。これは特定のコミュニティに固有の性格上の欠点ではありません。人が一度公然とコミットメントをすると、そのように振る舞うという、よく文書化されたパターンであり、それは合理的で思慮深いメンバーにも他の誰にでも同じように当てはまります。
これはまた、意見対立の元の標的が、一つではなく返信の壁に直面するようになり、融和的ではなく防御的に反応する傾向がある段階でもあります。これは劣勢を感じたことへの完全に理解できる反応ですが、拡大する観客にとってはほぼ常に、元の批判が正当だったことのさらなる証拠として読まれます。防御的な返信は罪の証拠として読まれます。融和的な返信も、皮肉なことに、しばしば同じように読まれます。この段階ではスレッドはもう本当には新しい情報を処理していないからです——それはほとんど、すでに意見を表明した人々の膨大な数によって生み出された勢いで動いており、その規模の勢いは、防御的であれそうでなかれ、どんな単一の返信によっても意味のある形でリダイレクトするのが非常に難しいのです。
第4段階: スレッドが自らのトピックより長生きする
集団攻撃が後半の段階に達する頃には、まだ積極的に投稿している人のほとんどは、すべてを始めた元の狭い意見対立の論点を見失っているか、そもそも知りません。残っているのは、実際にはトーンについて、誰が誰に何を言うことを許されるかについて、誰かが責任を取らされるべきだという一般的な感覚についてのスレッドです——それはもはや、物事を引き起こした実際の実質にゆるくしか結びついていない感情的な流れです。これが、集団攻撃がこの遅い段階でも議論を通じて解決するのが非常に難しい理由です。良い反論が対処できるような、争われている明確な主張はもはや存在しません。スレッドは特定の反証可能な論点よりも社会的地位に近い何かについてのものになっており、社会的地位は事実に関する意見対立のようには解決しません。
モデレーターが実際にレバレッジを持つ場所
この連鎖を踏まえると、モデレーターが介入するもっともレバレッジの高い瞬間は第1段階、あるいは第2段階のごく初期の縁です——やり取りがまだ人物ではなく主張についてのものである間、あるいはちょうど傾き始めたばかりの間です。この時点では、介入は安価でほとんど目に見えません。モデレーターは一方または両方の参加者に非公開でメッセージを送るか、スレッドを実質に引き戻す軽く中立的なコメントを投稿できます。それが強硬な執行措置のように読まれることはありません。外部から見れば、介入が過剰反応に感じられるようなドラマチックなことはまだ何も起きていないからです。
実際的な難しさは、第1段階がエスカレートしない他の100の意見対立とまったく同じに見えることです。リアルタイムで見ているモデレーターには、どの普通の意見対立がより大きなものへと傾こうとしているのかを事前に知る信頼できる方法がありません。正直な答えは、たいてい予測できないということです。できることは、返信が主張への対応から人物の性格描写へと移る瞬間に、少しだけ注意深くなる習慣を身につけることです。その特定の転換が、保証にはほど遠いとはいえ、利用可能なもっとも信頼できる早期のサインだからです。「うわ、[X]な人間だけがそう考えるだろう」を、必ずしもBANではなく、軽いタッチに値するシグナル、受動的にスクロールして通り過ぎるのではなく積極的に注意を払う瞬間として扱いましょう。
第3段階になると、介入はかなり高くつき、かなり目立つようになります。今や観客が見ているからであり、モデレーターのどんな行動も、この時点ではそれが些細なことから始まったにもかかわらず、まだ積極的に投稿しているすべての人にとって重要度の高いものに感じられる対立の中でどちらかの側を取ることのように読まれます。これこそ、遅い介入がしばしば逆効果になる理由です。この段階でスレッドをロックすると、「勝っている」側からは、彼らが間違っていると判断した人物を保護していると読まれ、「負けている」側からは、プラットフォームが彼らの懸念を真剣に受け止めていないことの確認と読まれることが多く、どちらの読み方も、時にかなりの差で、スレッド自体よりも長生きする遺恨を生み出す傾向があります。
ロックして説明するアプローチ
第3段階や第4段階での介入が必要になった場合——すべての集団攻撃が早期に捉えられるわけではないので、時にはそうなります——もっとも被害の少ないアプローチは、静かに削除するのでも、エスカレートし続けるままに開いておくのでもなく、短く中立的で公然と見える説明とともにスレッドをロックすることです。特に静かな削除は、この段階では大きく逆効果になりがちです。それはエスカレーションを沈静化させるのではなく、何かを隠蔽していると読まれるからです。モデレーターが不都合な対立を静かに消していると疑うコミュニティは、元のスレッドの実際の害に不釣り合いな形で信頼を失います。
「このスレッドをロックします。元の論点をはるかに超えて進んでしまい、この時点では、対象となっている人々を含め、誰にとっても生産的ではありません」といった簡潔で中立的な一言は本物の効果を発揮します。それは、モデレーターが実際にスレッドを読み、誰がもともと正しかったかという実質ではなく、スレッドの軌道について判断を下していることを示すからです。そして、誰がもともと正しかったかというのは、いずれにせよモデレーターが公然と裁定するのにもっとも役に立たないことです。このフレーミングは、モデレーターが根底にある意見対立に判決を下す必要なしに介入することを可能にします。これは重要です。正しいかどうかにかかわらず、その判決を公然と下すことは、たいてい単にエスカレーションの力学を再始動させ、モデレーターが今や中立的な立場ではなく参加者として位置づけられてしまうからです。
その中心にいる人のためにすべきこと
集団攻撃を受ける側のメンバーは、元の批判に正当性があったかどうかにかかわらず、単に集約がどう働くかという理由だけで、ほぼ常に実際に自分がしたことに不釣り合いな何かを経験しています——20件の返信は、たとえ個々の返信がそれぞれかなり穏やかであっても、1件の返信とはまったく異なる桁の重さに感じられます。スレッドに対して取られた公の行動とは別に、モデレーターからの個人的な様子伺いは、それにかかるわずかな時間の価値があります。彼らが言ったことの弁護ではなく、必ずしもコミュニティを代表しての謝罪でもなく、単に集団攻撃が起きたこと、そしてプラットフォームがそれに気づいたことを認めるだけです。これはほとんどコストがかからず、個々の角度から見れば一連の合理的で孤立した反応に見えたものが、その人が立っていた場所から見ると個々の要素のどれよりもはるかに悪く感じられる何かへと積み重なった経験によって、誰かが静かにコミュニティを去ってしまうのを防ぐ上で意味のある効果があります。
集団攻撃の頻度を減らす構造的な変更
その場での介入を超えて、いくつかの構造的な選択が、そもそも集団攻撃がどれだけ頻繁に形成されるかを意味のある形で減らします。返信がすべて一つの平坦で時系列のストリームに現れるのではなく、応答している特定のコメントの下にネストされるスレッド化は、観客形成の段階をかなり遅らせます。多数の人々が、一つの連続した視覚的に圧倒的なカラムに元の投稿の直下に積み重なるのではなく、異なるネストされた枝に散らばった返信をする場合、同じ目に見える標的に集団で襲いかかることがはるかに難しくなるからです。
短い時間枠内での単一スレッドへの返信のレート制限——懲罰的なものではなく、急速な返信のバーストの後の短い一時停止だけ——は、コミットメントがあまりに遠くまでエスカレートする前に、スレッドが冷める機会を与えます。これは、繰り返し集団攻撃を経験したどんなコミュニティにとっても検討する価値があります。この介入は、リアルタイムで積極的に集団攻撃しようとしていない人にはほぼ見えませんが、第3段階が依存する勢いを意味のある形で妨げるからです。
そしておそらくもっとも重要なのは、モデレーター自身の投稿において実質に焦点を当てた意見対立をモデル化すること——誰かが不合理だと個人的に思っていても、目に見える形で一貫して人物ではなく主張に反対すること——が、どんなルールよりも長期的にコミュニティの基準となる規範を変える効果があるということです。メンバーは、ルールページを読むことによってではなく、実際に何が起きるかを見ることによって何が普通かを学びます。そして自身の意見対立において一貫して目に見える形で実質に焦点を当てたモデレーションチームは、そもそも普通の意見対立を集団攻撃に変えてしまう性格重視への転換を静かに抑制するトーンを設定します。
築く価値のある核となる習慣
これらすべてから築く価値のある習慣が一つあるとすれば、それはモデレーターとして、返信が誰かの言ったことへの対応をやめて誰かが何者であるかへの対応を始める特定の瞬間に気づくよう、自分自身の注意を訓練することです。その一つの転換こそが、観客が形成されるずっと前、コミットメントがエスカレートするずっと前、スレッドが元のトピックから完全に漂流するずっと前に利用できる、もっとも信頼できる早期のシグナルです。そこで捉えることはほとんどコストがかかりません。それ以降のどの時点で捉えることも、かなり高くつきます。そして、何かが集団攻撃になったことが誰の目にも明らかになる頃には、それを止めるもっとも安価な窓はたいてい既に閉じてしまっています。