Durably reducing conspiracy beliefs through dialogues with AI

自身が信奉する陰謀論をAIチャットボットに説明し、AIがそれら信念を論駁するように反論を展開し、会話を続けさせ、数か月間にわたって彼ら彼女らの信念を弱めることに成功した実験レポート。

通説に疑問を呈し、説得力のある証拠があれば、陰謀論から脱却できるかもしれない。しかし単純な事実の羅列を超えて、個別に深く話を聞くことが重要である。ここに、膨大な情報アクセス性能とカスタマイズ性に優れたAIチャットボットが使えることを(正確にはその可能性を)示した。実験では、AI側が陰謀論に折れることはなかったらしい。使用されたのはGPT-4 Turbo。2,190人を対象に、20%ほどが陰謀論に対する信頼度が減った。

LLM用に学習データを揃えた研究者らの善意の結果、とも言える。論文にも書かれているが、この実験の示唆するところは悪用と表裏一体であり、一方で現状はそのような悪用を防ぐ有効な手立ては見受けられない。無責任に使用され得る機会を極力減らすべきはないか、と強調している。