AI時代の民主主義のリスク ― 日本語情報空間とLLMポイズニング

民主主義は、市民が何を知り、何を入り口に判断するかという情報の土台の上に成り立っている。その入り口に、いま生成AIが急速に入り込みつつある。

大規模言語モデル (LLM) の出力は、事前の学習データ (pre-training) 、事後のチューニング (post-training) 、リアルタイムのウェブ検索による情報の取り込み (Retrieval-Augmented Generation) など、複数の要素によって形づくられる。「LLMポイズニング」とは、こうした要素、とりわけ学習や検索の対象となるネット上に特定の主張や情報を大量に送り込み、AIの出力を意図的に操作しようとする手法を指す。海外ではすでに民主主義や安全保障を脅かす大きな問題として認識され、研究が進められている。一方で、日本語空間で実際に何が起きているのかを検証した分析はごく限られている。

本セッションでは、2026年衆院選を対象に複数のAIモデルを検証する大規模実験を行った宮崎と、ロシアのプラウダ・ネットワークや中国の国営メディアの影響を分析する陣内から発表を行う。さらに、国際政治を専門とする一橋大学市原麻衣子教授を迎え、現在の状況と今後に向けた議論を行う。