宮脇睦『AIの学習システムは汚染される』
【解説】宮脇睦｜ロシアの影響工作・情報操作とAI汚染
本記事は動画内容をもとに要点を整理した要約です。文脈は各タイムスタンプから原動画で確認できます。
概要
・AIの学習システムへの干渉による検索結果の歪曲は、過去のサジェスト汚染といった手法の延長線上にある。
・プラウダJAPANのようなロシアメディアがAIのネタ元となり、意図的に歪んだ情報が学習データに含まれることで、影響力工作が行われる。
・AIによる影響力工作は、古典的な手法を応用したものであり、情報空間の変遷と共に手法が進化している。
記事の概要（Q&A形式）
Q
ロシアによる影響力工作は、具体的にどのような形で指摘されているか？
A
日経新聞がJICAのアフリカ支援がロシアによって阻害されたと報じ、参院選では賛成党がロシア製ボットで勢いを伸ばしたと山本一郎氏が論じた。AIの学習システムがロシアからの情報で歪められる可能性も指摘されている。
Q
情報操作にはどのような手法が使われているのか？
A
途上国支援へのSNS批判を煽る手法や、心理トリックである「レイジペイティング」「クリックペイト」といったダークパターンが使われている。また、不確かな情報を報道によって事実のように広める「マスコミロンダリング」も指摘されている。
Q
大規模言語モデル（LLM）などのAIは、情報操作の影響を受けるのか？
A
AIの学習システムはロシアからの影響力工作によって検索結果が歪められる可能性が指摘されている。これは「サジェスト汚染」やAIの出力結果の汚染として問題視されており、プラウダJAPANがAIのネタ元として利用されている可能性も示唆されている。
Q
参院選における情報空間では、どのような言説が指摘されたか？
A
JICAの国際協力が横浜のアフリカ支援会議や参院選と関連付けられ、ロシアの影響力工作と結びつけられたとされている。また、情報法制研究所の山本一郎氏は、賛成党がロシア製ボットによるプロパガンダで勢いを伸ばしたと論じたとされている。
Q
「マスコミロンダリング」や「ソースロンダリング」とはどのような手法か？
A
事実関係が不確かな情報であっても、報道があったことを根拠に事実であるかのように広まる手法だとされている。これはネット空間でも繰り返されており、情報操作の一環として指摘されている。
日経報道とSNSの乖離は、AI時代の情報操作の典型だ。旧ソ連の機関紙名を冠する「プラウダJAPAN」がAIの学習源となり得る事実は、冷戦期のプロパガンダが形を変え、現代の「真実」を歪める古典的手法の再来を示唆する。生成AIは、過去の検索エンジン汚染やロシアによる米大統領選介入に見られたSNSトロール工場を高度化させ、情報源の信頼性を巧妙にロンダリングする。若年層が保守政党を支持する背景にも、AIを介した情報戦が影響し、社会分断を加速させる懸念がある。「真実」はアルゴリズムではなく、多角的な情報検証と批判的思考でしか見出せず、そのスキルは現代社会で最も重要なレアアースとなる。