UGAの専門家、人工知能が急速なペースで成長していると指摘

生成AIの能力は急速に向上しており、それに伴いAI生成コンテンツの頻度も高まっています。現実味がある一方で捏造されたコンテンツの増加は、深刻な懸念を情報エコシステムとデジインフォメーションの拡散に関して引き起こしています。

プロパガンダとメディアシステムを研究するジョージア大学の Roger Stahl 教授は、現在目にしているデジインフォメーションは、今後起こるより大きな事態の前触れに過ぎないと述べています。

「私たちはある種、この鏡の迷路に足を踏み入れつつあり、」と Stahl 氏は語ります。「今はまだその入り口の、ほんの端を見ているに過ぎません。」

人工知能は、現実的な捏造画像、動画、テキストの作成を、かつてないほど迅速かつ容易にしました。

Stahl 氏は、今日の問題の根源を2010年頃のソーシャルメディアの台頭に求めています。当時は、情報がテレビや新聞といった中央集権的なメディアから、プラットフォームやインフルエンサーによる断片化された状況へと移行した時期でした。この変化は、単にニュースの伝わり方を変えただけではなく、かつて情報の流れを制御していた機関への信頼を損なわせた、と同氏は語りました。

「人々がその時にたまたまフォローしている人物に対して、ある種の大脳辺縁系的で本能的な信頼が寄せられています」と Stahl 氏は言います。

視聴者はもはや、編集基準や倫理基準を持つ報道機関を頼りにはしません。その代わりに、信頼性はアイデンティティや社交界、オンラインで誰をフォローしているかと結びつくようになっています。

AIは、拡散するのに十分な信憑性があるように見える合成コンテンツでインターネットを溢れさせることで、その動きを加速させています。

「著作者が誰であるかは非常に不明確で不透明になり、おそらく重要性も低くなっていくでしょう」と Stahl 氏は語ります。

UGA（ジョージア大学）工学部の教授であり、UGA人工知能研究所の副所長を務める Kyle Johnsen 氏は、技術的な脅威は現実のものであり、かつ過小評価されていると考えています。チャットボットや画像生成AIを支えるのと同じ機能が、デジインフォメーションの作成をほぼ容易なものにしました。

「AIに関する知識が3ヶ月以上前のものであれば、AIには不可能なことがあると思うかもしれませんが、実際には可能になっているのです」と Johnsen 氏は語りました。

検出ツールは存在し、改良も進んでいますが、それは誰かが積極的に探そうとする場合にのみ機能するのだ、と Johnsen 氏は言います。

「ほとんどの人は、AIが生成した写真と本物の写真の違いをまだ見分けることができますが、それは自然に受け入れられるものではありません」と Johnsen 氏は述べました。「注意して探す必要があるのです。」

提案されている解決策の一つである、AI生成コンテンツのラベル付けの義務化は、EU AI法が合成メディアに対する透明性の要件を盛り込んでいる欧州で勢いを増しています。Stahl 氏はこれを意義のある出発点だと呼びましたが、Johnsen 氏はこれが現実的な解決策になるとは信じていないと述べました。