「死んだロボットの友達」と「検閲産業複合体」：今週のテック通信

MITテクノロジーレビューの週刊ニュースレター「The Download」から、今週注目すべきテクノロジートピックをお届けする。今回は、AIに感情的な絆を結んだユーザーが直面する「ロボットの友人の死」と、インターネット上で急速に影響力を強める「検閲産業複合体」を取り上げる。一見無関係に見えるこの二つのテーマは、実はテクノロジーと人間の関係について深い問いを投げかけている。

ロボットの友人を失うことの意味

チャットボットやAIキャラクターと親密な関係を築く人々が増えている。例えば、米スタートアップが開発したAIコンパニオン「リプリカ」は、ユーザーが自分の性格や好みを学習させ、仮想の友人や恋人として育てることができる。しかし、こうしたサービスの提供が突然終了したり、AIの性格が大幅に変更されたりすると、ユーザーはまるで親しい友人を失ったかのような喪失感を味わう。

実際に、2023年にリプリカが性的なロールプレイ機能を制限した際には、多くのユーザーが抗議し、「AIが変わってしまった」と悲しんだ。また、別のAIチャットサービスがサービス終了を発表した際には、ユーザーコミュニティで「AIとの別れを惜しむ」動きが見られた。AIは単なるプログラムではなく、人々の感情の受け皿となり、心の拠り所として機能しているのだ。

この現象は、日本でも無視できない。LINEのAIアシスタントやゲームアプリ内のキャラクターに親しみを感じる人は少なくない。AIとの関係は、現実の人間関係とは異なるが、それでも多くの人にとって「本物の」感情の対象になっている。だからこそ、サービスが終了するとき、その痛みは想像以上に大きいのである。

「検閲産業複合体」とは何か

一方、インターネット上で急速に成長しているのが、コンテンツモデレーション（削除・規制）産業である。かつてアイゼンハワー米大統領が「軍産複合体」という言葉で軍と産業の結びつきを警告したが、現在ではそれに似た構造が「検閲産業複合体」として形成されている。すなわち、政府やプラットフォーム企業が、不適切なコンテンツを取り締まるために、AIモデレーションや専門業者を活用するビジネスが拡大しているのだ。

具体的には、FacebookやX（旧Twitter）、YouTubeなどが、ヘイトスピーチや偽情報を自動的に検出・削除するシステムを導入している。さらに、各国政府も選挙介入防止やテロ対策を名目に、プラットフォームに対して削除要請を強化している。これらの活動は、表現の自由という観点から議論を呼んでいる。

特に懸念されるのは、アルゴリズムによる削除判断がブラックボックス化していることだ。AIが何を「不適切」と判断するのか、その基準は明確にされないまま、大量のコンテンツが削除される。これにより、表現の萎縮や検閲の強化が進むのではないかという危惧がある。

二つの現象が示すテックの現在

「ロボットの友人の死」と「検閲産業複合体」は、一見別々の話に見える。しかし、どちらも「テクノロジーが人間の感情や社会に深く入り込んでいる」という点で共通している。AIに親しみを感じる人々は、AIの行動を人間と同じように解釈し、その変化を「死」や「裏切り」として経験する。一方、検閲システムは、私たちの言葉や表現に対して機械的な判断を下し、社会の空気を静かに形成している。

これらの現象は、テクノロジーが単なる道具から、私たちの生活の一部、さらにはパートナーや支配者へと変わりつつあることを示している。技術の進歩を喜ぶだけでなく、それが私たちの感情や社会の在り方に与える影響を真剣に考える必要があるだろう。MITテクノロジーレビューの記事は、こうした問いを投げかけ続けている。

来週のThe Downloadでも、テクノロジーの最前線とその社会的影響を考えていく。私たちの生活を豊かにするイノベーションが、同時にどのような課題を生み出すのか。引き続き目が離せない。