ハーバード大学教授で『ニューヨーカー』の寄稿者Dr.ジル・レポア氏は、新著『The Rise and Fall of the Artificial State』で、AIとシステム的計測が社会に与える影響を深く掘り下げている。レポア氏によれば、あらゆるものを数値化しデータに変換する傾向は、人間の経験を人工化し、基本的な人間の懸念を無視している。この「人工的構造」は、アプリケーションから政治・行政まであらゆる分野に浸透している。

レポア氏は「人工国家」を、自由主義国家の代わりに、その機能の大部分を多国籍民間企業が引き継いだ構造として定義する。特に公共言論は、企業の注意と怒りを金銭に変える優先順位によって民営化されている。さらに、X（旧Twitter）のようなプラットフォームでは、人間よりもボットの方が多く、民主的な議論と市民の権利行使の方法を脅かしている。

この変革の歴史的起源は、何千年も前の人口調査から1930年代の現代的な政治アンケートまで遡る。特に1980年代のパーソナルコンピュータの普及から始まったシリコンバレーの文化は、データ駆動型のターゲティングとマイクロターゲティングが政治キャンペーンや広告で普及するきっかけとなった。これは市民間の直接的なコミュニケーションを減らし、社会を結びつける「市民的接着剤」を弱めている。

現在、AIは選挙キャンペーンでメッセージ作成から有権者へのアプローチ決定まであらゆる分野で使用され、「AI対AI」のシナリオを生み出している。レポア氏はこの流れが危険であり、将来のリスクを無視してはならないと指摘する。過去を否定し「イノベーション」と「破壊」に焦点を当てたシリコンバレーの文化は、人間の価値観と知恵を無視しながらこの「人工国家」を構築し続けている。

しかしレポア氏は、未来に対する希望も見ている。特に大学卒業生がAIのCEOを卒業式でブーイングするなどの批判的な反応は、この流れを問い直し、異なる未来を築くために不可欠だと強調する。AIへのこのような反対は、人類が自らの運命を決定する能力を守るために重要な役割を果たす可能性がある。