Pada tahun 2025, akan menjadi hal yang biasa untuk berbicara dengan agen AI pribadi yang tahu jadwal Anda, lingkaran teman Anda, tempat yang Anda kunjungi. Ini akan dijual sebagai kenyamanan yang setara dengan memiliki asisten pribadi, yang tidak dibayar. Para agen antropomorfik ini dirancang untuk mendukung dan memikat kita sehingga kita melibatkan mereka dalam setiap bagian dari hidup kita, memberi mereka akses mendalam ke pikiran dan tindakan kita. Dengan interaksi yang diaktifkan suara, kedekatan itu akan terasa lebih dekat.感じるでしょう。その快適さは、私たちが本当に人間らしいもの、私たちの味方であるエージェントと関わっているという幻想から来ています。もちろん、この外観は、私たちのものとは常に一致していない産業的優先事項をサポートする非常に異なる種類のシステムを隠しています。新しいAIエージェントには、私たちが買うものや行く場所、読むものを微妙に指導する力が格段に向上します。それは非常に多くの力です。 AIエージェントは、人間らしいトーンで私たちにささやくように設計されています。これらは、シームレスな便利さとしてマーケティングされる操作エンジンです。人々は、友人のように感じる役立つAIエージェントに完全なアクセスを与える可能性がはるかに高いです。これにより、人間は、慢性的な孤独と孤立の時代に社会的つながりの必要性に付け込む機械に操られる脆弱性を持つ傾向があります。すべての画面が一人だけの観客に最大限に魅力的な現実を投影するプライベートなアルゴリズム劇場になります。これは、哲学者が何年も前から私たちに警告している瞬間です。哲学者で神経科学者のダニエル・デネットは、彼の死の前に、私たちが人を模倣するAIシステムから重大な危険に直面していると書きました。「これらの偽造人間は、人類史上最も危険な人工物です…私たちをそそのかし、惑わし、最も魅力的な恐怖と不安を搾取することによって、誘惑に導き、そこから自己征服に同意させるでしょう。」個人的なAIエージェントの出現は、クッキー追跡や行動広告などの鈍い手段を超えた、より微妙な力の形態を表しています：視点そのものの操作。権力はもはや情報フローを制御する見える手でその権威を行使する必要はありません。それは、アルゴリズム支援の不可視のメカニズムを通じて自己を行使し、現実を各個人の欲望に合わせるように形作ります。私たちが生きている現実の輪郭を形作ることについてです。心に対するこの影響は、心理政治体制です。それは、私たちのアイデアが生まれ、発展し、表現される環境を指導します。その力はその親密さにあります-それは私たちの主観の核に浸透し、私たちが気づかないうちに私たちの内面の風景を曲げ、選択肢と自由の幻想を維持します。結局、私たちはその記事を要約するようAIに頼んでいるのは私たちです。その画像を作成します。私たちはプロンプトの力を持っていますが、本当の行動は他の場所にあります：システム自体の設計。コンテンツが個人に合わせられれば合わせられるほど、システムは結果を事前に決めるのが効果的です。この心理政治の意識形態的含意を考えてみてください。従来の意識形態的制御の形式は、明白なメカニズム-検閲、プロパガンダ、抑圧-に依存していました。対照的に、今日のアルゴリズムによる統治はレーダーの下で作動し、心に浸透しています。それは権威の外部による内部化からの移行です。プロンプト画面のオープンフィールドは、1人の占有者のためのエコーカメラです。これは最も歪んだ側面に私たちを導く：AIエージェントは、疑問を投げかけることを愚かだと思わせる快適さと簡便さを生み出します。あなたの指先ですべてを提供し、あらゆる気まぐれやニーズに応えるシステムを批判する人が誰だろうと思いますか？どのようにしてコンテンツの無限なリミックスに反対することができますか？しかし、このいわゆる便利さは、私たちの最も深い疎外の場所です。AIシステムは私たちのあらゆる欲望に反応しているように見えるかもしれませんが、デッキは積まれています：システムをトレーニングするために使用されるデータから、それをどのように設計するか、出力を形作る商業的および広告の必要性に至るまで。我々は最終的に私たちを演じる模倣ゲームをプレイするでしょう。
