リンゴを見ると何が起こるでしょうか？
この質問には 2 つのまったく異なる方法で答えることができます。忠実な唯物論者であれば、光子がリンゴの表面から反射して目の光受容体に到達し、世界の「外」に実際に存在する赤い果物の視覚的表現を作成することについて、技術的に詳細に説明してくれるでしょう。しかし、哲学者や芸術家に尋ねると、彼らははるかに形而上学的な領域に進むかもしれません。リンゴは、脳の視覚システムによって形成された単なる原子の集合ではありません。リンゴは一種のポータルでもあり、半意識的な連想や記憶、観察者それぞれの独特の配置や感触などの精神的領域への道でもあります。たとえば、リンゴは健康の象徴である可能性がありますが、より宗教的な傾向のある人にとっては、庭でのイブの誘惑と人間の堕落を呼び起こす可能性があります。他の人は、これを現代のパーソナル コンピューティングの象徴、またはアイザック ニュートンが重力の法則を定式化するきっかけとなったとされるひらめきと見るかもしれません。
この後者の学派によれば、知覚は決して完全に客観的ではありません。むしろ、私たちの主観が、私たちの個人的な世界経験を色付けしており、両者は切り離せないものとなっています。ベルギーの芸術家ルネ・マグリットは、1964 年の絵画で、知覚するものと知覚されるものとの間のこの曖昧さを捉えました。 Ceci n’est pas un pomme (リンゴじゃないよ）。彼の言いたいことは、リンゴの視覚的表現は、どんなに現実的であっても、それが表現すべきものではないということだった。カントが言ったように、私たちは世界そのものを経験することはありません。絵画や写真と同様、ビジュアル アートは、アーティストのユニークな体験と鑑賞者の間の生きたつながりとして機能します。
近年インターネット上に氾濫している AI 生成メディアの氾濫を考えると、次のような疑問が生じます。 これは人類、私たちのお互いの関係、そして世界から意味を抽出する能力について何を意味するのでしょうか 私たちが見たり操作したりする画像の一部が、生きている知覚力のある人間によってではなく、私たちの生活の複雑さをナビゲートするのを助けるのではなく、私たちの注意をハッキングして保持するように訓練された無意識のアルゴリズムによって作成される場合が増えているときでしょうか？
これは、アーティストのトレバー・パグラン氏が最新の著書で取り組んだ主要な問題です。 機械のように見る方法：AI後の画像。
訓練を受けた地理学者であるパグランは、サイバネティクス、古代ミステリー、パンクロック、クラシック音楽の作曲、調査報道、および彼の一連の作品に万華鏡のような性質を与えている一見異質に見えるさまざまな分野に深い影響を受けてきました。彼の仕事を簡単に説明する方法があるとすれば、彼は私たちの意識の閾値以下で私たちの行動や世界観を形作る闇の勢力に光を当てるという使命を持っていると言えるかもしれません。彼 起源不明の神秘的な天体、「秘密衛星」、水中光ファイバーケーブル、偵察機、軍用ドローンなどを撮影。 2014年、彼はローラ・ポイトラス監督のエドワード・スノーデンに関するアカデミー賞受賞ドキュメンタリーでカメラマンとして働いた。シチズンフォーそして2017年にはマッカーサーの「天才助成金」を獲得した。
過去10年にわたって書かれた一連のエッセイの中で、 機械のように見る方法 現代のAIの台頭により、 イメージの間主観的な性質が、心理的、政治的意味合いがまだ理解されていない、根本的に新しいもの、まったく異質なものに取って代わられる時代の到来である。人工知能によって作成された画像は、人間の脳が独自に生み出したものではなく、多くの場合、最も醜い人間の偏見に深く侵されているトレーニング データを反映したものです。
同時に、メンタルヘルスについてチャットボットに話しかけたり、AI が生成した広告をクリックしたりするなど、AI が生成したコンテンツとの関わり全体が、基礎となるアルゴリズムに私たちの独特の好み、行動、全体的な心理的プロファイルに関する貴重な情報を提供します。私たちは決して AI だけを見ているわけではない、AI は常に私たちを振り返っている、とパグレン氏は主張します。
人工知能ベースのマインドコントロール
これまでは、洞窟の壁に残った黄土色の手形、リンゴの絵、爆撃された建物の写真を見れば、その画像が誰か他の人によって作成されたものであると確信できました。これはもう当てはまりません。
インターネット上で安価に制作された大量のテキスト、画像、オーディオ、ビデオが私たちを認識論的な繭のようなものに押し込んでいる、とパグラン氏は新著の中で論じている。そこでは、共有現実へのこれまで安定していたつながりが、アルゴリズムで管理されたソーシャルメディアの更新の個々のバブルに置き換えられている。
パグランにとってさらに厄介なのは、これらのアルゴリズムの背後にある微妙な力であると彼は見ている。大手テクノロジー企業がそうでないと主張するのと同じように、アルゴリズムは客観的ではなく、コモディティ化と監視の論理によって動かされているのだ。私たちの生活のあらゆる瞬間が、たとえ最もプライベートで親密な瞬間であっても、個人データを収集する機会となります。 「スマート」デバイスは私たちの睡眠リズムや運動習慣を追跡し、アプリはオンラインショッピングの習慣や性的傾向を追跡し、チャットボットは私たちの独特の感情的なトリガーや不安について学習します。
このようなアルゴリズムで仲介されたデジタル環境においては、冷戦時代の悪名高き超国会など、かつては潤沢な資金を投入された政府プログラムの唯一の特権であった微妙な形の心理操作、説得、同調を利用する手段が、今では事実上誰でも利用できるようになった、とパグレンは主張する。 AIのおかげでマインドコントロールは民主化されました。 「戦後のメディア情勢がスペクタクル性を特徴とし、20世紀末から21世紀初頭が監視の時代だとすれば、我々は新たな段階に入りつつある」と同氏は本の中で書いている。 「感情的なコンピューティング、機械学習、神経科学、認知心理学によって実現される最適化によって特徴付けられるもの…」
彼は彼女を「サイコプ・カンパニー」と呼んでいる。
サイコプス、AI 魔法、そして精神病
パグランは一種の心理学の専門家です。彼の仕事の多くは、国家機密を保持するための幻想を生み出すように設計された政府の秘密プログラムの撮影に焦点を当てています。
たとえば、この本の中で彼は、1970年代と1980年代にニューメキシコ州のカートランド空軍基地に駐在していた間、ハイジャックしたジャーナリストや軍事活動によって暴露される恐れのある人々の心にUFOや地球外生命体に関する偽旗情報を植え付ける責任を負った元空軍諜報員リチャード・ドティの物語を語っている。
ドティの天才性は、エイリアンやUFOに対するターゲットの既存の信念を、まったく新しい信念を植え付けようとするのではなく、修復する彼の能力に由来するとパグランは主張する。たとえば、カートランド空軍基地上空で見た光は新しい軍用偵察機のものではなく、異星人の宇宙船のものだと信じていた悪党の写真家は、いくつかの精査された文書があれば、簡単に操作されて、彼が見ているものは実際には地球のものではないと疑いの余地なく確信させることができた。これにより（したがって、偵察機の機密性が維持されます）。
パグラン氏によると、ステージマジシャンも同様の原理を使用しています。私たちの知覚システムが生涯を通じて物体が物理法則に従うことを期待するように訓練されてきたという事実を利用して、魔術師は私たちの期待を覆し、私たちが直感的に不可能であると知っていることを信じ込ませる微妙な幻想を植え付けることができます。
「AI 精神病」として知られる現象に注目している人にとっては、これらすべてに見覚えがあるように思えるかもしれません。最近のメディア報道では、「AI 精神病」という非公式な表現が、チャットボットがユーザーの既存の世界観を再帰的に反映し、その世界観が、たとえそれが他の人にとってどれほど妄想的であるように見えても、現実そのものと見分けがつかなくなるまで繰り返される事例を説明するために使用されてきました。そして、これがまさにパグランの指摘点だ。ドティのような超能力者や舞台魔術師が悪用する方法を知っている心理ボタンは現在、私たちの日常生活の構造に織り込まれた多数のアルゴリズムによって、より個人的なレベルで毎日押されているのだ。
ChatGPTのようなAIチャットボットは、「他の人間と同じように話しかけたり、テキストを生成したりする」とパグラン氏はギズモードに語った。 「そこには一種の魔法があるのです。」同氏はまた、これらのツールを開発しているテクノロジー企業ですら、そのツールがどのようにしてその成果物に到達するのかを完全には理解しておらず、それが超自然的な権威のような雰囲気を与えているとも指摘する。
しかし、過去と現在の心理学の間には決定的な違いがあります。従来の心理作戦は表向き、ある種の人間の利益を追求するために人間によって実行されていましたが、現在私たちの認識を形成している AI システムは、「関与」というより曖昧なロジックによって駆動されています。私たちのソーシャル メディア フィードを厳選し、オンラインでどの広告が表示されるかを決定するアルゴリズムは、私たちの注意をできるだけ長く保つように設計されています。パグランにとって、これは私たちとメディアの関係における重大な変化であると彼が見ていることを示しています。
「あなたが見る画像は、あなたの見方に応じて進化します」と彼は私に言いました。 「彼らを見てみると、 [and] 彼らはあなたを見ています。」
プライバシーは抵抗です
多くの人にとって、AI はますますオプションではなくなりつつあります。 Microsoft、Google、Apple などのテクノロジー企業は、私たちが毎日利用しているサービスやデバイスにテクノロジーを組み込んでおり、ソーシャル メディアを見ても、人工知能によって作成されたある種のメディアを見ないことはますます稀になってきています。すべてがあまりにも早く起こるので、半ば意識的に文化的なむち打ち症を感じてしまうのも完全に理解できます。今日オンラインで目にするコンテンツの多くは、ユーザーの注意を引きつけて保持する超人的な能力を備えたアルゴリズムによって選択され、提供されています。クリック、いいね、ビューのたびに、この能力はさらに強化されます。
パグランは、これが人類の将来にとって何を意味するかについて、答えよりも多くの疑問を投げかけていますが、それが重要なことだと思います。マグリットのリンゴのように（あるいはリンゴでなくても）、 機械のように見る方法 パグランが本の中で定義しているように、人間の知覚の曖昧な性質、つまり「表現と現実の間のズレ」を、機械のビジョンの根底にある工業化された利益主導の仕組みと対比させることで称賛しています。
この本のタイトルが示すように、パグランは、私たち自身の運命の主人であり続けるためには、私たち全員がアルゴリズムが現実をどのように表現するかを学ばなければならないと主張しています。彼はまた、テクノロジー企業が私たちが寝ている間もデータを抽出しようとする時代において、私たちはプライバシーを当然のことと考えるのをやめ、代わりにあなたと同じようにプライバシーを意図的に実践する必要があるとも述べています。 毎日瞑想したりジムに行ったりする努力をするかもしれません:」1つ 意図的に非効率にし、市場や政治の熱狂から離れた生活領域を生み出さなければならない」と彼は書いている。
もう一つの選択肢は、私たちの生活のほぼすべての瞬間がアルゴリズムによって監視され、データ抽出の機会となる未来です。「文字通りあらゆるものの証券化と商品化」だとパグレン氏は語った。 「睡眠、車の運転、テレビ鑑賞…考えられるものはすべて商品化されています。正直に言って、それは命を犠牲にしていると思います。」