AIと人──処理能力の違いが社会を歪める

この記事は前回までの内容を踏まえたものです。

最初に取り上げたのは、AIの中層の誤動作でした。
次は、外側から中層をゆさぶる認知戦を、
その次は、中層を揺さぶられたときの身体反応「気持ち悪さ」を。

これらはどれも意味や解釈を扱う中層がうまく働かないことで起こるものです。

そして中層は、AIも人もとても似た働きをしています。

しかしAIと人では処理能力が雲泥の差で、人側の中層が過負荷で疲弊してしまう。私はその結果、人や社会の判断機能に影響がでてしまうのではないかと考えています。

情報との距離感や個人の特性で一概には言えませんが、
簡単にまとめると、以下のようなことが考えられます。

1：　認知の混乱
　AIが生成する膨大な情報で、人の中層が疲弊して何が正しいか判断できなくなる。

2：　感情の暴走
　情報を正しく処理できないことで不安・恐怖・怒りが増幅される。

3：　陰謀論や分断の拡大
　中層が疲弊し感情優位になった人々は「わかりやすい物語」に飛びつく。
　社会が分断し、制度が機能しなくなる。

4：　社会制度の歪み・混乱
　政治・経済・メディアなど、判断を必要とする領域が壊れる。

この中で特に気になるのは、感情の暴走です。

私は今、情報環境の構造そのものが、人にとって高負荷になっているのではないかと考えています。

世の中には悪意や他意のない情報も多くありますが、それだけでなく、
悪意の投稿
誤認や勘違い
極端な思想
感情的な反応
意図的な認知操作
AIによる意図的な大量生成
などなど…

現在はこれらが区別できないまま混ざり合っています。
情報が圧力のように作用する。そんなイメージです。

何が正しいのか分からない状態は人を不安にさせます。
そして、不安は人の本能を刺激します。
私はここがとても厄介だと感じています。

本能を刺激された一部の人たちは、感情（不安・恐怖・怒り）を燃料にして、他者への非難や分断を煽ります。
特にSNSはそのアルゴリズムも相まって、怒りの感情を多く拡散します。
感情的な対立が増えれば情報と距離を置いている人たちも無関係ではなくなってしまいます。

もしかしたら今後、

言葉が通じるはずの人間を相手に、AIが返してくるおかしな回答がまともだと思えるくらい、おかしなやり取りをするようになるのかもしれません。

認知を狂わせている情報を正しい情報だと信じて事実が見えなくなるのかもしれない。

理解できない世界観、矛盾する情報、それらに気持ち悪さを感じることが増えるのかもしれない。

もしも、そんな社会になったとしたら…そんなことを考えてしまいました。

そろそろ個人的に情報と距離を置く以外の道も考えなくてはいけないのかもしれません。

この記事はAI批判ではなく、人の感情を揺さぶる情報を瞬時に大量生成できるAIとそれを受け取る人間の処理能力の差について書いたものです。

AIは認知技術。
それ自体に善も悪も無い、
問題は誰が、どんな目的で利用するのか。
誰が管理するのか。

私はそこが一番怖いと思っています。