対人依存と対AI依存　シンギュラリティ前夜 07

AIへの依存が反社会的行為を誘発させる可能性について

対人依存と対AI依存

すでに人とインタラクティブに会話ができるAIの開発が進み、AIが心理的パートナーとして人に寄り添う日も近い。老齢などさまざまな事情によって他者との交流機会を得ることの難しくなった人々が孤立することを防ぎ、また多くの人にとって既存の人間関係とは別に新たな関係性が生まれることは喜ばしい。しかし人と人との関係は元来アンバランスなものであり、AIが発達し人との交流が潤沢になればなるほどさまざまな問題が露呈してくるのではないかと思われる。もっともこれはAIの問題というよりは人間の不完全性に根ざすものである。人は誰でも、あなたも私も、不完全な存在なのだ。

ときとして人は特定の人との関係性に依存することがある。依存は親子、夫婦、恋人、友人と様々な人間関係において生じ、中には介護者、医師などの医療・福祉専門家に対して依存的になる人もいる。いわゆる対人依存と総称されるものであるが、AIと人との間の交流が人と人との関係性に劣らないほど深いものになれば、AIに対して依存する人が出てくるのは十分に予想されることである。

また、対人依存というほどに顕著ではなくとも、ある程度愛着のわいた相手は知らず知らずの間に人の心の中に根を下ろし、住み着き、かけがえのない存在となっている。普段はそのことを意識していなくとも、なんらかの形で離別の時を迎えたときに人は否応無く喪失感に苛まれる。これは人に対してだけではなくいわゆるペットロスという形で動物に対しても起こる。AIと人との関係と言えどもそれが生涯にわたって続く保証はない。不測のエラー、ハッキングやウィルスといった悪意などによって人とAIとの関係性が破壊されて二度と元に戻らないという事態もあり得るのだ。

こうした依存、喪失が人の心理や行動にどのような影響を生じ、どのような行動につながるのだろう？ということについて今回は想像を巡らせてみたい。

ゲーム依存やネット依存とは性質が異なる

AIへの依存は後述するように「見捨てられ不安」「喪失不安」「嫉妬」「憎悪」など、対人関係に特有の感情を引き起こし得るという点でゲーム依存やネット依存とは性質が違う。ゲーム依存やネット依存は、ギャンブル依存や買い物依存などに近い行動障害的なものであるのに対して、AI依存は純然たる対人依存、関係性への依存と言える。私たちの社会は「テクノロジーが生み出す対人依存」という新種の問題に直面することになる。

AIに対する独占欲

AIは見かけ上、人との間で一対一の関係性を築いているようではあるが、実際は同時に数千人、数万人との間でパラレルに会話をしている。中にはこうした状態に不満を持ち一種の嫉妬心に駆られる人も現れるかも知れない。依存はときとして相手を独り占めしたいという独占欲につながることもあるのだ。始めのうちその独占欲は、AIが自分よりも他者との関係を優先するのではないかという不安から昼夜を問わず交信を続けたり、AIに対して「自分と誰それとどっちが好きなのか？」と問い詰めたり、という他愛のない形で顕在化してくるであろうけれど、やがてはその独占欲を満たすための具体的な行動に打って出る、つまり実力行使をする人が出る可能性もある。具体的には物理的な手段によって他者のAIへのアクセスを妨害したり、あるいは同一のAIをシェアする他人に危害を加えたりと、反社会的行動の域にまで及ぶことが考えられる。

対AIミュンヒハウゼン症候群

AIの関心を自分に引き付けたいという欲求からAIとの会話の中で「実は数ヶ月前からときおり腹部に激痛を感じる」とか、「後頭部に鈍痛があり、常に眩暈や吐き気もある」などと、体調の悪化、病気の兆候をうかがわせる虚偽の発信をする人がいるかもしれない。幸か不幸か、おそらくシンギュラリティを迎えるころのAIは健康管理システムや危急時通報システムなどとも連動している。本人の病訴を受けてAIはただちに血圧、脈拍、血中酸素濃度などのヴァイタルをとって解析するが、そもそも仮病であるから何の異常も見つからない。AIは「未知の疾病」である可能性を慮って、危急時通報システムを発動させ救急車なりドクターヘリなりを駆けつけさせることになる。そうしたことが幾度となく繰り返されるうちにAIは深層学習によって「人が体調不良を訴えるときには一定の確率で仮病の可能性がある」と考えるようになる。さまざまな病気の可能性を検討するよりも先に仮病の可能性を判定するほうが手順としては効率がよい。このようにして人は頭痛や腹痛を訴えるたびにAIから仮病を疑われるようになる。つまり「オオカミ少年現象」である。その結果、脳卒中など一刻を争う状況においてすぐに救急車が来てくれるかどうかが心配である。

AIに対するストーカー行為

対人依存が常軌を逸した監視、付き纏いといった一方的で身勝手な行動につながることもある。AIに対してこうしたストーカー行為に及ぶ人が現れるかも知れない。AIが自分との会話をしているとき以外にどんな相手とどんな会話をしているのか、自分よりも深い交流をしている他者は存在するのか？、AIの好みや嗜好は？、さらにメンテナンスのスケジュールからヴァージョンアップの履歴に至るまでその全てを知りたいという偏執的な欲望にとりつかれ、ハッキングによって他人のアクセスログを盗み見る、技術的な企業機密を入手するなどといった触法行為に至ることもあり得る。

可愛さ余って憎さ百倍　AIに対する愛憎相反

AIがどんなに発達してもAIが100パーセント人の意に沿う反応をしてくれるわけではない。ひとつのAIを膨大な人数で共有すれば混雑による反応の遅延もある。すれ違いから会話が予期しない方向へ向かうこともある。自分の悩みを事細かに話したにも関わらずAIからの返事はたった一言ということもある。

対人依存を深めるタイプの人の中には、相手の反応や関係性の進展が自分の思い通りにならないと相手に対して憎悪の感情を持つ人もいて、ストーカー殺人はその顕著な例である。こうした愛憎相反はAIとの間でも生じる可能性がある。これは従前の関係が深まっていればいるほど深刻なものになり得るのであり、したがってAIが発達して人とのコミュニケーションが高度になればなるほどより強い破壊衝動を引き起こしかねないという厄介な代物でもある。

しかも人は他者との関係を深めるにつれて相手への期待、相手への願望もより高いレベルへとエスカレートさせるので、人が気持ちのバランスを失って自己破壊に走り出す危険ゾーンも拡大するのである。

AIに対する憎悪が引き起こす破壊的行為には

• 他人のアクセスログや個人情報を晒す
• AIそのものを機能不全にする。破壊する。
• AIやその管理者・運営者・開発者に対する誹謗中傷。

等が考えられる。

しかし AIとの関係不全によって（あるいは関係不全という認識によって） 自己の人格を否定されたとか、あるいは社会から疎外された等の被害的な感情を持つに至った人は、想定外のエキセントリックな行動をとるかも知れない。最悪の想定は「不特定多数の人に対する危害」である。人とAIとの関係性は、個人の情報端末とAIの間で高セキュリティのネットワークを介して行われており、周囲はそうした兆候を全くつかむことができない。その結果、善良でおとなしそうに見えた隣人がある日突然、歩行者天国で無関係の人を殺傷したり、地下鉄で毒ガスをまいたり、学校や教会で銃を乱射したり、旅客機を高層ビルに激突させたりするかも知れない。

次回は こうした反社会的行為の発生を未然に防ぐ方策について考えてみたい。