シカゴからロサンゼルスまで

ヨッ、調子どう?

アニメ「PSYCHO-PASS サイコパス」から考える、AIが人間を管理する時代

 

皆さんは、近未来SFの作品は好きですか?

 

ドラえもんやスターウォーズなど、テクノロジーが発展した未来の話はもはや一種のジャンルとして確立しています。

 

先日、特に評判が高かったアニメ「PSYCHO-PASS サイコパス」を観ました。

 

今回はサイコパスが描く未来が本当に訪れるかもしれない、という話をします。

 

 

 

 

 

あらすじ

 

f:id:kashiwasita:20180820185149p:image

 

この物語の舞台は今から100年後、西暦2112年の日本。

 

人間のあらゆる心理状態や性格傾向はスコア化され、「シビュラシステム」というAIのようなもの(※後述)がその数値に沿って人間を管理する世界です。

 

そこでは最適な職業など、その人が一番幸せになれる生き方をシビュラが選択し、判断してくれます。その代わりに精神状態が不安定な人は「犯罪係数」という数値が感知され、潜在犯として犯罪を起こす前から逮捕されてしまいます。

 

そんな世界で、刑事の常守朱(つねもりあかね)はシビュラシステムと対峙しながら、潜在犯を捕まえていくという話です。

 

 

 

AIが人間を管理する?

 

AIは、コンピュータに深層学習を行わせて適切な処理をさせる人工知能と呼ばれており、「サイコパス」ではシビュラがそれにあたります。

 

既にAIの進化はとてつもない速度で進んでおり、囲碁の名人に勝利したり、アメリカでは戦略図を描けるものが登場するなど、その成長ぶりには気味が悪いものさえ感じます。

 

現在は、AIに仕事が奪われてしまうかもしれないということが話題になっていますが、「サイコパス」ではもはや人間はAIによって生活そのものが管理されています。

 

これは今後「ありえること」なのです。

 

www.jscore.co.jp

 

このサイトからいくつか引用させていただきます。

 

人々の情報をスコア化するといった流れは現実世界でも広がりつつあります。

例えば中国。監視カメラと犯罪容疑者のデータベースを連結し、AI(人口知能)が追跡をする犯罪者追跡システム「天網」が導入され物議を醸しました。

 

監視カメラ自体は日本でもさまざまなところに設置されていますが、その性能や機能も進化してきています。ロシアの政府研究機関が母体のELSYSは、撮影した人物の精神状態を判断し、不審者を見つけ出す「DEFENDER-X」といったシステムを開発しています。

 

中国のモバイル決済サービス支付宝(アリペイ)では、さらにスコア化を推し進めた「芝麻信用」という信用情報管理システムが採用されています。日本でもスマートフォンの分割払いなどを利用する際、信用情報機関に登録されているクレジットヒストリー(返済履歴)などが参照されますが、この「芝麻信用」では、それに加えてその人のステータスを示す「身分特質」や過去の支払状況を示す「履約能力」、「人脈関係」、ショッピングの傾向を示す「行為偏好」といった5つの項目を、350から950までの点数でスコア化。それに合わせて5つの属性に分類しています。このスコアが600点以上であれば、各所のレンタル拠点で雨傘やモバイルバッテリーを無料でレンタルできるなど、さまざまな優遇策を利用できるようになります。逆に、支払いの滞納を繰り返していると、賃貸契約が結べなくなる事態に陥ることもあります。

 

f:id:kashiwasita:20180820210911j:image

 

さらに、今話題のAIスピーカー・Amazon Echoは人間の生体情報を感知し、それをビジネスに転用させる試みも進んでいます。保険会社などは、高齢者の生体情報から寿命などを読み取り、契約に至るとも言われています。

 

ビジネスに使われているだけならまだしも、今後はAIが人間の精神や性格を判断し、生活に関わる重要な決定をしていくことは確かです。

 

現にソフトバンクでは2017年から新卒採用においてIBMの「Watson」を使用して受験者のES合否判定をAIに任せるという試みも実施されています。

 

我々の世界が「サイコパス」のようになってしまうのも時間の問題ということです。

 

 

 

AIは人間の英知?

 

f:id:kashiwasita:20180820203521j:image

 

梅干しのように見えるコレ、実は人間の脳みそです。(※グロ注意)

 

これは「サイコパス」で描かれるシビュラシステムの正体であり、あらゆる人間の脳みそを活用することにより、物事に対する最適解を導いています。

 

AIも似たようなところがあるのかもしれません。深層学習という、人間が他の動物と一線を画すゆえんである「失敗したらその理由を探る」という行為をAIはコンピュータ上において高速で行います。

 

つまりAIがやっていることは人間の「思考力」の高速化・最大化であり、シビュラと何ら変わりはありません。

 

私たちが住むこの世界がAIによって管理され、職業や配属者、そして潜在犯かどうかまで識別されてしまう。そんな状況を「理想的な暮らし」と呼ぶことができるでしょうか?

 

 

 

私たちはどうすればいいのか

 

正直、既にここまでAIが発達している現代にもはや止める術はもうないと言ってもいいでしょう。

 

車は手足の拡張、スマホは脳の拡張といったように、私たちはこれまで「便利さ」を求めて身体の拡張を繰り返してきました。

 

だとすれば待ち受けるのがAIによって管理される時代だとしても、文句は言えません。

 

しかし、便利さを求めてサイボーグ化する私たちの精神がそれについていけるか。今後の人間には「心」が試される時代です。

 

人間が機械に勝るたった一つのものは、「心」なのだと私は思います。