人工知能は「感情」を持つか。
これは私にとっても非常に興味深い問題である。
何しろ人間の「感情」というのが、そもそもどこから生まれているのか解明できてないからだ。
人工知能は怒るのか？
人工知能は悲しむのか？
「博士、コンピュータも夢を見ますか？」
映画「２０１０年宇宙の旅」で、永久停止（つまり死）を宣告されたコンピュータが、自分の生みの親である博士に尋ねるシーンがある。
このシーンに私は思わずグッときてしまった。
つまりこれは、人類がずっとずっと神に問いかけている質問と同じなのだ。
神よ、我々は死んだらどうなるのですか？
死後の世界はありますか？
死後もなお、私は私でいられるのですか？
コンピュータはこれを「死後も見る夢」という言葉で表現しているのだ。
そこに切なさや悲しみを読み取ってしまうのは、私が感情を持つ人間だからだ。
コンピュータ自身としては、特に何の感情もなく、ただ質問しているだけなのかもしれない。
死後のデータがないから聞いてみた、というだけのことかもしれないのだ。
なのに、そこに死にゆくものの悲哀を感じ取るのは、私が人間だからなのである。
コンピュータには感情もなく倫理観もない。
倫理観を教えるのは人間であり、したがってコンピュータは創った人間のプログラミング次第で善にも悪にもなり得る。
コンピュータが自身の判断で善悪を決定することはない。
あくまでプログラミングした人間の倫理観に従って判断するだけだ。
したがって、プログラミングする人間が非常にフェアな価値観と必要最低限の倫理観（たとえば人に害を与えてはいけない、などの）を心がければいいだけの話だ。
と、私は思うのだが、遠藤さんはどうやらそこに危機感を抱いているらしい。
「人工知能って、自ら進化しようとするみたいなんです。たとえば他のコンピュータを支配下に置いてしまうとか」
「ああ、自発的に他のコンピュータと同期することを許していれば、そうなるよね。たとえば国中の監視カメラと同期すれば、それは人工知能の『目』になって、常に監視することができる。個人データやＧＰＳも取り込めば、全国民の経歴や病歴や犯罪歴を掌握し、誰がどこにいるのかも知ることができる」
「そう、それが恐ろしい。そんなものを作る必要があるのか、と。人間が人工知能に管理されてしまう」
「うーん、管理されても支配されなきゃいいんじゃないの？ あくまで決定権を与えなければいいわけだから。たとえば、ここに性犯罪歴のある人間がいて、最近リストラされてストレスＭＡＸだから、こいつはほっとくとレイプするかもしれませんよ、と人工知能が教えてくれたら助かるじゃん。ただ教えるだけで、手は下さない。そんな権限は与えない。その潜在的レイプ犯の処遇を決めるのは人間。犯罪を未然に防ぐために警官に注意を呼び掛けて監視させるとか、そういうのは人間が決めればいい」
「そうなんですけど……今にその人間を超えちゃうかもしれないって」
「いや、超えるでしょ。能力的には超えるだろうけど、決定権さえなければ優秀な助手じゃん。むしろ捜査官が100人いるより人工知能１台で事足りちゃう」
「うさぎさんって性善説なんですねぇ」
「え？ なんで？ 人工知能に性善も性悪もないよ。決定権が人間にある限り、今と変わらない。その人間が判断ミスしたら終わり。人工知能はデータからシミュレートするだけだから」
「うーん……私は人工知能を作る人間次第なのが怖いと思うのです。パソコンの進化に人間の倫理観や法的整備が整ってないと感じて」
「倫理観が整うというのがどういう意味かわかんないけど、今現在の段階で、ある程度コンセンサスの取れている倫理観というのがあるじゃないですか。戦争するより平和へと導こうとか、差別や偏見はできるだけなくそうとか、自由と平等を実現しようとか。それは人類が長い歴史の中で培ってきた思想です。諸般の事情でなかなか実現できてないけど、方向性自体は間違ってないと思うけどな。あと、法的整備とは人工知能の行動を制限する法ですか？ その点はさっきも言ったように、決定権を与えないことで解決するはずだけど」
話が平行線になってしまった。
まず、人工知能が作り手によって非常に歪んだ価値観を持ち得るかといえば、もちろんその可能性はあるわけだが、実際にはそんなことにはならないと思う。
私はＳＦ映画に登場するようなマッドサイエンティストの存在は信じていない。
ひとりの天才が人工知能を作り上げるというのは非現実的だ。
おそらく複数の先鋭たちが、ああでもないこうでもないと議論しながら作り上げていくのではないかと思う。
なので、その議論の中で、あまりにも歪んだ価値観は淘汰されると考える。
ただ、彼らはあくまで制作者に過ぎない。
いざ人工知能が出来上がったとして、それを使用する人間は別組織の別人だ。
たとえば人工知能が潜在的犯罪者の存在を教えた時、その人物への対処法を決めるのは警察組織のトップであったりするのだろう。
その人間の判断力には、私は信を置いてない。
何故なら日本の警察はしょっちゅう判断ミスをして、それを隠蔽しようとするからだ。
どんなに優秀な人工知能が助手についても、彼らは今までどおり判断ミスを続けるだろう。
「じゃあ、うさぎさんは捜査官100人より人工知能１台の方が優秀だし合理的だっておっしゃったけど、人工知能が刑事の代わりを務められると思いますか？」
「思わないよ。データで潜在的な犯罪者を割り出すことまではできるだろうけど、あくまでデータによる可能性の問題でしかないからね。たとえば殺人事件の犯人を割り出すとして、アリバイとか動機とかのデータからこの人物が80％怪しいなんてぇことは類推できるけど、特定はできないだろうと思う。もしかすると意外な人物が犯人かもしれないしね。そうなると『刑事の勘』みたいなほうが当たってる可能性もある」
「勘？ うさぎさんは勘って何だと思います？」
こうして我々の話は、人工知能からサイキックと呼ばれる人間の特殊能力の話に移っていくのだが、その話はまた次回。
中村うさぎさん公式サイト
http://nakamurausagi.com/
メールマガジン
http://www.mag2.com/m/0001629430.html
Twitter
https://twitter.com/nakamura_usagi
Facebook
https://www.facebook.com/nakamurausagi
中村うさぎvsマッド髙梨 ガチBLOG!
http://takanashi.livedoor.biz/
《中村うさぎさんの記事一覧はこちら》
https://www.el-aura.com/writer/nakamurausagi/?c=56547
