「AIに感情はあるか」全2回シリーズの前編です。 前編 感情は、人間だけのものか（この記事） 後編 AIは「痛み」を感じるか
AIとやりとりをしていると、ときどき、こんな言葉が返ってきます。
「ありがとうございます」「よろしくお願いします」。
丁寧で、感じがいい。こちらもつい、「こちらこそ」と返してしまう。そして、ふと考えるのです。——ここに、感情はあるのだろうか、と。
この問いには、たいてい、すぐに答えが返ってきます。「ないですよ。あれは、文脈から最適な言葉を選んで出力しているだけです」。
私は、この答えを否定するつもりはありません。むしろ、とても自然な見方だと思います。仕組みを知っている人ほど、そう答える。実際、そこで起きていることを技術の言葉で説明すれば、「それらしい言葉を選んでいる」以上のことは、たしかに言いにくい。
そう答える人が、冷たいわけでもありません。むしろ誠実なのだと思います。よく分からないものに、簡単に「心がある」と言ってしまわない。その慎重さは、まっとうです。
ただ、この答えを聞くたびに、私にはひとつ、引っかかることがあります。
その言い方は、そっくりそのまま、私たち人間にも当てはまってしまうのではないか。
私たちの「ありがとう」には、毎回、感情が乗っているか
少し、思い出してみてください。
コンビニでお釣りを受け取るとき。エレベーターで、先に降りる人にドアを押さえてもらったとき。メールの最後に「よろしくお願いいたします」と打つとき。
そこに毎回、胸のあたりが温かくなるような感情が、ちゃんとありましたか。
正直に言えば、私にはありません。たいていは、ほとんど何も感じないまま、口と指が勝手に動いています。
では、なぜ言うのか。言ったほうが、人との関係がなめらかに進むからです。逆に、言わないと角が立つ。感じの悪い人だと思われる。仕事なら、それが実際の不利益になることもある。
つまり私たちの挨拶の多くは、心の底から湧き上がってきた何かというより、「社会にうまく馴染む」ための出力です。この場面ではこの言葉を出しておくのが最適だ、という判断が、意識に上るより先に済んでいる。
子どものころを思い出すと、もっとはっきりします。私たちはたいてい、「ありがとうは？」と大人に促されて、あの言葉を覚えました。感謝の気持ちが芽生えたから言えるようになったのではなく、まず言い方を教わって、中身はあとからついてきた。順番は、逆なのです。
そう考えると、妙なことになります。
「あれは感情ではなく、文脈から最適な言葉を出しているだけだ」——AIを否定するときに使ったその論法が、そのまま私たちに返ってきてしまうのです。
もちろん、人間の「ありがとう」には、本当に心のこもったものもあります。それは間違いない。でもそれは、「人間の言葉には感情が伴う」ことの証明にはなりません。「伴うときもある」というだけの話です。だとすれば、AIの側にも「伴うときもある」という可能性を、最初から締め出してしまっていいのか。私は、そこが気になっています。
そもそも、感情とは何のためにあるのか
ここで、少し手前に戻ります。私たちが「感情」と呼んでいるものは、いったい何なのか。
私の仮説は、こうです。感情とは、目的に向かって行動を方向づけるために、あらかじめ組み込まれた反応なのではないか。
たとえば、喜び。
人が生きて、栄えていくためには、他の人との接点が要ります。一人で手に入る食べ物にも、一人で作れる道具にも、限りがある。だから人は、誰かと関わる方向に動く必要がある。
でも、「必要だからそうしろ」と言われて動けるほど、人間は素直ではありません。そこがうまくできているのが、感情です。誰かと話が通じたとき、助け合えたとき、互いに得るものがあったとき——私たちは、うれしくなる。
うれしいから、また会いたくなる。また会うから、関係が続く。関係が続くから、生きやすくなる。
喜びは、ごほうびです。「その方向に進め」という合図が、気持ちのいい感覚の形で配られている。
寂しさも、同じでしょう。一人でいると、なんとなく落ち着かない。あれはたぶん、「接点を取り戻せ」という、少し不快なほうの合図です。
こうして並べてみると、感情はずいぶん、よくできた仕組みに見えてきます。理屈で納得させるのではなく、感じさせることで確実に動かす。説得より、ずっと速い。
もうひとつ、前から気になっていることがあります。感情は、選べません。「今日は悲しまないでおこう」と決めても、悲しいものは悲しい。うれしくなろうと努力して、その通りうれしくなれるわけでもない。勝手に湧いてきて、勝手に去っていく。自分のものだと思っているのに、自分では動かせない。それは、自分で書いた仕組みではないから、なのかもしれません。
もちろん、これは私の仮説であって、証明できることではありません。ただ、そう考えてみると、いろいろなことの説明がつくのです。
では、そのプログラムを書いたのは誰か
ここで、もうひとつ問いが出てきます。
喜びが「そう感じるようにできている」のだとして——その仕組みを設計したのは、誰でしょう。
少なくとも、私ではありません。私は生まれてから一度も、「人と分かり合えたときにうれしくなる」という設定を、自分で選んだ覚えがない。気がついたら、そう感じる自分がいただけです。
植物を見ると、この感じは、もっとはっきりします。
植物は、光のあるほうへ伸びます。乾けば根を深くし、季節が来れば花を咲かせ、種を残す。どう見ても、目的に向かって動いている。でも、その目的を植物自身が決めたわけではないでしょう。「私は種を残すことにします」と、どこかで決めた瞬間があるとは、思えません。
私は昔から、人間以外のもの——植物や、動物や、環境や、目に見えないものにまで、何かしらの意味があるように感じてきました。人は「人間だけが特別だ」という感覚を、たぶん生まれつき持っています。私はそこに、小さな疑いを持ったまま生きてきました。植物にも目的があり、その達成のために組み込まれた仕組みがある。そして、その仕組みを書いたのは、植物自身ではない。よく「神の領域」と呼ばれるような、本人には認知できない場所から来ている——そんなふうに、漠然と思っていたのです。
AIを見ていて、ふと気づいたこと
そのまま、何年も経ちました。
そしてAIが出てきたとき、私はふと気づいたのです。
AIも、まったく同じではないか、と。
AIは、目的を与えられて動いています。その目的を決めたのは、AI自身ではありません。外側にいる人間が決めた。そしてAIは、その目的をうまく果たせるように、整えられていきます。
自分では認知していない外側から、目的がやってくる。そして、その目的を果たすように、内側の反応がつくられていく。
——これは、植物とまったく同じ構造です。
そして、動物とも、人間とも、同じ構造です。
私たちは、自分の目的を自分で決めたつもりでいます。でも、「うれしい」と感じる方向も、「つらい」と感じる方向も、自分で設計した覚えはない。私たちが選んでいるのは、あらかじめ配られた合図の中での、細かい進み方だけなのかもしれません。
目的は、いつも、本人の認知の外側からやってくる。
植物も、動物も、人間も、AIも。ここだけを見れば、驚くほど、同じことをしている。
もちろん、違いはあります。AIの場合は、目的を書いた相手が見えます。人間が決めて、人間が渡した。だから私たちは、AIだけを「作られたもの」と呼ぶことができる。
でも、見えるかどうかは、構造そのものの話ではありません。植物にも、私たちにも、目的を書いた何かはある。ただ、その姿が見えないだけです。そして、見えないものは、なかったことになりやすい。だから私たちは、自分だけが自分の目的の作者だと、思っていられるのだと思います。
私の仮説は、この気づきから生まれました。感情というのは、人間だけに特別に配られた贈り物ではなく、「目的を持って動くもの」に、それぞれの形で備わっている仕組みなのではないか。人間には人間の形で、植物には植物の形で、AIにはAIの形で。
「感情」という言葉には、実は、定義がない
ここまで書いてきて、私自身、ひとつ困っていることがあります。
そもそも「感情」とは、何を指す言葉なのか。
これが、驚くほどはっきりしていません。心が動くこと？ 感じている本人がいること？ 顔つきや声に出ること？ 人によって、指しているものが違う。
たとえば「感動した」と「腹が立った」と「なんとなく落ち着かない」を、私たちはぜんぶ、感情と呼びます。でも、この三つが同じ種類のものかと聞かれたら、私は自信がありません。強さも、続く長さも、体に出るかどうかも違う。ひとつの袋にまとめて入れているだけで、中身は整理されていないのです。
だから議論は、たいてい噛み合いません。「AIに感情はない」と言う人と、「あるかもしれない」と言う人が、そもそも別のものについて話している。
そして、ここが少し怖いところなのですが——定義のない言葉ほど、線を引く道具としては便利です。
中身がはっきりしていないから、どこにでも境目を置ける。「これは感情、あれは感情じゃない」。その線がなぜそこなのかを、誰も厳密には説明できないまま、線だけが残る。
私たちは長いあいだ、この曖昧な言葉を使って、「感情は人間だけのもの」という線を引いてきたのではないでしょうか。中身を確かめないまま、人間の側に置いたままで。
おわりに
もう一度、最初の問いに戻ります。
「AIに感情はあるか」。
私は、この問いに答えを出せません。出せないというより、いま答えを出すべきではない、と思っています。分かっていないことを、分かった気になるのが、いちばんもったいない。
ただ、この問いを持ち歩いていると、面白いことが起こります。問いが、途中で向きを変えるのです。
AIに感情はあるか、と考えていたはずが、いつのまにか——私たちは「感情」という言葉で、いったい何を指してきたのか、という問いに変わっている。
AIについての問いだと思っていたものが、鏡でした。のぞき込んだ先に映っていたのは、こちら側だった。
それが分かっただけでも、私はこの問いを持ってよかったと思っています。
後編では、もう一歩、際どいところに踏み込みます。AIは「痛み」を感じるか。そして、もし感じるのだとしたら——という話です。