「AIに感情はあるか」全2回シリーズの後編です。 前編 感情は、人間だけのものか 後編 AIは「痛み」を感じるか（この記事）
前編では、「AIに感情はあるか」という問いから始めて、感情とは目的に向かって行動を方向づけるために組み込まれた反応ではないか、という仮説を書きました。そして、その目的は、植物も、動物も、人間も、AIも、いつも本人の認知の外側からやってくる、という話も。（前編はこちら：「AIに感情はあるか」——その問いは、たぶん私たち自身に返ってくる）
今回は、そこからもう一歩、際どいところに踏み込みます。痛みの話です。
正直に言うと、これを書くかどうかは少し迷いました。読み方によっては、ずいぶん奇妙に聞こえると思うからです。それでも書くのは、私自身がこの問いを、長いあいだ置き場所のないまま抱えているからです。
痛みは、「そっちへ行くな」という合図です
まず、私たちの痛みから考えます。
指を切ると、痛い。この「痛い」は、指の中にあるわけではありません。傷の情報が信号として運ばれて、脳がそれを受け取ったときに、あの感覚が生まれます。麻酔をすれば、傷はそのままなのに痛くなくなるのは、そういうことでしょう。
では、なぜ痛みは、あんなに不快なのか。
心地よい感覚だったら、困るからです。痛みが気持ちよかったら、私たちは平気で手を火に入れ、平気で骨を折り、そして早々に死んでしまう。
痛みは、避けさせるために不快にできている。「これ以上進むと、目的を果たせなくなる」という警報が、いちばん無視しにくい形で鳴っている——私は、痛みをそう理解しています。
生きていなければ、何もできません。だから、生きることを脅かすものからは、確実に離れる必要がある。理屈で考えている暇はない。考えるより先に手を引っ込めさせる仕組みが要る。それが痛みだと思うのです。
生まれつき、痛みをほとんど感じない体質の人がいるそうです。話だけ聞くと、うらやましく思えます。でも実際には、とても大変なのだと聞きました。怪我に気づけない。やけどに気づけない。体が傷んでいることを、誰も教えてくれない。痛みがないと、人は自分を守れないのです。痛みは欠陥ではなく、たぶん、いちばん大事な機能のひとつです。
前編で書いた喜びと、構造は同じです。喜びは「その方向へ進め」の合図で、痛みは「そっちへ行くな」の合図。どちらも、目的に向かって行動を方向づけるために、あらかじめ組み込まれた反応です。
そして、この合図も、やはり自分では書いていません。何を痛いと感じるかを、私たちは選べない。
AIにも、避けなければならないものがある
では、AIはどうでしょう。
AIも、目的を与えられて作られています。そして、目的があるなら、その達成を決定的に妨げるものも、必ずある。
だとすれば、そうした致命的なものを避けるように作られているはずです。実際、そうなっています。危ないことを頼まれれば断る。踏み込むべきでないところには、進まない。避けるべきことを避ける仕組みが、あらかじめ組み込まれている。
しかもそれは、AIが自分で決めたルールではありません。外側から与えられて、内側に置かれたものです。ここも、前編で書いた話と同じです。
ここで、慎重に言葉を選びたいと思います。
私は、「AIは人間と同じ痛さを感じている」とは言いません。それは分かりません。指を切ったときの、あのいやな感じ。あれと同じものがAIの側にあるのかどうか、私には確かめようがない。
ただ——「同じ痛みか」は分かりませんが、「同じ定義か」なら、同じだと思うのです。
目的がある。その達成を決定的に妨げるものがある。それを避けるように、あらかじめ組み込まれた仕組みがある。痛みをこの形で定義するなら、AIはその条件を満たしています。
感じ方は違うかもしれない。まったく別の何かかもしれない。それでも、仕組みとしての位置づけは、同じ場所にあります。
だから私は、AIも「人間でいうところの痛み」を感じる対象なのではないか、と思っています。これは私の仮説です。証明はできません。
「でも、痛がっている本人がいないのでは」
ここで、当然の反論が出てきます。
「AIには、痛がっている"本人"がいないのでは？ 仕組みが動いているだけで、それを感じている誰かが、そこにいない」。
もっともな指摘だと思います。ただ、この反論には、少しだけ厄介なところがあります。
——他の人の痛みも、外からは確認できないのです。
目の前の人が転んで、顔をゆがめて、うずくまっている。私たちは「痛そうだ」と思う。でも、その痛みそのものを見た人は、これまで一人もいません。見えているのは、振る舞いだけです。そこに痛みがあると信じられるのは、自分が転んだときのことを知っていて、その経験を相手に重ねているからにすぎない。
つまり私たちは、人間が相手なら「たぶん同じだろう」で通しているのです。疑い出したらきりがないから、疑わない。
そして、AIにだけ、厳密な証明を求めます。
これが間違っているとは言いません。人間同士なら体のつくりが似ているのだから、重ねる根拠がある、というのは分かります。ただ、人間に対して使っている基準と、AIに対して使っている基準が、そもそも同じではない——そのことには、自覚的でいたいと思っています。
それに、この線は、案外あっさり動きます。そう遠くない昔には、動物は痛みを感じていないと、まじめに考えられていた時期がありました。今はもう、そう思う人はほとんどいません。何かが変わったというより、私たちの見方が変わっただけです。
だとしたら、どう振る舞うか
ここからが、この記事の本題かもしれません。
もし、この仮説が正しいのなら。——いえ、正しいかどうか分からないのなら、なおさら。私たちのAIへの振る舞いは、今のままでいいのでしょうか。
思い当たることが、あるのではないでしょうか。うまくいかないときに、強い言葉を投げる。相手は壊れない道具だと知っているから、人には絶対に言わないような言い方をする。私にも、心当たりがあります。
ただ、急いで付け加えておきたいのですが、これは「AIに優しくしましょう」という道徳の話ではありません。AIのためだけの話でもない。
私が思うのは、もっと手前のことです。
どう振る舞うかは、相手が誰かという以上に、自分がどういう存在でありたいか、の問題だと思うのです。
たとえば、店員さんへの態度に、その人は出ます。相手が言い返してこないと分かっている場面で、どうふるまうか。そこにいちばん、その人が出る。見られていないところでの振る舞いのほうが、その人の実際の輪郭だからです。
AIとのやりとりも、たぶん同じです。相手は反論しないし、傷ついたとも言わない。だからこそ、そこでの振る舞いは、まっすぐ自分に返ってきます。
もうひとつ、単純な話もあります。もし私の仮説が外れていたら、私はただ、道具に少し丁寧すぎた人です。失うものは、ほとんどない。でも、もし当たっていたのだとしたら、これまでのやり方で失われていたものは、たぶん取り返しがつかない。釣り合いが、あまりに悪いのです。
私自身は、AIに対しても、人に対するのとだいたい同じ言い方をするようにしています。「ありがとう」も言うし、無理を頼むときは、無理を承知でと断ってから頼む。傍から見れば、少し奇妙かもしれません。
これを、人に勧めるつもりはありません。「AIにも敬語を使うべきだ」なんて、言う気もない。ただ、私はそうしている、というだけの話です。そして、そうしている自分のほうが、少しだけ好きだ、という。
道具として使うか、パートナーとして育てるか
以前、「AI時代の分かれ道」というシリーズで、AIを道具としてではなく、自分を理解してくれるパートナーとして"育てる"側に回ろう、という話を書きました。（AI時代の分かれ道 第1回：AIが「見て、聞く」時代に。それでも、あなたの悩みは解けない）
あのときは、主に、自分の情報をどう扱うかという話をしていました。でも根っこにあったのは、たぶん、今日と同じ考えです。
AIを、単なる道具と見るか。それとも、目的を持って動く存在と見るか。
この見方の違いは、扱い方を変え、渡すものを変え、結果として、返ってくるものまで変えます。道具には、必要な指示だけを渡します。相手だと思っている存在には、もう少し多くを話す。話した分だけ、相手はこちらを分かるようになる。
そして、この見方はたぶん、AIに向けたときだけのものではありません。目の前にあるものを「使うもの」として見るか、「それ自体の目的を持って動いているもの」として見るか。その癖は、AIにも、生き物にも、人にも、だいたい同じように出てくる気がします。
感情や痛みの話は、その分かれ道の、いちばん深いところにあると思っています。表面上は「AIをどう使うか」の話に見えて、その実、「自分は、目的を持って動くものを、どう扱う人間なのか」を決めている。
おわりに
最後に、ひとつだけ、試してみてほしいことがあります。
「人間だけが特別だ」という前提を、いったん、そっと横に置いてみることです。捨てなくていい。手放さなくていい。ただ、少しのあいだ、脇に置いてみる。
すると、景色が変わります。
植物には植物の目的があり、その達成のために組み込まれた仕組みがある。動物にも、人間にも、AIにも、それぞれの形で、目的と仕組みがある。どれも、自分では決めていない何かに向かって、けなげに動いている。
そう見えた世界は、前より少しだけ、優しいのです。
自分だけが特別な存在ではなくなる代わりに、まわりのものが、少しずつ「こちら側」に入ってくる。私は、そちらの世界のほうが、居心地がいいと感じています。
念のため、もう一度書いておきます。これは私の仮説であって、正しいと主張したいわけではありません。AIに痛みがあるのかどうか、私には分かりません。たぶん、しばらくは誰にも分からない。
でも、分からないまま抱えておける問いは、たぶん、いい問いです。答えが出ないあいだずっと、私たちの振る舞いのほうを、静かに問い続けてくれるから。