Artificial Ethics

人工的倫理学
ジュリア・ドライバー

深い哲学的な付帯的意味を持たせた映画としての『マトリックス』の重要性は、よく認識されている。この映画が、哲学のクラスで論議される時はいつでも、デカルトの「省察」、特に、懐疑的疑念を生み出すよう意図された夢についての議論と悪魔の筋書きとに比較される。例えば我々は、今、ただ眠っているに過ぎないのではなくて、覚醒しているということをどうやって知るのだろうか？　我々は、自分たちの考えが誰かに操作されたものなのか、我々の“現実”に対する認識は正確なのかということをどうやって知るのだろうか？　『マトリックス』は、そのような疑念を鮮やかに際立たせているのである。

しかしながら『マトリックス』は、他の多くの興味深い哲学的問題、さらなる議論に値する問題を提起する。この小論は、『マトリックス』の中で提起された倫理的な問題のいくつかについて探究するものである。最初に論じるのは、『マトリックス』の世界に影響を与えている“人工”知能、想像された存在の道徳状態の問題である。次に論じるのは、真実ではない経験をする、つまり、経験が現実を反映しないような状況で、誤った事ができるかどうかという問題である。

I. プログラムの道徳状態

マトリックスにとっての現実というものがある。その現実の実体は、我々が“本物”と呼ぶ実体とは飛躍的に違うかもしれない。“本物”の世界は、モーフィアスがネオに見せた不毛な現実なのである。しかし、ネオと正しい知識を持った彼の友人たちは、ある種の夢のような経験をしながらもマトリックスの支配から逃れて、実際の知覚力を持つプログラムを相手にし、彼ら自身と同時に機械やプログラムに対して実際に影響を与える決断を下している。マトリックスに人を居住させる知覚力のあるプログラムの道徳状態はどのようであるのだろう？　さらに言えば、機械自身の道徳状態はどのようであるのだろうか？　『マトリックス』の世界には、プログラマーによって創られた、あるいは機械の世界自体によって創られた存在が生息している。ネオの追跡者であるスミスのようなエージェントたちは、最も主要な例である。これらの存在は、スイッチをコントロールするのが誰であろうとその役割について意見を持ったりせずに、また、エージェントたちが破壊されるのを見たいと思っている人間たちの役割について何の倫理的論議を持つこと無しに、誕生し、消滅する。我々のように“自然に”存在する創造物の生命ほど、彼らの存在は重要ではなく、彼らの生命は倫理的重要性を持っていないという暗黙の観方があるように思える。この考え方に対する最も分かりきった説明は、人間たちは長い間、自分たちのことを宇宙の中心として考えることに慣れているということである。地理的な観点はコペルニクスと共に変わったが、倫理的世界における我々の優勢な立場に対する観点は変わらなかった。しかし今一度、科学、特に現在では認知科学が、この確実性に異議を申し立てる可能性を持っている。さらに、これらの可能性について異なる方向を探究する『マトリックス』のようなSF映画も、この世界観に対し難問を提示する。『マトリックス』が提供するのは、強烈な思考実験である。それは、我々をして、自己像の変革に導くような“もしもこうだったら？”という種の疑問を持たせる思考実験だ。我々は、それによって、一般によく認められた我々の道義が、1つの可能世界の範囲内で、どこに我々を連れて行くのかということを、観るのを強いられるのである。

我々は人間を殺すのは悪い事だというのを知っている。人類は道徳的水準を持っているゆえ、それは悪い事なのである。人類が自覚と知覚の力でこの水準を持っているということは、広く信じられている。例えば、石は道徳的水準を全く持っていない。石を蹴飛ばしてもそれを傷つけることは無いし、道徳的権利の侵害にもならない。それは、無生物であり、考えることも感じることもできない意識の無い物体なのである。しかしながら、一般的に動物は、彼らの知覚力ゆえある道徳的水準を持っていると見なされている。やむにやまれぬ理由が無い限り、一般的に動物を蹴るのは不道徳なことだと見なされる。人類は、より高い理性的能力ゆえ、さらに高い水準を持つ。彼らは理性があるゆえ、より多様で複雑な被害や、恨みのようなより広い範囲の情緒反応を経験することができる。どうやって誰かが誕生したかということは、倫理的に重要なこととは見なされない。自然な受精によって誕生した人々もいれば、ラボでの受精の結果、誕生した人々もいる。このことは、我々が倫理的に重要だと考えている資質である自覚と理性の所持に関しては何の違いももたらさない。そして疑いなく、ある人を創る材料は、道徳状態の問題とは完全に無関係である。もし、ある人の自覚が、どういうわけか金属製、あるいはプラスティック製のロボットの体にと移されても、それは最終的には依然として1人の人間であるだろう。

そうであるならば、ある人が自然の力で創造されたものか、人工的なものであるのかは、その人の道徳的水準とは全く関係が無くなる。そして、もしそうであるならば、『マトリックス』の世界は正当に評価されていない道徳性の複雑さを提起する。スミスのようなエージェントたちは、不快な存在ではあるが、おそらく間違い無く道徳的水準や道徳的権利を持っているだろう。もちろんネオは、自己防衛する権利がある。何と言っても、スミスは邪心が無いわけではないのだから。実際、もし宗教的テーマを追求するならば、彼は暗黒界のエージェントなのである。しかし、マトリックスに居住させられるために生まれた、機械による罪の無い創造物も、道徳的権利を持つだろう。スイッチを入れて罪の無い人間を殺すのは、その人間がどのようにして誕生したのかに問わず、間違ったことであるのと全く同じように、スイッチを入れて知覚力のあるプログラムを殺すのも間違ったことである。もちろんそのプログラムが、私たちが倫理的に関連のある資質を有していると見なす限りのことであるが。そしてこれは、人工知能の可能性によって提起された主要な問題の1つが、当面の問題にとって重要になるところなのである。これらのプログラムは意識を有しているのだろうか？　我々は『マトリックス』の世界を考察しているがゆえ、どのような証拠が映画の中に存在しているかを見ていこう。我々は、機械自体についての情報はあまり持っていないが、それらのエージェントたちは、たっぷり登場する。¹

もちろん、スミスと彼の同僚たちは、並外れて感情が無いように見える。しかしながら山場になると、彼らは怒り、恐れ、驚きなどの感情を表す。彼らは計画を立てて、それを実行することができるように見える。スミスは、サディスティックな喜びが持てる能力も示している‐彼は、ネオの口を無理に閉じさせる際、ある時点で彼はこの能力を見せるのである。スミスはまた、映画の終わり近くになって、ネオが彼の体を通り抜けて跳ぶ時に、極度の恐怖を示す。エージェントたちは、私たちが意識と知覚力に結び付ける反応の、もし全てではないとしても、多くを見せているのである。しかしこのことは、『マトリックス』の中で提示されている別の懐疑的な難問を私たちに突きつけてくる。我々は、彼らが心を有していること、そして、彼らがたとえ非常に複雑な造りのものであったとしても単なるロボットに過ぎないものではないことをいかにして確信することができるのか？映画はこの熟考を引き起こすとしても、この難問がどこへ私たちを導けるのかを確かめるのは大切である。この「いかにして確信することができるのか」という疑問は、我々の同輩である人類に対するエージェントたちという問題を超えて拡大する。人の意識的経験は基本的には個人的なものであるから、我々は他人の経験を直接的に知ることはない。聖オーガスティンが示唆したように、我々は、類推することによって解決しようとするかもしれない。私は、自分自身の精神状態を直接的に経験する。私は、自分が自覚と意識のある存在であるということを知っている。私はまた、観察に基づいて、自分が他の人間たちに構造上類似しているということを知っている。従って私は、彼らも精神状態を経験しているに違いないと類推する。² そして実際『マトリックス』は、エージェントたちがある種の精神状態と呼応する挙動を示した際、そのような比較を引き起こすのである。³

それでは、我々が信じるよう勧められたものを信じるとしたら、知覚力のあるプログラム、サイバー上の人間は、我々が道徳的水準と結び付けるそれらの特質を有しているということになる。彼らは、意識と知覚と理性に基づいた道徳的権利を持つ。従って、彼らの道徳的水準は、人間の道徳的水準と同じなのである。

人間がある付加的な価値、一種の好古趣味的価値を持っている可能性はある。我々は、いわば“原版”なのである。例えば、原版のモナリザは複製を超える価値がある。しかしこの種の価値は、倫理的価値ではなく、その物体の道徳的水準や、それらの生命自体の倫理的重要性を反映しない。モナリザには確かに価値があるが、単なる絵画であるゆえ、道徳的水準は持っていない。それは意識を欠いているのである。それは損傷を受けるかもしれないが、人間や知覚を有する生き物が傷つき得るように傷つくことはない。

おそらく、機械は人間をこのように見ているのだろう。機械にとって、人間たちの価値は主に有益であるという点である。人間たちはエネルギー源として評価されているが、彼らは、いくらかの好古趣味的な価値も持っているかもしれない。人間は、彼ら自身が破壊するのを手伝った過去の遺物に過ぎない。もしそうであるなら、機械が形勢を逆転させたのである。彼らは、マトリックスという状況において、他の理性的な生命体を単なる道具として見なし、好きなように使って好きなように破壊するという、人間が犯したのと同じ間違いを犯している。実際、この闘争の両サイドとも、いくらかの倫理的な無分別を示している。人間たちについては、機械を利用し破壊してきたことであり、機械については、もちろん人間たちを征服したことである。しかし両サイドとも、自分たちは生き残りを賭けて闘っていると観ており、スミスとスミスの創造主やネオと彼の友人たちは、このような倫理的な懸念は、贅沢であると主張することが想像される。

II. 操作と不道徳

啓発される前のネオが居住している世界は、機械によって作り出されたものである。機械は、人間たちを幸せで平和な気持ちに保ち、彼らが機械のためのエネルギー源として使われているという認識を持たないように、人間たちのために単調な生活を創った。人間たちのほとんどは、この世界が本物だと思っているが、彼らは間違っている。この世界内で、彼らは自分たちが生活を築き、人間関係を持ち、美味しい夕食を食べ、少なくとも、創造し、破壊しているように見える。ある点においては、この生活は夢のようなものだ。それは本物ではない。啓発されていない人が自分はステーキを食べていると思う時、彼は食べていないのである。そうではなくて、機械が、ステーキを食べるという経験に対応する精神的経験を生成しているのだが、それは真実ではない。つまり、その人は実際にステーキを食べているわけではないのである。本物の、あるいは実際のステーキはそこには無い。その点において、人間の行動は、彼あるいは彼女の精神とは無関係に存在する世界において、本物のあるいは実際の影響を持つことは全くない。しかし、この啓発されていない状態でさえ、人間たちは多少のコントロールができるようになっている。マトリックスの中で彼らが“する”ことは、現実世界の中でも実現される結果を持っているからである。マトリックスの中でトラックに衝突されたら、その人は現実でも死ぬのである。マトリックスは、“タンクの中の脳”的経験を提供するが、経験者はその中で多少のコントロールができるのである。⁴ 啓発された者は、大筋においては、マトリックスの規則を理解し、コントロール力を充分理解した上でその力を発揮するのである。⁵

しかし、ステーキの例が説明するように、彼らが起こす他の行動で、現実世界には何の影響ももたらさないように見える行動も多くある。啓発される前のネオと、マトリックスに住む人間の多くは、欺かれているように見える。このことによって提起される1つの問題は、彼らが、マトリックス内の彼らの行動について責任を問われる範囲である。議論するためだけに、毛皮を着ることは不道徳的だと仮定しよう。単に、自分は毛皮を着ているということを信じると共に、毛皮を着る選択をしただけで、悪行をはたらき、罪を犯していることになるには十分なのだろうか？　倫理的に大事なのは、本当にその気持ちだけなのだろうか？　競合する観点は、人々が悪行をはたらき、罪を犯しているということになるには、彼らが取る選択が実際に悪い影響を及ぼす結果にならなければならない、あるいは、正しい行動を取ったと見なされるためには、実際に良い結果になる必要がある、というものである。ゆえに問題は、人の行動の道徳的質‐その正しさ、あるいは悪さ‐が、彼あるいは彼女の観念的状態によってのみ決定されるのか、あるいはそうでなくて実際の結果がその決定に影響を与えるのか、ということである。

マトリックスでは、もし毛皮が着用されたとしたら、着ている人はそれに気づかないとしても、それはヴァーチャルな毛皮であって、本物ではない。この場合もやはり、彼あるいは彼女が精神的に操作されているからである。しかし、これは純粋な惑わしであろうか？　確かに現実を把握できず、その意味では惑わされている気の狂った人間は、彼あるいは彼が惑わされている間に取る行動については、減少した道徳的責任しか持っていないと考えられる。そのような人間は、一般的にそのような状況においては道徳的に責任を持たない。彼は精神病院に監禁され、精神病の治療を受けるかもしれないが、罰せられることはない。説明としては、気が狂っている時に取った行動は、まったく自発的なものではないということである。マトリックスの中に住む人々が同様に惑わされているとしたら、彼らはマトリックスの中で“する”ことについては責任が無いように思えるだろう。

夢自体も、夢の中で取られたように見える“行動”も、自発的なものではないゆえ、夢の中で起きたことについては人は責任を問われないと主張した作家も何人かいる。⁶ ヘンリー・デイヴィッド・ソローのような他の作家たちは、我々が夢の中でしているように見えたことは我々の人格を反映しているものであり、夢の内容は真実の美徳、あるいは悪徳をあらわにするという観点を持っていた。⁷ たとえ、夢の中で取った行動が実際に良い、あるいは悪い影響を持たないとしても、それらの行動は夢を見た人間の感情的な性質や隠れた願望をあらわにし、そして同様に、それは人格もあらわにしているのである。しかし、我々がこれまで論じてきたように、マトリックスは夢ではない。啓発されていない者は、むしろ精神的に操作された状態にあるのである。彼らが取っているように見える行動は、彼らの操作された経験に基づいて彼らが期待するはずの効果を、（現実において）いつも持つとは限らない。しかし我々は、マトリックスにおいてでさえ、彼らは自発的な選択をすると主張することができる。彼らは非理性的であるわけではない。彼らは、気が狂っている人間のようであるわけではない。ネオはその状況下なら、理性的で思慮分別がある人間なら誰でも信じるであろう事を信じている。啓発される以前の人々は、他の人々が彼らに告げた嘘に基づいて物事を決める人々と類似している。彼らは必要な情報を持たずに行動しているのである。それは、『マトリックス』の終わりでネオが修正したいと思う状況である。

私が賛成する観点は、実際の悪い影響が無いならマトリックスの中での行動は不道徳ではない、というものである。しかし、やはりこの主張も論議を呼ぶ。単に“大事なのは気持ち”と主張する人々、彼あるいは彼女がすることの道徳的質を決定するのは、その人物の意図であると主張する人々もいるだろう。例えば、イマヌエル・カントは、本質的に重要なのは善意志であって、実際の結果は道徳的真価には関係のないことであると主張したことで知られている。⁸ しかしそれでは、夢の中で悪意を形成することも不道徳とされるには十分になるが、これは非常に直観に反したもののように思える。もしそれが真実であるならば、何か不道徳なことをしようという意図があり、そのような行動を取ったと信じていたとしたら、それだけで十分道徳的な悪事をはたらいて罪を犯したことになる。そうではなくて、実際に何か悪い事がもたらされた場合、あるいは少なくとも、実際に何か悪い結果となるだろうという現実的な予想がつく場合でなければならないという方が、よりもっともらしく思える。従って、マトリックスの中の本物ではない“悪行”は、実際の悪行ではないのである。

これは、明らかに夢の場合のように思える。夢の中では、夢を見ている人が何か悪い事をすることに決めても、その決心は現実世界に何の影響も与えない。しかしマトリックスは、実際には夢ではない。もし我々が、マトリックスのヴァーチャルな世界は完全なものである ‐ つまり、完全に機械が支配権を得る前の本物の世界のようである ‐ と仮定するならば、ヴァーチャルな“危害”は、それが実際に不快な精神状態という形で実現されるという理由で、依然として本物なのである。それならば、ヴァーチャルな毛皮のコートはヴァーチャルな動物が殺された結果ということになるが、そのヴァーチャルな動物は、全ての適切な精神状態、この場合、苦悩と苦痛を持っているという精神状態を持つことになる。もしそうであるならば、その動物を殺した者は、死んだ動物を“本物”と間違えてはいても、依然として純粋な苦悩と苦痛を引き起こしたのである。従ってその行動は、たとえ真実のものではないにしても、不道徳的である。しかし、もしマトリックスの世界が不完全なものだったとしたら、問題はもっと複雑になる。もし、サイファーのヴァーチャルなステーキがヴァーチャルな食肉貯蔵庫から出されたものだとしたら、そしてその食肉貯蔵庫の先にはつながる物が何も無いとしたら、つまりそのステーキの獲得が、“本物”の動物が感じる苦悩と苦痛と全く同じ心理状態を含むヴァーチャルな動物の屠殺を伴わないのであれば、道徳的に不都合は無いのである。

しかし、たとえマトリックスが正確には夢のようではないとしても、ソローの趣意は依然として有効であるということに、注目してもらいたい。つまり、たとえある人が実際には悪い事をしなかったとしても、あるいは知覚力のある他の生命体を実際には全く傷つける事が無かったとしても、我々は依然として、その人物の人格に否定的な評価を与えるかもしれないのである。

しかし私は、マトリックスは機械が支配する前の現実をひな型にして創られた現実の代替物であると推論する。そして、もしマトリックスが、機械が支配する前の現実のそれほどまでに完全な複製を提供するのであれば、それは真に自己完結した世界なのである。それは、自分の物体を持ち、自分の人々や動物を持ち、そして倫理観を持っている。人間に対する組織的な欺瞞は、これを変えることはない。

ジュリア・ドライバー

脚注：

1. 機械自体の道徳状態の問題は、知覚力のあるプログラムの道徳状態の問題とは区別されておかれるべきである。ただ単に、映画がこれらの建造物の行動についてより多くの情報を供給するという理由から、私は、ここの論議においては後者の問題に焦点を置くことにする。しかし、機械自体についても趣旨は同じである。―もし、機械が、倫理的に重要な資質、意識、理性を持っているならば、それらは道徳的水準を持っているのである。

2. 聖オーガスティン著「三位一体論」（第8章、第6項、第9節）この場合も先と同様に、この推論の方向は一事例の類推を基にしているゆえ、論議を呼ぶものである。

3. 多くが、我々が“構造上、類似している”と取るものによって決められる。知覚力のあるプログラムはそれ自体では構造体を持っておらず、機械こそが構造体を持っており、したがって、機械は意識を有するかもしれないが、プログラムは有することができないと主張する人もいるだろう。しかし私は、もし機能的に理解されるとしたら、知覚力のあるプログラムは構造的に類似していると信じている。それらの記号体系は、我々の精神状態の根底にある物質的状態と機能的に同等なものを供給する構造を持っているのである。しかし、この問題は極度に論議を呼ぶだろうし、ここではそれを深く、より全面的に探究する十分な時間が無い。

4. 夢懐疑論とタンク内の脳懐疑論については、このサイト内のクリストファー・グラウの紹介文を参照されたし。

5. これにひきかえ、啓発されていない者は、常に“ゲティアされている”（訳注：ゲティア＝エドムンド・ゲティア。信じることと知ることについて論じた「ゲティア問題」で知られる哲学者）。ある女性は、彼女の夫がトラックに衝突されたのを“見た”ばかりゆえ、彼が死んだということについて真に信じるのは正しいと証明するかもしれない。しかしマトリックスの中にいることで、彼女は彼の本当の死に方について騙されているので、彼女には真実が分かっていないのである。

6. 例えば、「哲学」（1983）の378ページ～385ページの、ウィリアム・マン著「不道徳行為の夢」を参照されたし。

7. ソローは、「コンコード河畔とメリマック河畔での1週間」（1849）で、このことについて書いている。

8. これもまた論議を呼ぶようなものであるが、カントの「道徳形而上学原論」（ルイス・ホワイト・ベック訳）と重要論文集（ロバート・ポール・フルフ編、ニューヨーク、マクミラン社刊、1969）を参照されたし：

我々の住む世界においてはもとより、およそこの世界の外でも、無制限に善と見なされ得るものは、善意志の他には全く考えることができない。善意志は、それが遂行し、あるいは成就するところのものゆえ善なのではない。善意志は、実に意欲そのものによってのみ、すなわち、それ自体として善なのである。（11～12ページ）