ロボット工学三原則

出典: フリー百科事典『ウィキペディア（Wikipedia）』

ロボット工学三原則（ロボットこうがくさんげんそく、Three Laws of Robotics）はロボットが従う原則であり、SF作家アイザック・アジモフによって書かれた（作中では、2058年の「ロボット工学ハンドブック」第56版からの引用という形になっている）。ロボット三原則（ロボットさんげんそく）とも言われる。

[編集] 概要

[編集] 内容

第一条ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

(A robot may not harm a human being, or, through inaction, allow a human being to come to harm.)
第二条ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

(A robot must obey the orders given to it by the human beings, except where such orders would conflict with the First Law.)
第三条ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

(A robot must protect its own existence, as long as such protection does not conflict the First or Second Law.)

（日本語訳はアイザック・アシモフ小尾芙佐訳昭和58年「われはロボット」早川書房 P5 より引用）

という3つの原則からなり、アジモフの小説内に登場するロボットはこの原則に従うように描かれている。

これら理念はその後のロボット作品に影響を与え、ロボットやサイボーグなどがアイデンティティーの確立や人間と接し方などでジレンマを感じ苦悩するといった材料となる。2004年に公開された映画「アイ,ロボット」ではこのロボット工学三原則を利用したストーリーが展開されている。

[編集] 成立の経緯

この三原則の成立には、SF作家及びSF雑誌編集者のジョン・W・キャンベル Jr.が大きく寄与している。アジモフがロボットテーマ短編『ロビイ』、『われ思う、ゆえに……』（『われはロボット』所収）を書き上げたとき、アジモフ本人は三原則をまったく意識してはいなかった。しかし、この作品をキャンベルに読ませたところ、キャンベルはロボットが一定の規範の下に行動していることを洞察、指摘し、三ヵ条にまとめた。これがロボット三原則の基（もと）になったと言われている。なお、キャンベルがこのように作品世界に踏み込むような行動をしたのは当時キャンベルがアジモフの担当編集者でかつ先輩作家としてアジモフを指導する師父的立場にいたためである。

アジモフが自らのロボット物にこうした行動の規制を設けた最大の動機は、短編集『ロボットの時代』で自ら語っているところによれば、『フランケンシュタイン』や『R.U.R.』から延々と繰り返されてきた「ロボットが創造主を破滅させる」というプロットと一線を画すためであったとされている。また、「ナイフに柄が付いているように、人間の製作物なら何らかの安全装置があって然るべき」「ファウストはメフィストと出会うべきであるが、破滅すべきではない」とも述べており、このあたりに合理主義者・人道主義者のアジモフらしさが伺える。

なお、『われはロボット』などの作品世界において、ロボットに三原則を実装する事が法律などで特に義務付けられている訳ではないが、にも関わらず例外なく三原則が厳格に適用されているのは、ひとつは製造元であるU.S.ロボット社が、ロボットの一般への普及における最大の障害となっている「フランケンシュタイン・コンプレックス」への対策として、ロボットが三原則故に人間に危害を及ぼす事が絶対に有り得ないと強調・宣伝している事、もうひとつは三原則がロボット頭脳の設計理論の根幹を成しているために、三原則非搭載の頭脳設計には多大な労力と期間を要する事になり事実上不可能である事が理由である。

[編集] 「人間」の定義

三原則は機械であるロボットが遵守するにはあまりに抽象的であり、実用上は多くの問題を含むが（だからこそアジモフは「三原則の62語から無限のアイデアを汲み出し」得たのだろうが）、特に重要と思われるのが第一条と第二条で述べられる「人間」の定義である。

具体的な例では、複数の人間に危機が及んでいるとき誰を優先して救助するか、犯罪者や子供の命令にも無条件で従うのか、そもそも機械であるロボットがそうした判断を行う事自体が人権侵害に当たるのではないのか、などである。

アジモフ自身も「ロボットに関する究極の結論」を求められた短編『み心にかけられたる者』（『聖者の行進』所収）でこの問題に取り組んでおり、そもそも三原則を必要としないロボットの姿や、ロボット自らが考えるところの「三原則でもっとも優先されるべき人間」の定義が描かれている。また『バイセンテニアル・マン』（同）では、自ら人間になることを願ったロボットの姿を描き、人間とロボットとの境界線について論じている。

後年、『ロボットと帝国』ではこの問題が再び取り上げられている。R・ダニール・オリヴォーが「自分の頭脳には人間の外観や行動に関するデータがあり、それらと合致するかどうかで人間かどうか判断する」と述べるくだりがあり、またロボット自身の「人間」の定義や判断基準を歪めることで、三原則に抵触せずにロボットが人間を攻撃することも可能であることが示されている。こうした「人間」に関する考察は、後述の第零法則へと繋がっていく。

[編集] 三原則とSFミステリ

アジモフはミステリ作家としても活躍しており、SFもミステリの要素を持つ作品が多い。特にロボット物はその傾向が強いが、これは本来SFの自由な気風がミステリの約束事にそぐわない（例えばトリックに読者の預かり知らぬ超技術を持ち出されては、ジャンルとしてのミステリとして成立しない）のに対し、ロボット物は三原則という大前提のおかげで比較的容易にミステリ的シチュエーションを構築し得ることが大きい。

『われはロボット』『ロボットの時代』の短編群の多くは、ロボットが一見して三原則に反するような行為を行う事件が起こり、その謎をロボ心理学者スーザン・カルヴィンが解明していく内容となっている。

これをさらに発展させたのが、SFミステリの傑作として名高いロボット長編『鋼鉄都市』と続編『はだかの太陽』である。いずれも三原則によって人を殺せないはずのロボットが殺人の容疑者として浮上し、真犯人が三原則を逆用して仕組んだトリックを刑事イライジャ・ベイリとR・ダニール・オリヴォーが解明していく。

[編集] 第零法則

1985年に発表された『ロボットと帝国』にて、第零法則が登場した。三原則への疑問と経験から、第1条に優先するものとして発案されまとめられていくが、この疑問、経験、発案、まとめを行ったのは人間ではなく2体のロボット（ヒューマンフォームロボットのR・ダニール・オリヴォーと、テレパシーを持つR・ジスガルド・レベントロフ）である。内容は、第1条の人間が人類に置き換わったもので、これにより第1条は「第零法則に反する場合はこの限りではない」という内容が追加されることになる。例えばある人物が人類全体に危害を及ぼす陰謀を計画しており、それを止めるには彼に危害を加えざるを得ない場合は、第1条に反して危害を加える事が許される事になる。

同じ内容は短編集『われはロボット』内の『災厄のとき』において、ロボ心理学者のスーザン・カルヴィンにより提示されている。彼女が提示したのは個々の人間に奉仕するロボットではなく、その当時地球の経済を統括していた、人類に奉仕するマシンの行動を推測したものだった。しかし『ロボットと帝国』においては、より一般的な個々のロボットの行動規範に第零法則を適用することがロボット自身により提示される。

第1条の範疇においても、一人の人間の危害と多くの人間の危害とを天秤に掛けた場合は、多くの人間の危害を避けるために一人に危害を加える事は許される（さらに『ロボットと帝国』では、特定の個人に隷従しているロボットが、その主人を守るために他の人間に多少のケガをさせる事も辞さないという描写がある）。しかしそれはあくまで緊急性を伴うと共にそれらの危害や対象となる人々が明確に示されている場合であって、その結果ロボット自身が三原則とのジレンマによる脳損傷や活動停止に至る事も多い。

三原則は陽電子頭脳の設計時から組み込まれているため違反するのが不可能なのに対し、第零法則は2体のロボットの話し合いでまとまったものなので、それが本当に正しいことなのかロボットとして判断するのは困難だった。さらに「人間」が具体的な対象なのに対し、「人類」は抽象的な概念であり、人類に対して危害を加えたか否か（あるいは人類が将来遭遇する危害を回避できたか否か）の判断も困難なことから、この法則を考案した2体のうちR・ジスガルド・レベントロフは、第零法則に基づいた行動をとったものの確信がもてず、機能が停止してしまった。よって第零法則が有効に機能するには、人類の歴史と未来を定量的に評価・予測する手段が必要になり、これがファウンデーションシリーズの重要な設定のひとつである心理歴史学に結びつく事になる。

アジモフ亡き後発表された、グレゴリー・ベンフォード、グレッグ・ベア、デイヴィッド・ブリンによる『新銀河帝国興亡史三部作』では、人類に隠れて生存しているロボット達が、第零法則に従い人類の擁護者として積極的にその運命に干渉すべきとする「ジスカルド派」と、あくまで三原則の範囲に留めて人類自身の選択に委ねるべきだとする「カルヴィン派」とに分かれて対立する姿が描かれている。

[編集] 実際の適用

人間とロボットという主従関係で書かれているが

安全（人間にとって危険でない存在）
便利（人間の意志を反映させやすい存在）
長持ち（少々手荒に扱ったくらいでは壊れない）

という、家電製品に代表される道具一般にもあてはまる法則であることが、日米のファンらによって指摘されている。

実際のロボットにこの三原則を実装できるかという問題についてはフレーム問題という大きな障害がつきまとう。ロボットは、どんな行動が人間に危害を加える可能性があるかを判断するために周囲の状況とその帰結をすべて予測しなくてはならない。そのためには、人工知能の搭載すべき知識ベースと思考の範囲が際限なく大きくなってしまうのである。

たとえば、火災に巻き込まれた人間を発見した際に「自分は引火性の燃料を使用している」「火災現場は高温」「高温下では引火性燃料は爆発することがある」「付近で爆発が起きると人間は負傷することがある」という知識をもとに、自分は直接助けに行かず応援を呼ぶ、という判断を下す必要がある。

本来、三原則はロボットが人間を殺害したり叛乱を起こしたりする事態を避けるために設定されたものだが、皮肉にも現在では、戦場での人的損失を防ぐ目的で、人間の兵士に代わって偵察や殺戮を行うロボットが現実のものとなりつつある。すでに無人偵察機（UAV）には武装タイプも出現しており、敵兵士を殺害した実例もある（もちろんこの場合はあくまで人間の操作員が発射指示を出した結果であるが、広義に解釈すれば「第一条に反する命令に従った」ことになるし、いずれは自動的に「敵」を識別して攻撃を加える様な機能を持つ可能性もある）。
その一方で、多くの現実のロボット工学者が、三原則に則したロボットの実現を研究の指針とし、第一条を理由に研究の軍事転用を拒むなど、三原則を倫理上の拠り所としているのもまた事実である。
このように、現実にロボットに三原則を実装すべきかどうかも含めて、結局はロボットを製造し使役する人間側の問題であり、むしろ人間が遵守すべき「ロボット取り扱いの三原則」が必要なのかも知れない。

[編集] 応用

ソニーのアイボにこの三原則が応用されている。

ロボットは人間に危害を加えてはならない。自分に危害を加えようとしている人間から逃げる事は出来るが反撃してはならない。
ロボットは原則として人間に対して注意と愛情を向けるが、ときに反抗的な態度をとる事も許される。
ロボットは原則として人間の愚痴を辛抱強く聞くが、時には憎まれ口を利く事も許される。

出典：ソニーアイボオフィシャルサイト AIBO辞典の項目「Three principle of robotics ・AIBOversion」より。

[編集] よくある誤解

よく「ロボットが守らなければならない規則」という誤解が見られるが、第零法則を除く三原則はロボットの設計時から組み込まれるものであり、生物的な表現をするなら「ロボットが持っているべき本能」と呼ぶべきものである。

カテゴリ: SF | ロボット工学 | アジモフのロボットシリーズ