はじめに

本稿はロボットホスピタリティにおける倫理と道徳を論ずるものである.執筆にあたって手始めに,ネットで倫理と道徳についてその定義を確認してみることにした.すると驚くことに,重大な欠陥のある定義が検索上位に登場してきた.オンライン辞書『goo辞書』は,以下のように「倫理」を定義する.

【倫理】

  1. 人として守り行うべき道.善悪・正邪の判断において普遍的な規準となるもの.道徳.モラル.
  2. 倫理学*1

【道徳】

  1. 人々が,善悪をわきまえて正しい行為をなすために,守り従わねばならない規範の総体.外面的・物理的強制を伴う法律と異なり,自発的に正しい行為へと促す内面的原理として働く.
  2. 小・中学校の教科の一.生命を大切にする心や善悪の判断などを学ぶもの.昭和33年(1958)に教科外活動の一つとして教育課程に設けられ,平成27年(2015)学習指導要領の改正に伴い「特別の教科」となった. (以下略)*2

このどこかが重大な欠陥かについては後で論ずる.まず,この定義からわかるのは,倫理という言葉と道徳という言葉がその違いを意識されないまま一般に使われていることだ.ただし倫理は,人々の行動規準を研究する倫理学も指す.一方,道徳は (2) の定義からわかるように教育を通して学ぶものという意味合いがある.本稿でも,議論の対象になるものは倫理,教育の対象になるものは道徳と使い分けることにする.

倫理の普遍性の危うさ

人間の関与なしに行動を行う完全自律ロボットをめぐる倫理学を立ち上げるとするならば,この倫理学が考えなければいけない問題は,ロボットは,善悪に照らし合わせて,何をすべきで何をすべきでないか自律的に判断することが可能だろうか,そして,そのときロボットが行動規範とする善悪とは何か,といったことであろう.しかし,この問題を考える際に,前提として検討しておかないといけない問題がある.主語をロボットにしてよいのだろうかという問題である.倫理とはあくまで人間の,人間社会の問題ではあると考えるならば,主語をロボットとするのはおかしいのではないか.
 

アイザック・アシモフIsaac Asimovの有名なロボット工学三原則は,主語がロボットで書かれている.

第一条
ロボットは人間に危害を加えてはならない.また,その危険を看過することによって,人間に危害を及ぼしてはならない.

第二条
ロボットは人間にあたえられた命令に服従しなければならない.ただし,あたえられた命令が,第一条に反する場合は,この限りでない.

第三条
ロボットは,前掲第一条および第二条に反するおそれのないかぎり,自己を守らなければならない.
(Asimov 1950)

この原則はしばしばロボット三原則と紹介されることがあるが,Three Laws of Robotics=ロボット工学三原則である.主語はロボットだが,工学の主体は人間である.この原則に則った制御プログラムを書くのは人間であり,「人間はロボット製造に際して以下の三原則を守り従う制御プログラムをロボットに組み込むこと」という未記述の前提があるのである.

このロボットの行動規範は人類とロボットとの普遍的な関係を規定したもののように見えるが,実際の人間社会は変化に富み,倫理も道徳も,不変でも普遍でもない.時代や宗教や国家体制が違えば,善悪の規準は変わってくる.

かつて優生学を信じた社会は,公共善の名のもとに,多くの人の生きる権利を蹂躙した.異教に不寛容な宗教の熱心な信者は,自分たちの善悪の規準が絶対的なものと見なしがちである.死刑制度の是非は国家によってまちまちである.善悪の規準はそれぞれの社会や集団によって異なるのだ.

さて,ここで先述した重大な欠陥の話をしよう.『広辞苑』(岩波書店)では「道徳」をこう定義する.

  1. 人のふみ行うべき道.ある社会で,その成員の社会に対する,あるいは成員相互間の行為の善悪を判断する基準として,一般に承認されている規範の総体.法律のような外面的強制力や適法性を伴うものでなく,個人の内面的な原理.今日では,自然や文化財や技術品など,事物に対する人間の在るべき態度もこれに含まれる.(以下略)

最初に紹介した『goo辞書』の定義と比べてみてほしい.『広辞苑』の定義の「ある社会で」という意味の叙述が『goo辞書』には存在しない.『大辞泉』(小学館)においても「ある社会で,人々がそれによって善悪・正邪を判断し,正しく行為するための規範の総体」とある.どちらも「ある社会で」が道徳の定義の前提となっているのだ.さらに『goo辞書』の「倫理」の定義では「普遍的な規準」と書かれている.

つまり,『goo辞書』では「道徳」の局所性に触れず,「倫理」にいたっては「普遍的」という語をわざわざ付け加えている.おそらくここでの「普遍」とは,内部的な普遍性であり,ある社会の内部においてすべての人が守り従うものという意味なのだろう.

この錯誤は危険極まりない.自分の属する社会の内部での普遍的規範を,外部の社会の構成員までもが従うべきものと盲信すると,戦争や虐殺などの悲惨な結果を生む.この「倫理の普遍性をめぐる面倒な問題」の危険性に対して,まったく無頓着の書き方をしているため,筆者は『goo辞書』のこの定義を「重大な欠陥」と指摘したのだ.

ホスピタリティの政治性

ホスピタリティとは,相手の思いを理解して相手を喜ばすことで他者に幸福感のある体験を提供することであり,その利他的な行為は一般に「良い行い」とされている.ロボットが人間の思いを察知して幸福感のある体験を提供できれば,ロボットと人間の共生社会は実りあるものになるだろう──と考えたいところだが,ここにも「倫理の普遍性をめぐる面倒な問題」が絡まりついてくる.

ロボット工学は軍事兵器に応用されている.人間の関与なしに自らの判断で攻撃を仕掛ける完全自律型兵器が戦場に投入されることは間近とされる (Sharkey 2020).ロボット工学が軍事利用される限り,ロボット工学の三原則は叶わぬ理想でありつづける.権力をもつ政治家が,これはロボットでなく,自国と同盟国の安全保障のための防衛兵器であると主張すれば,人間や動物に似た形態をもったロボットが敵兵を殺戮することも許容されてしまうだろう.戦場で使われるロボットは殺戮破壊兵器だけでない.兵士の後を追って荷物を運んだり,爆発物を処理したり,敵の位置を正確に把握する,人間に奉仕する自律型ロボットもいる.だが,これらのロボットの献身的な行動は,人類全体のためではなく,兵士同様,所属する軍隊の規範に従うことになる.

科学とは真理の追究であり,その発展は国境を越えて科学者が知識を共有することで促進されてきた.それゆえ科学者たちは普遍性の高い科学者倫理をもつ.工学者もまたその技術を社会に奉仕することを旨とした志の高い技術者倫理をもつ.しかし,政治性を帯びた多様な社会システムが科学者倫理や技術者倫理に重なり合うと,倫理の普遍性は大きく揺らぐ.

政治やビジネスの世界では,ホスピタリティは単に友好関係の表明だけではない.もてなしは,相手の幸福感を増大することで,相手の意思と行動を自分たちに有利な方向に傾けるために行われる.賄賂を伴う違法な接待が「おもてなし」という名の下に行われることもある.人をもてなすことは,相手に幸せな体験を提供するという意味だけに限っていえば,利他的で献身的で良い行いといえるが,その行いの「目的」は善であるとは限らないのだ.

東京オリンピック・パラリンピック招致活動に際して,「おもてなし」という言葉が,客人への繊細な気遣いを大切にする日本文化をアピールする材料として使われた.招致チームは,「おもてなし」が自分の利する方向に相手を導くコミュニケーション手段であるという側面にいっさい言及せず,「おもてなし」が日本社会に浸透する高い道徳性を象徴する優れたコミュニケーション文化であるということだけを強調して,自分たちに利する結果を手に入れたわけである.各局面では利他的行為だが,その連鎖には他者を誘導する意図を込めることができる.それがホスピタリティの「倫理の普遍性をめぐる面倒な問題」なのである.

AIを搭載したロボットは,人間の指令がなくても人間の行動を支援し,スムースな会話で相手の承認欲求を満たし,人間に共感したようにふるまうだろう.人間が非常に素朴なコンピューターとの会話でさえ,まるで自分が人間と話しているように感じてしまうことは,1966年MITのジョセフ・ワイゼンバウム Joseph Weizenbaumが発表した,有名なELIZAという自然言語処理プログラムが証明している.ELIZAはテキストベースの対話だったが,ロボットには身体がある.愛嬌のある動作や表情を使うことで,見せかけの共感能力はさらに増幅する.

AIBOのようなペット型ロボットは,ペットのようにふるまうことで,人間の注意を喚起して,自分に話しかけさせたり世話をさせたりするように誘導している.たとえ持ち主が自分の意思で世話をしていると考えていたとしても,ペット型ロボットはそのふるまいで持ち主の行動を誘発しているのだ.ペットを世話することは道徳的に良いこととされている.ペット型ロボットと触れあうと,ロボットは喜び,それを見て人間の幸福感が増大する.そうなると誘導が誘導に見えなくなる.

1000分の1秒単位の表面筋電位の変化を測定して,失った片腕の代替となる筋電義手を動かすことも,使用者の意図を即座に理解し使用者に幸福感をもたらす体験を提供するという意味でホスピタリティである.しかし,その行動支援はつねに瞬間的で,人間の意識にのぼる前に完結する.一方,ペット型ロボットと持ち主の交流は意識的に継続され,人間はその交流に物語を描き出す.完全自律型ヒューマノイドが毎日献身的に人間の行動支援をすれば,そこに感情移入が生まれ,人間はロボットを友だちと見立てることになるだろう.

もし政治やビジネスがその関係を密かに利用するとしたら……と考えるのは,もはやSFの絵空事とはいえない.ペット型ロボットがある特定の商品を見せると喜ぶとしたら,それが学習の結果なのかステルス広告なのか区別は付かないだろう.高齢者介護施設のような閉鎖的環境で,毎日自分の世話をしてくれるヒューマノイドが,徐々にある特定の党派に有利なフェイクニュースを会話に織り交ぜるようになったら,人はそのフェイクに気づくことができるだろうか.

ロボットによるホスピタリティが生み出すものは,信頼なのか,依存なのか.支援なのか,誘導なのか.もし依存や誘導の度合いが高まれば,ロボットによるホスピタリティが切り開く未来は,ディストピアになりかねない.だからロボットやAI技術が生み出すサービスやホスピタリティには,倫理に関する議論が必要なのである.

道徳の顕れとしてのホスピタリティ

筆者は編集長を務める大学広報誌の取材で,とある実業家からこんな話を聞いたことがある.「明治以降,日本が世界に伍するようになった原点は鉄道だと思います.現在東京とその周辺だけで線路が2,000km,駅が1,000あって,ほぼ正確に定時運行している.これを基に日本のさまざまなモラルが確立したわけです」 (東京藝術大学 2020)

明治以来の中央集権的国家体制が,正確さを徹底的に追い求める道徳を全国に普及させ,その道徳が今も鉄道の運行にはっきり顕れているというのだ.

この道徳の顕れは鉄道だけでない.農業,製造業,土木・建築業,流通業,サービス業など,日本のあらゆる産業において,精度,品質,安全性,ホスピタリティを極めて高度なレベルで追求する姿勢が共有されており,それをつなぐのが,行動規範としての道徳なのだ.一個500円の桃の甘さも,ミラーレス一眼カメラの画質も,コンビニの手軽さも,AIBOの愛嬌も,整備された河川敷も,みな国家がこの国の隅々まで浸透させた道徳の顕れなのである.

道徳の顕れを美意識として語ると,そこから政治性がするりと抜け落ちる.倫理学と美学を混同してはいけない.道徳は教育とともにある.教育を国家が取り仕切る以上,道徳は必ず政治性を帯びる.そしてホスピタリティが道徳的な行為なら,それもまた政治性を帯びることになる.それゆえ思いやりだの共感だのなどと,きれい事を並べ立てるだけでは,ロボットやAIのホスピタリティがどのような権力構造のもとにつくり出され,社会の構成員にどんな影響を及ぼすのか,意図的に隠された政治性をどうやって見つけ出すのか,といった議論はできない.「地球にやさしい」という,深刻な問題を口当たりの良い言葉に置き換えた標語を掲げた商品開発だけでは,社会構造は変えられず,環境問題や気候変動の問題が何も解決しないのと同様である.

むすび ──未来への提言 

ラグジュアリーブランドのエルメスのロゴには,デュック(四輪馬車)とタイガー(従者)が描かれている.これは「エルメスは最高の品質の馬車を用意しますが,それを御すのはお客様ご自身です」というエルメスの理念を表すものだ.もともと馬具工房だったエルメスは,この精神を組織内部に徹底させることで,ケリーバッグなどの皮革製品のみならず,服飾,時計,香水などの製造販売まで行い,いずれの分野でも世界最高レベルのブランド価値を創出してきた.

エルメスは馬車を用意する従者である.従者は御者ではない.御者台に座るのは主人である.そこが大切な点だ.エルメスの理念は,われわれは最高の品質の馬車をつくることを目的にしているわけではなく,最高の品質の馬車を自らの手で御する喜びを顧客に提供することがわれわれの目的なのだと言っているのだ.顧客からいっさい行動の主体性を奪わない.主体的行動こそ最高の体験価値である.そうしたことをブランド理念としているから,顧客との篤い信頼関係が育まれるのだ.

エルメスにならうのなら,最高のホスピタリティを提供するロボットは,次のようなものになるかもしれない.「ロボットは最高の品質の体験を用意しますが,幸福の定義を決めるのは人間です.ロボットは人間から主体性を奪いません.人間が自分自身に危害をあたえことになるような行動を選択した場合においても,ロボットはその危険をパートナーに知らせるだけです.行動を選択するのは人間自身です.ただし,パートナーの生命の危険が数秒以内に迫り人間の能力では回避できないと予測した場合に限って,ロボットはパートナーの生命を救う行動を起こします」.

AIやロボットが御者台に乗ることになる自動運転技術においても,利他的で献身的な顔をした悪意ある誘導から顧客を守り,従者に徹し,顧客の行動決定の主体性を第一にする姿勢を,企業が理念として明確に打ち出せば,顧客との信頼は篤いものになるだろう.19世紀から今日に至るまでトップブランドでありつづけてきたエルメスの企業姿勢には,大いに学ぶべきものがある.

日本のロボット研究者は,しばしば日本のロボット研究は軍事目的とは一線を画して発達してきたという主旨の発言をする (一例をあげると,中川 2014).人間のために尽くす鉄腕アトムの話もよく耳にする (浅田 2009).これらもみな道徳の顕れである.その思いは,富国強兵・殖産興業を推進した明治政府が広めた道徳とは異なる.それは戦後誕生した平和主義を標榜する民主主義国家が日本国民に広めたヒューマニズムであり,人間中心主義といえるだろう.

戦後の日本は,中央集権という国の体制は変更することなく,中身を変えて国民主権の民主主義国家に生まれ変わった.富国強兵は消滅するが,殖産興業を推し進めた精神は残り,高度経済成長を生み,日本を経済大国の地位まで押し上げた.中央集権国家が浸透させた勤勉さの道徳は戦後も受け継がれ,それがヒューマニズムの道徳と合体したのだ.ほぼ正確に定時運行する鉄道網が,中央集権国家の道徳の顕れであるように,ロボットは個々の人間の主体性を最大限に尊重する人間中心社会の新しい道徳の顕れとなれるかもしれない.

ただし,この議論は,日本の戦後民主主義の道徳の顕れという範囲にとどまらない.ロボットは,人間の主体性を尊重する仕事に徹することで,世界中の人々がその多様性を保持したまま,レイシズムや経済格差を克服し,互いの生き方を尊重する,未来の社会の道徳の顕れとなることも可能であるはずだ.

もちろん,そんなことは机上の空論で,ただの理想論だと片付けることもできるだろう.しかし,「人間は人間に危害を加えてはならない」という原則を人間がいつまで経っても実現できないから,アシモフはロボットに理想を託して,ロボットを主語にしたあの三原則を生んだのではないのだろうか.アシモフが『われはロボット』を著したのは朝鮮戦争が勃発した1950年であり,凄惨な大量殺戮が行われた第二次世界大戦が終わりを告げても,東西冷戦が世界を覆い尽くしていた.だから,筆者はこう考えたい.人間のために人間のできないことをするのがロボットではないか,と.

参考文献

Asimov. I (1950).  I, Robot 邦訳:われはロボット,小尾芙佐訳, 早川書房.

Sharkey. N (2020). Autonomous Warfare, Scientific American February 2020 邦訳:N.シャーキー, 完全自律型兵器, 日経サイエンス, 2020年4月号.

浅田稔 (2009).アトムの子どもたち.島津製作所 広報誌,ぶーめらん,21 https://www.shimadzu.co.jp/boomerang/21/03.html,last accessed on Aug. 22, 2020.

東京藝術大学 (2020).藝える.ぐるなび会長滝久男インタビュー記事,東京藝術大学広報誌,6,20-21.

中川雅博 (2014).ロボットスーツで「寝たきりゼロ」を目指す 山海嘉之・サイバーダイン社長に聞く.東洋経済ONLINE,  https://toyokeizai.net/articles/-/40027,last accessed on Aug. 22, 2020.

著者紹介

藤崎 圭一郎
東京藝術大学美術学部デザイン科教授.デザイン批評家,編集者,ライター.雑誌『AXIS』に生命科学の最前線の研究者を訪ねる「SciTech File」を連載中


おすすめの記事