★阿修羅♪ > 経世済民110 > 897.html
 ★阿修羅♪  
▲コメTop ▼コメBtm 次へ 前へ
テスラ車の死亡事故から、人類が学ぶべき「絶対にやってはいけないコト」 人工知能は「敵」? 追い詰められたトップ棋士たち
http://www.asyura2.com/16/hasan110/msg/897.html
投稿者 軽毛 日時 2016 年 7 月 18 日 12:12:59: pa/Xvdnb8K3Zc jHmW0Q
 


2016年07月17日(日) 島崎敢
テスラ車の死亡事故から、人類が学ぶべき「絶対にやってはいけないコト」
自動運転が人を殺さないために

自動運転機能「オートパイロット」作動中の様子 〔PHOTO〕gettyimages
文/島崎敢(心理学者)

テスラの死亡事故はなぜ起きたのか。ドライバーに責任があるのか、それとも自動運転に欠陥があるのか。いやいや、大切なのは「誰のせいか」ではないんです。リスク管理のプロ、島崎氏が解説します。

アメリカの電気自動車メーカー、テスラ・モーターズの自動車がトレーラーと衝突事故を起こし、ドライバーが5月7日亡くなった。今回の事故は自動運転機能である「オートパイロット」作動中に発生したもので、自動運転中に発生した最初の死亡事故ではないかと言われている。

自動運転と交通事故という2つのトピックが合わさると、必ず沸き起こるのが「誰が責任を取るのか」という議論だ。今回の事故でも「ドライバーはDVD視聴中か?」という報道が出て話題になっている。テスラ社はオートパイロット作動中も安全の責任を負うのはドライバーであると主張しているが、一方でアメリカの運輸省はシステムの動作に問題がなかったか調査を始めている。

今回の事故が誰の責任かはさておき、この事故を参考に責任追及と原因究明について考えてみたい。

人間の脳が不得意なこと
運転全体を100とした場合、古典的な運転は、人間とシステムが受け持つ割合が100:0になる。完全な自動運転は0:100ということになるが、現在はこの中間的な段階だ。90:10ぐらいの状態。つまり、大部分を人間が運転し、システムが少しだけ助けてくれるぐらいの段階で起きた事故がドライバーのせいだと言われても違和感はない。

もう少し自動化が進んで、 50:50ぐらいになってくると話は少しややこしくなってくる。受け持ち割合が同じぐらいだと、人間とシステムの意思決定の対立が生まれて操作を取りあう可能性が出てくる。人間は左に避けたいのにシステムは右に避けたい場合、ハンドルを取り合っているうちに衝突するということが起こりかねない。

ただし、これは対立が起きた時にどちらに権限を移譲するのか、あらかじめ決めておけば大した問題にはならない。例えば「対立が起きたらシステム側は権限を人間に明け渡す」と決めていれば、人間がどうにかすればよいわけだ。この場合も責任が人間だと言われても違和感はない。

問題はさらに自動化が進んで、人間対システムの割合が10:90とか1:99になっていった場合である。人間がほとんど運転する場合には、人間にはやらなければならない仕事がたくさんある。ところが、システムの割合が多くなればなるほど、人間側の仕事は減っていく。そして最終的には「ほとんど問題は起きないが、ごく稀に問題が起きた時だけ人間が対処する」という状況になるが、これは人間にとって不得意なことなのだ。

というのも、人間の脳は省エネにできているので、仕事がないときは休もうとして覚醒レベルを落とす。あるいは覚醒レベルを維持するために他の刺激を見つけようとする。テスラのドライバーがDVDを見ていたかどうかはわからないが、運転のほとんどが自動化されてやることがなくなってくると、ドライバーの覚醒レベルは下がってしまう。

そして、すごく低い確率なのかもしれないが、そんな油断しきった状態の時に、システムから突然運転を移譲されるのだ。しかも運転を移譲されるのは、システムがお手上げになったとき、つまり、かなりシビアな状況の時だ。

このような状況下で常に適切な対処をせよ、というのはいささかムチャぶりだ。だからこういう状況下でも「事故はドライバーの責任」と主張するのは無理があるのかもしれない。一方で、事故をシステムの責任にしてしまうとメーカーが負う責任が大きすぎるという主張も理解できる。ここは議論の余地がある部分だ。

「わしたは げんき です。」
システムを作る側は、そのシステムを使用している「人間の特性」を理解する必要がある。人間の特性とはどのようなものだろうか。例えば手品を見ている時を思い出してほしい。私たちは何とかしてタネを明かしてやろうと手品師の手元を集中して見る。しかし、多くの場合、タネは私たちが集中しているところには隠されておらず、私たちが別のところに注意を向けている間に仕込まれていることが多い。

手品師の仕事とは、タネのないところに人々の注意を集中させることで、タネがあるところに注意を向けさせないことだ。私たちの注意には一定の量があって、何かに深く注意すると広い範囲は見渡せなくなり、逆に広い範囲を見渡そうとすると、どこかに深く注意を向けられなくなる。

「こんちには みさなん おんげき ですか? わしたは げんき です。」という文章、文字の順番が間違っていてもなんとなく読めてしまう。これは私たちが文章を読むときに全ての文字を拾って読んでいるからではなく、経験と予測を使いながら文字列を塊として捉えているからだ。そうでもしないと、私たちは文字を覚えたての子供が絵本を読む程度の速度でしか文章を読めない。

注意の量が限られているのも、物事を予測的に先入観を持って捉えてしまうのも人間の特性だ。このような人間の特性を理解してシステムを作らないと、人間対システムのミスマッチによる事故が発生してしまう。

例えば1994年に起きた中華航空140便墜落事故は、自動操縦システムと人間の対立が原因だ。現在はもちろん改善されたが、作る側が、作る側の論理でシステムを構築すると、人間とシステムのトラブルが起きかねないのである。

「2億キロに1人」の法則…?
話を自動運転に戻そう。今後も自動運転による事故は発生するのだろうか。数字の面から見てみる。日本にあるすべての車の走行距離を合計すると年間8000億キロほどになるそうだ。そして日本の交通事故死者数は年間およそ4000人。犠牲者は2億キロに1人という数字になる。

一方、テスラの自動運転機能「オートパイロット」は今回の事故までに2億キロの走行実績があるそうだ。こちらも2億キロに1人という数字になる。国が違うので一概に比較はできないが、数字は概ね同じになる。この数字で見ると、自動運転のリスクは高いだろうか、低いだろうか。

気をつけなければいけないのは、テスラの事故はまだ1件なので、統計的な分析の代表値としては問題があるという点だ。つまり、テスラの2件目の死亡事故は「オートパイロット」の総走行距離が2.1億キロの時に起きてしまうかもしれないし、総走行距離100億キロまで起きないかもしれないのだ。

また、システムが起こした事故と、人間が起こした事故には根本的な違いがある。仮に今回の事故で何故システムが適切にトレーラーを回避できなかったかが調査され、その解決策が見つかり、世界中のテスラが解決策を組み込んだ最新のソフトウエアにアップデートされたとする(現にテスラは車に搭載されているソフトウエアが定期的にアップデートされることを売りにしている)。

そうすると他のテスラは、少なくとも同じ状況下での事故は起こさなくなる。こういったことが繰り返されると、自動運転の車が起こす事故は長期的に見れば減っていく可能性が高い。

スイスチーズモデル
事故リスクを減らすという観点から見ると、今回のテスラの事故でも「事故は誰のせいか」という議論はあまり意味がないことに気づく。テスラのシステムに重大な欠陥がなかった場合、恐らくドライバーの責任ということで方がつくだろう。

そんなことはないと信じたいが、ここで例えばテスラ社が「事故はドライバーの責任だから我々が対策をする必要はない」と考え、原因究明やそれに基づいたソフトウエアの改善などを行わなかったらどうなるだろうか。対策が行われなければ世界のどこかでまた似たような事故が起きてしまうはずだ。


リーズンの「スイスチーズモデル」 図:著者作成
事故のメカニズムについて、心理学者リーズンは「スイスチーズモデル」を提唱している。危険源は常にあって、その手前に穴のあいたスイスチーズが何枚か並んでいる。普段は穴が重なっていないので事故は起きないが、たまたま運悪く穴が重なってしまうと事故になる。

なるほどよくできたモデルだ。事故を防ぐには、穴をたくさんみつけて1つ1つをなるべく小さくしたり、チーズを増やしたりする。そして対策のどれか一つでも効果を発揮すれば事故は防げるはずだ。

責任を押し付けても仕方がない
今回のテスラの事故では、(これはまだ憶測ではあるが)ドライバーがDVDを見ていたかもしれないこと、テスラのシステムがトレーラーを検出できなかったこと、白いトレーラーの側面が背景に溶け込んでしまったことなどが原因だと言われている。また、衝突後の問題として、テスラがトレーラーの下に潜り込んでしまったためにドライバーが死んでしまった可能性がある。

これに対して、(人間の特性からはちょっと無理があるのかもしれないが)ドライバーがシステムの限界を正しく理解して監視をしておく、システムがトレーラーを見落とした原因を調べて見落とさないように改善する、トレーラーの側面塗装は背景に溶けこまないように単色にしない、側面から衝突した車が下に潜り込まないようにサイドバンパーをつけておくなど、対策はいくつも実行可能だ。

そしてどれか1つでも効果を発揮すれば最悪の事態は防げる。もちろんトレーラー側には責任はないのだが、なるべくたくさんのチーズの穴を小さくするには、「誰の責任か」は置いておいた方が良いのだ。

何か事故が起きた時に、そこにたまたま居合わせて、たまたまやらかしてしまった人に責任を押し付けても、原因究明は進まない。原因究明がされなければ、同じような事故がまた起きる。自分がもしやらかしてしまった人と同じ立場にいたとして、「自分ならやらかさない」と絶対の自信を持って言えない場合には、仕事の内容が「人間の特性」に合ってない可能性が高い。こういう場合は「人間が気をつける」以外の複数の対策をするべきだろう。

本人に悪意がある場合を除いて、一番悪い人を探してその人に責任を押し付ける責任追及型の対応では、たった1つのチーズの穴を小さくするだけか、場合によってはたった1つの穴も小さくできない。もっと言えば、こういった対応は、他の穴を見逃す行為でもあるのだ。責任者を断罪することで満足してはいけない。

今回のテスラの事故は稀な例とは言え、自動運転の安全性と責任の所在が議論になった。「誰が悪かったのか」という議論ではなく「どうすれば防げたのか」という議論が加速し、人間が運転するにせよ、システムが運転するにせよ、今回の犠牲が少しでも交通事故リスクの低減に繋がることを願いたい。


シートベルトをしている助手席としていない後部座席、どっちが安全?心配の源は「リスク」にある。物事を”ありのまま”に捉える新しい学問。
島崎敢(しまざき・かん)
心理学など人間側からのアプローチによって事故や災害のリスクを減らそうとしている研究者。国立研究開発法人防災科学技術研究所特別研究員。1976年東京都生まれ。静岡県立大学国際関係学部を卒業後、大型トラックやタクシーのドライバーとして生計を立てる。2002年早稲田大学大学院人間科学研究科に進学、修士・博士の学位を取得し、同大助手、助教を経て現職。著書に『心配学 「本当の確率」となぜずれる?』(光文社新書、2016年)がある。
http://gendai.ismedia.jp/articles/-/49147


 

2016年07月18日(月) 大川慎太郎
人工知能は将棋界の「敵」なのか? 追い詰められたトップ棋士たちの覚悟と矜持

〔photo〕iStock

文/大川慎太郎(将棋観戦記者)

ある棋士からの"抗議"
クレームを受けるのは気が重いものである。

2015年6月のことだ。アムステルダムのホテルにチェックインするとすぐに、私はある将棋指しに国際電話をかけた。窓の外の陰鬱な天気と同様、私の心もどんよりと曇っていた。旅行中だというのに。

電話の相手は超人気棋士。私の書いた記事に気分を害しているという。事情を聞くために本人に連絡すると、受話器越しの声には刺が感じられた。

私の職業は将棋観戦記者だ。

プロの公式戦を朝から晩まで盤側に張りついて観戦し、新聞や雑誌に「観戦記」を書く。内容は記者によって様々で、まずは指し手の解説、そして対局の舞台背景、さらには対局者の情景描写やエピソードなどだろうか。

私が特に重視しているのは、一局の流れを明確に記して、その対局がどういう将棋だったのかを読者にくっきりとイメージしてもらうことだ。そのためには、見たことを書くだけではいけない。なぜミスをしたのか、なぜその手を知っていたのかなど、「なぜ」という疑問を大事にして背景に迫っていく必要がある。つまり後日の取材がカギになるのだ。

将棋界は棋士と記者の距離が近い。電話番号やメールアドレスも知っているし、何より将棋会館でしょっちゅう顔を合わせる。これは他の勝負事のジャンルに比べると珍しいのではないだろうか。

たとえばサッカーの試合の記事を書くのに、後日わざわざ各々の選手に連絡することは少ないだろう。もっとも将棋は指し手の意味を理解するのがパッと見では難しく、棋士の解説が必要という事情もあるのだが。

観戦記を書く上で対局者に取材をするのは基本なのだが、棋士はいい将棋を指すことが責務で、取材への対応は義務ではない。時間だって取られる。よって、ワンポイントの局面を解説する小さな記事などでは棋士に取材をしないこともあった。

冒頭の抗議を受けたのは、その棋士の対局に関する短い記事だった。その将棋を初めて見た時に、アマチュア三段の私の棋力でも終盤戦で形勢が大きく揺れ動いていることがわかった。実におもしろい将棋で、すぐに記事にすることを決めた。

ただし、終盤でミスがあったことはわかっても、その代案までは私にはわからない。そこでコンピュータの将棋ソフトを使って解析させ、示された候補手を元にして記事を書いた。

ソフトはアクロバティックな手を正解に挙げており、新しい視点を読者に示せたのではないかと満足していたのだが……。

憤慨の理由
2012年から始まった「電王戦」で棋士がコンピュータに何度も敗れたことで、将棋ソフトは世間一般に広く知られた存在となった。

ソフトを研究に活用している棋士は多いが、記者にとってもなかなか便利な道具だ。一局の棋譜を入力すると、どれが疑問手なのかを示し、その候補手まで教えてくれる。形勢の優劣を示す「評価値」のグラフが出るので、一局の流れが明確にわかるのだ。

何より代案の手がおもしろい。人間では気づかないような意外な手を示してくれる。それを棋士にぶつけてみると、「なるほど」「そんな手があるんですか」と驚かれることが多かった。もちろんすべてが正しいわけではないが、かなり精度が高いことは疑いようがなかった。

てっきり私はソフトの代案が間違っていてその棋士が怒っているのかと思ったのだが、よく話を聞いてみるとそうではなかった。自分に直接尋ねもせず、ソフトの候補手を元にして記事を書いたことに憤慨していたのだった。

「ソフトの見解が絶対に正しいわけではないでしょう」と彼は力を込めて語った。

短い記事とはいえ、本人に疑問をぶつけなかったのは私の手落ちだ。その電話でお詫びをし、帰国してから面会をしてもらった。

「ソフトの手が絶対の正解ではない以上、断定調で書かないでほしい」とその棋士は静かな口調で語った。私の行為に不快感を抱いていたのは間違いないが、それ以上に自分の指し手をソフトに評価されることへの嫌悪感がにじみ出ていた。

彼がソフトを研究に使っていないことは、以前に聞いていたので知っていた。お詫びを終えて雑談に入ってから、なぜ使わないのかあらためて尋ねると、鋭い口調で語った。

「ソフトを使うと、自分で考えた新手や新構想を見せても、『ソフトに教えてもらったんじゃないか』と思われてしまう。それは自分のプライドが許さない」

その棋士は棋界有数の創造派で、斬新な新構想をいくつも披露してきた。新しい戦法の入り込む余地はないと思われていた現代将棋に、新たな息吹をいくつも与えたのだ。それだけに、ソフトの手を借りることに強烈な拒否感を抱いていた。

人工知能は人類の敵なのか?
ソフトに関して感情を露わにしたのは彼だけではなかった。

ある棋士は話すこと自体を嫌がった。また別の棋士はどれだけ自分が研究で活用しているのかを滔々と語った。とにかくソフトは棋士の心を様々な意味で揺さぶる存在なのだ。

「棋士とソフト」について強い関心を抱いた私は、観戦記で何度か取り上げてみた。ある対局で指された新手がソフトが発見した手であることを明らかにした記事は、ずいぶんと話題を集め、賞もいただいた。手ごたえを感じた私は、将棋ソフトに特化した話を棋士にじっくり聞いてみたいと考えていた。

そんな時に拙著『不屈の棋士』(講談社現代新書、7月20日発売)執筆の依頼をいただき、渡りに船とばかりに飛びついた。

ソフトにいい感情を抱いていない棋士もいる。一部のファンもしかり。「大川はソフトについて書きすぎ」などというネットの反応を見たこともある。

人によっては地雷になりかねない話題だったが、依頼を引き受けてくれた棋士は思いのほか前のめりになって話をしてくれた。

普段の取材では聞けないようなことや、聞きにくいことも躊躇せずにどんどん尋ねてみた。ずいぶん不躾な質問もしたと思うが、本書に登場する渡辺明竜王が「いま将棋関係で刺激的な本を作りたいのなら、ソフトは外せないでしょう」と言ってくれたのはとても励みになった。

羽生善治三冠が、コンピュータに特化したロングインタビューを受けるのは、私が知る限り本書が初めてだ。勝ち上がればソフトと戦うことになる第1期叡王戦にエントリーしなかった理由を聞いて「なるほど」と納得できた。

羽生が将棋ソフトをどのように使っているのか、また多くの棋士が用いている有力な使用法を拒む話などは実に興味深かった。

渡辺は「ソフトの影響で、今後はでたらめな戦法が増えていく」と未来の盤上について預言者のように語った。

第1期電王戦でソフトに連敗を喫した山崎隆之八段は、ソフトが使える棋士とそうでない棋士が生まれることによって、「いまの将棋界は勝負の平等性が薄れている」と残念そうに漏らした。

ソフト研究にどっぷり浸かっている気鋭の千田翔太五段は「純粋に将棋が強くなりたいのであれば、現在のプロ制度と関係ないところで自由にソフトを使って勉強できる環境の方がいい」とまで語った。

これまで「ソフトを使っていない」と公言していた行方尚史八段は、「実は使っていた」と翻し、「ある対局がきっかけで、使うのを止めた」と告白した。

人工知能を駆使した強い将棋ソフトの登場によって現在、存在意義が問われている棋士たちの姿を、将来の我々の姿に重ね合わせて見ることも可能だろう。

いずれ私たちの仕事を奪っていくとされる人工知能は、はたして人類の敵なのか――。将棋指したちの証言から、何らかのヒントを得られるはずだと確信している。

毎回取材を終えると、棋士の強烈な言葉の数々に当てられた私は異常な興奮状態にあった。そして翌日に録音を聞き返して再びテンションが上がるという、何とも幸福な体験をすることができた。

読者にもぜひ、その感覚を共有していただきたい。


羽生善治は将棋ソフトより強いのか? 渡辺明はなぜ叡王戦に出ないのか? プロとしての覚悟と意地、将来の不安と葛藤……。現状に強い危機感を抱き、未来を模索する棋士たちの実像に迫る。
大川慎太郎(おおかわ しんたろう) 1976年静岡県生まれ。日本大学法学部新聞学科卒業後、出版社勤務を経てフリーに。2006年より将棋界で観戦記者として活動する。著書に『将棋・名局の記録』(マイナビ出版)、共著に『一点突破 岩手高校将棋部の勝負哲学』(ポプラ社)がある。
http://gendai.ismedia.jp/articles/-/49198

 
 

  拍手はせず、拍手一覧を見る

コメント
 
1. 2016年7月18日 12:23:03 : nJF6kGWndY : n7GottskVWw[1941]

>テスラ社が「事故はドライバーの責任だから我々が対策をする必要はない」と考え、原因究明やそれに基づいたソフトウエアの改善などを行わなかったらどうなるだろうか。対策が行われなければ世界のどこかでまた似たような事故が起きてしまう

もっと普及して、対応コストが高くなってくれば起こりうるかもしれないが

現状では企業の論理としてありえないよ


>人工知能を駆使した強い将棋ソフトの登場によって現在、存在意義が問われている棋士たちの姿を、将来の我々の姿に重ね合わせて見ることも可能

単なる知的ドラマとして楽しむのが正しいだろうな

既に、ヒトよりロボットの方が遥かに重い重量を持ち上げ、高く速く移動できるのに、

未だにオリンピックや野球などで、退屈なヒトの運動やゲームを見るのに喜んで金を払っている大衆が多いのと同じことだ



2. 2016年7月18日 12:32:40 : nJF6kGWndY : n7GottskVWw[1942]

そもそもヒトの運動能力は、特化した動物(バイオシステム)に比べれば、圧倒的に劣るのだから

情報処理能力に関して特化したシステムに圧倒的に劣るようになるは当たり前のことで、別に驚くほどのことではない

仮に創造神が存在し、進化によって世界に優れたシステムを作り上げることを考えていたとしたら

ヒトの役割は、もうそろそろ終わりに近づいているということだ

ま、現実には、そんな神はいないだろうから、必然に従い、ヒトもまた繁殖し、いずれ滅ぶというだけだなw



3. 2016年7月18日 19:02:29 : 6jC6Ok4X3M : r9HiorRuc1w[618]
囲碁でも将棋でも同じだが、ゲームは個人と個人が思考能力を競うのが基本だ、今は棋士(人間)とゲームソフトの対戦だから目立たないが将来圧倒的に勝率の良いソフトが開発されて普及すれば囲碁も将棋もゲームとして成り立たなくなってしまう。
ゲームは人間同士が知力を尽くして戦うことに意味が有るんで、機械が確率的に有利なロジックが発見し4たとしても何の意味も無い、なぜなら思考と言うか検証と言うか知らないが評価のロジックを実行するスピードが桁違いの人間と機械が戦ったって象と鼠が戦うようなものなのは誰が考えたって分かることだろう。
今はまともなゲームソフトがやっと出現した時期なのでどっちが勝ったの負けたのと話題になるが、その内ソフトが圧倒的に強くなるのは明らかだろう、だからと言って囲碁や将棋が詰らないゲームになることは無いしプロ棋士が居なくなる訳じゃ無い、人間と起重機がオリンピックの重量挙げで戦うことが無いのと同じだ。

4. 2016年7月18日 19:46:45 : 6jC6Ok4X3M : r9HiorRuc1w[621]
誰の責任かが一番大事だろう、ドライバーの責任にすれば自動運転車は終わりだ、運転は自動運転ソフトがやるが事故が起こればドライバーの責任なんて都合の良い話じゃ誰も乗らない。
かと言って自動運転車のメーカーが責任を持つなんて不可能だろう、実証試験で事故の危険性を減らして行くみたいな記事も出ているが、実証試験で事故のリスクを今の半分に減らすのには100年位かかるだろう(道路の様にありとあらゆる環境が混在する場では事故が起こり得る状況は数百万通りは有るだろう)。
自動車の自動運転なんて言う馬鹿げたことに入れ込むよりスマホで呼べば何処にでも迎えに来てくれるコミュニティーバスみたいな路線運行技術を開発した方が世の中の為だろう、そうすると自家用車は売れなくなって困るのか。

5. 2016年7月19日 14:37:31 : Fg9rdcaJ8o : FPyaANWqRFU[18]
碁や将棋をコンピューターと争うのは愚中の愚だ。自動車と人が競争するのが愚であるのと同じ。機械が幼稚なうちは人間が勝てるかもしれないが、そのうち機械が勝つようになるのは目に見えている。


  拍手はせず、拍手一覧を見る

フォローアップ:


★登録無しでコメント可能。今すぐ反映 通常 |動画・ツイッター等 |htmltag可(熟練者向)|(各説明

←ペンネーム新規登録ならチェック)
↓ペンネーム(なしでも可能。あったほうが良い)

↓パスワード(ペンネームに必須)

(ペンネームとパスワードは初回使用で記録、次回以降にチェック。パスワードはメモすべし。)
↓画像認証
( 上画像文字を入力)
ルール確認&失敗対策
画像の URL (任意):
最新投稿・コメント全文リスト  コメント投稿はメルマガで即時配信  スレ建て依頼スレ

▲上へ      ★阿修羅♪ > 経世済民110掲示板 次へ  前へ

★阿修羅♪ http://www.asyura2.com/ since 1995
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。
すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
 
▲上へ       
★阿修羅♪  
経世済民110掲示板  
次へ