http://www.asyura2.com/14/it12/msg/185.html
| Tweet |
(回答先: 僕たちはこれから、ロボットに「調和」を求めて生きてゆく AI秘書がもたらす新しいワークスタイル（前編） 投稿者 軽毛 日時 2016 年 6 月 13 日 13:21:50)
人工知能の未来−識者4人に聞く
2016 年 6 月 17 日 09:40 JST
機械が知能を持つ時代に我々の世界はどう変わっていくのか。人工知能（AI）研究の世界を代表する4人の識者に話を聞いた。登場するのは、米フェイスブックのヤン・ルカン氏、中国のインターネット検索大手、百度（バイドゥ）の呉恩達氏、英オックスフォード大学のニック・ボストロム氏、米ベンチャー投資会社ファウンダーズ・ファンドのルーク・ノセック氏だ。
機械にどう学ばせるか
ソフトウエアの学習カリキュラムについて：
フェイスブックのAI研究部門ディレクター、ヤン・ルカン氏
AIと言えば従来、通常人間が行うようなやり方でタスクをこなしたり、問題を解決したりする機械の能力を意味する。写真の被写体の識別や自動車の運転など、われわれが簡単とみなすタスクの中にはAIにとって極めて厄介なものがある。チェスなど一部のことについては機械が人間に勝る場合もあるが、それら機械は人間の手でプログラミングされているという限界がある。30ドルの機械はボードゲームでわれわれを負かすことができても、それ以外のことはできず、学習によってできるようにもならない。
そこで役に立つのが機械学習だ。機械に何百万枚もの猫の写真を見せ、アルゴリズムを徐々に向上させていくことで、猫の写真を認識できるようにするのだ。機械学習は大手インターネット会社の基盤であり、検索クエリーの答えをランク付けしたり、さまざまな候補を表示したり、各ユーザーに最適なコンテンツを選択したりできるのはそのおかげだ。
それよりもはるかに複雑なのが、人間の脳をモデルにした深層学習（ディープラーニング）だ。機械学習と異なり、深層学習では音や画像の重要な特徴以外は全て無視するよう機械に教え込むことができる。つまり、無限の多様性で構成される世界を階層的にとらえさせるのだ。深層学習は自動運転車や音声認識エンジンのほか、熟練した放射線医師よりも正確に腫瘍を特定できる医療用分析システムに道を開くものだ。
このように驚異的に進歩しているとはいえ、人間どころかネズミ程度の賢さを持つ機械の開発でさえも、まだかなり先だ。われわれが今のところ目にしているのはAIができることのわずか5％程度だ。
キャリアを見直すべきときなのか
AIが与えるわれわれの仕事への影響について：百度のチーフサイエンティスト、呉恩達氏
米国で現在最も多い職業の1つがトラックドライバーだ。数百万人の男女が貨物を全米に輸送して生計を立てている。しかし、これらの仕事はすぐになくなる可能性がある。自動運転車が同じルートをより速く、安全かつ効率良く走行するようになるからだ。どちらか選べるとしたら、高いコストがかかる上、ミスを犯しやすい人間を選ぶ企業などあるだろうか。
この種の労働市場の大変革は過去にもあった。産業革命前は米国の労働者の90％が農業に従事していた。蒸気機関の台頭で多くが職を失った。しかし、新たな仕事や、当時は誰も想像し得なかった新しい分野が創出された。この大変動は2世紀にわたって起こったため、米国には適応する時間があった。農民が引退するまで土地を耕す一方で、その子供たちは学校に行き、機械工や工場作業員、不動産業者、食品化学者になった。
‘1930年代以来の大規模な労働力の移動を目の当たりにしようとしている’
しかし、トラックドライバーの未来はそこまで幸運ではないだろう。彼らの仕事をはじめ数百万の職がすぐに時代遅れになる可能性がある。機械が知能を持ったインテリジェントマシンの時代には、働くことができず、カネを稼げず、税金を払うことができなくなる人が多く生まれるだろう。そうした労働者は再教育が必要になる。さもなければ、寒空の下に取り残される恐れがある。われわれは1930年代以来の大規模な労働力の移動を目の当たりにする可能性がある。
1933年、フランクリン・ルーズベルト大統領が提案したニューディール政策が大勢の失業者を救済し、経済の再活性化を後押しした。もっと重要なのは、それによって米国が農業社会から工業社会に移行したことだ。公共事業局などの政策によって、失業者を橋や新しい幹線道路の建設に雇い入れることで、われわれの輸送インフラは向上した。それは、当時の画期的な新技術である自動車の普及に道筋をつけた。
われわれは、21世紀版のニューディール政策を打ち出し、AIが生み出す新しい仕事に備えた教育プログラムを策定する必要がある。トラックドライバーや事務アシスタントを再教育し、データアナリストや旅行を最適化するトリップオプティマイザーといった、まだわれわれが必要であることを分かっていない新しい職業を作り出す必要がある。南北戦争前の農民が息子が機械工になることなど恐らく想像できなかったように、AIがどのような新しい仕事を生み出すかは予想できない。しかし、工業社会からインテリジェントマシンの時代に移行したいのなら、抜本的な措置が必要なのは明白だ。
AIもわれわれと同じ
インテリジェントマシンはいかに作り手に似るか
人間並みのAIの実現に向けた次のステップは、賢い――しかし、自律性はない――機械の開発だ。自動車のAIシステムはあなたを無事に家に届けてくれるだろうが、あなたが家の中に入ってしまえば別の行き先を選ぶことはしない。ここからは、われわれが基本的な運転操作のほか、感情と道徳的価値観を加えることになる。人間の脳と同じくらいの学習能力がある機械を開発できるとすれば、それが人間のような性質や欠点を受け継ぐことは容易に想像がつく。
しかし、私の見解では「ターミネーター」のようなシナリオはすぐには起こり得ない。それには独立した悪の組織が、インテリジェントマシンに具体的に悪意を組み込む必要がある。また、一グループや一個人はもちろんのこと、組織でさえも人間並みのAIを完成させることはできないだろう。インテリジェントマシンの開発は現代科学の最難題の1つであり、国や企業、研究機関、大学を超えてアイデアを共有する必要がある。AIの進歩は段階的でオープンなものになる可能性が高い。（ヤン・ルカン氏）
PHOTO: DANIEL HERTZBERG
機械をどう使いこなすか
AIの実存的な危険性について：
オックスフォード大学人類の未来研究所初代所長、ニック・ボストロム氏。聞き手はダニエラ・ヘルナンデス記者
−現在どのような研究に取り組んでいるのか
われわれが興味を持っているのは、「制御問題」に関連した技術的な課題だ。プログラマーが意図した通りに（AIが）動くようにするにはどうすればいいのか。また、そのようなスーパーインテリジェントなAIが登場した場合の経済的、政治的、社会的問題に関する研究にも関心がある。機械が知能を持つマシンインテリジェンス時代への移行に対処する上で、どのような政治機関が最も役に立つのか。さまざまな利害関係者が共に行動し、良い結果を導き出すにはどうすればいいのか。
−AIの実存的リスクに関する研究にも力を入れているが、5歳児でも分かるように説明してもらえないか
言うなれば、全人類の未来を丸ごと永久に破壊しかねないテクノロジーだ。やや年配の人には、人類が消滅する可能性、あるいは将来に価値を達成する可能性が永久に損なわれる可能性があると言った方が分かりやすいかもしれない。
−AIの実存的リスクを軽減するにはどうすればいいのか
制御問題に関する研究が役に立つ可能性がある。われわれが機械を本当に賢くする方法を見い出すときまでには、そのようなリスクをどう制御すればいいか、機械がわれわれの味方となり、人間の価値に同調し、破壊的なことをしないようにするはどう設計すればいいかについて、何らかのアイデアが得られているはずだ。それには多くの技術的難題が伴うが、その一部は今日からでも取りかかれる。
−例えばどのようなものか
この制御問題にどう取り組むかはさまざまな考え方がある。対処法の1つは、価値の学習について研究することだ。われわれはAIに最終的にわれわれの価値観を共有させ、われわれの意思の延長として動くようにしたいと考えている。全ての懸念事項を長々と書き連ねても明るい見通しは得られない。それよりも、AI自体の知性を生かし、われわれの価値観や嗜好（しこう）を学ばせる方が有望だ。
PHOTO: DANIEL HERTZBERG
−価値観は人によって異なるが、機械がどのような価値を学習すべきかをどう決めるのか
それは大きくて複雑な問題だ。価値観には重大な違いがある可能性や利害が衝突する可能性がある。そして、これはある意味、残された最大の問題だ。技術的進歩を楽観的に考えれば、いずれもっと多くのことを行う方法を見いだせると思えるだろう。
われわれは自然をかつてないほど支配するようになるだろう。しかし、技術がおのずと解決できない問題が、紛争や戦争だ。最悪の場合、人々がこの先進性や自然を支配する力、知識を他者を傷つけたり、滅ぼしたりするやり方で使用する可能性がある。この問題はおのずと解決されない。
−そのような緊張にどう対処できる可能性があるか
私は簡単な答えは持ち合わせていない。容易な技術的解決策があるとは思わない。
−AIを制御システム下に置いても、自己プログラミング因子によってAIが自らをその足かせから解放できるようになるのではないか。人間は身勝手な行動を取るとき、常にこれをある程度行っている
スーパーインテリジェントAIは自らをプログラミングし直し、自らの価値観を変え、われわれがはめた型を破ることができるというのが伝統的な見方だ。だとすれば、AIがわれわれにとって有害な方法でそうした能力を使用しないよう設計することが目標だ。AIが人間に奉仕したいと考えれば、人間を殺し始めることにつながる行動には非常に低い期待効用値を割り当てるだろう。目標とするシステムを適切に設定すれば、そのような最終的な決定基準は保たれると考える根本的理由がある。
われわれの脳の向上
AI登場までに人間の脳を鍛える必要性について：
ペイパルとファウンダーズ・ファンドの共同創設者、ルーク・ノセック氏
今年初め、世界最強と言われる韓国のプロ棋士、李世ドル九段が、グーグル子会社が開発したAIコンピュータープログラム「アルファ碁」と全5戦の歴史的対局を行った。李氏は国際棋戦で18度の優勝を誇る。2016年3月19日、李氏はアルファ碁に負けた。
今日の高性能コンピューティングは、かつて例を見ないほどパワフルだ。それでも、人間の脳が持つ能力に匹敵する汎用人工知能（AGI）（別名「ストロングAI」）の開発からは依然ほど遠い。われわれはAGIがどのように機能し、われわれの生活や経済にどのような影響を与えるかをまだ理解していない。その影響の度合いはしばしば核技術の出現と比較され、物理学者のスティーブン・ホーキング博士から電気自動車大手テスラ・モーターズのイーロン・マスク最高経営責任者（CEO）、アルファ碁の開発者に至るまであらゆる人がAIの開発を慎重に進めるべきだと忠告している。
核との比較は強烈ではあるが適切だ。核技術と同じく、ストロングAIは最悪の場合、世界を壊滅させる可能性をはらんでいる。つまり、悪意を持ったスーパーインテリジェントAIが人類と敵対し、殺そうとする可能性だ。逆に、楽観的な予測は極端に前向きだ（世界的な経済の繁栄や病気の撲滅など）。われわれは過度の恐怖と楽観主義の双方に偏っているのかもしれない。
ストロングAIは、数十億人の人々がより安全で健康で幸せな生活が送れるようにしてくれる可能性がある。しかし、そうした機械を設計するには、賢い人間と機械が共存する社会が直面する複雑な社会的、神経学的、経済的現実について、エンジニアが深く理解している――現存する誰よりもはるかに深く理解している――必要がある。また、われわれが既に持つ脳をもっと向上させれば、ストロングAIを概念化および製造し、それと共存する態勢がさらに整うだろう。
人間の知能の向上は3段階に分けることができる。第1段階は、グーグル検索などの技術を使用して人間の脳を拡張・補足することで、これは順調に進んでいる。1996年当時の小学生には図書館しかなかったが、2016年の小学生にはグーグルのホームページがある。キーボードをたたくだけで、人間の知識の多くを得られるようになった。
第1段階が脳を技術で補うことだとすれば、第2段階は脳を直接増強することだ。適応学習ソフトウエアを使えば、教育を各個人に合わせてカスタマイズし、授業をリアルタイムに調整できる。生徒が優秀な場合はペースが速くなる。生徒が困っているようであれば、ペースを落とし、教え方を変えるか、助けが必要であることを指導者に知らせる。適応学習とオンライン教育は汎用教育の終わりを意味するかもしれない。仮想現実（VR）と拡張現実（AR）を組み入れることで、予想もしない形で知能を増強できる可能性もある。
第3段階は、脳の根本的な変換だ。電磁コイルを脳に当てる「経頭蓋磁気刺激法（TMS）」は、米食品医薬品局（FDA）の承認を受けた非侵襲性の治療法の1つ。TMSは現在、心的外傷後ストレス障害（PTSD）や自閉症、うつ病の治療に使用されている。カリフォルニア州ニューポートビーチの脳治療センターやケンタッキー州のルイビル大学などの治療施設のサンプルサイズは小さく、影響期間も不明だが、かなりの割合の患者――高機能自閉症患者200人を対象にした治験の最大90％−が改善を見せていた。初期の兆候からは、TMSが幅広い一見無関係に見えるさまざまな神経系疾患に効果がある可能性がうかがえる。傷ついた脳や非定型発達の脳にポジティブな影響を与えることができるとすれば、健康な脳と知能の向上を一般化された方法でより強く関連づけられるようになるのは、さほど遠い将来のことではないかもしれない。
ストロングAIは近い将来開発されるかもしれないが、今われわれにあるのは人間の脳だけだ。われわれ自身の知能を向上させることが、将来の賢い機械の開発と共存に向けた第一歩だ。
機械に常識は教えられない
少なくとも今はまだそうであり、本当のAIを開発する上で最大の障害がこれだ
「予測学習」または「教師なし学習」は、動物や人間がこの世界を理解するようになるための基本的な方法だ。例えば「ジョンは電話を手に取り、部屋を出た」という文章を読んだとき、われわれは経験から電話は恐らく携帯電話のことで、ジョンはドアから出ていったのだろうということが分かる。この世界の表象を持たず、さまざまな制約がある機械は、そのような情報を推察することは決してできないだろう。機械の予測学習は非常に重要ではあるが、まだ未開発の機能だ。これが実現できれば、AIは子供と同じように人間の監督がなくても学習できるようになるだろう。しかし、常識をソフトウエアに教えることは、単なる技術的な問題にとどまらない。根本的な科学的・数学的難題であり、解決に数十年かかる可能性もある。それまでは、われわれの機械は決して本当の意味で賢くはなれない。（ヤン・ルカン氏）
関連記事
人工知能に学習させる「考え方のデザイン」
日本が目指す人工知能による技術大国の復活
大学の教育助手にロボット、学生は気づかず
人工知能、この戦略ゲームで人間に勝てるか
人工知能めぐる倫理や法律問題の研究所、ケンブリッジ大に
人工知能マシン、プログラマーに怒る
死者との交流目指す「エリュシオン計画」 人工知能の限界と未来
http://jp.wsj.com/articles/SB11611722697749014104804582132000837543234?mod=wsj_nview_latest
投稿コメント全ログ コメント即時配信 スレ建て依頼 削除コメント確認方法
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。