≪驚き≫人工知能（ＡＩ）に公的認証制度、総務省が方針発表！政府「暴走して人間に危害を加える恐れ」赤かぶ

≪驚き≫人工知能（ＡＩ）に公的認証制度、総務省が方針発表！政府「暴走して人間に危害を加える恐れ」
http://www.asyura2.com/16/hasan117/msg/376.html
投稿者赤かぶ日時 2016 年 12 月 31 日 22:35:15: igsppGRN/E9PQ　kNSCqYLU

【驚き】人工知能（ＡＩ）に公的認証制度、総務省が方針発表！政府「暴走して人間に危害を加える恐れ」
http://saigaijyouhou.com/blog-entry-14874.html
2016.12.31 15:00　情報速報ドットコム

＊コンピューター

総務省が人工知能（AI）について、公的認証を与える制度を立ち上げると発表しました。この公的認証制度はAIの安全性やセキュリティーを政府が評価するという内容で、認証を通過したAIには「認証済み」を与えるという仕組みになります。

報道記事には「暴走して人間に危害を加える恐れ」と書いてあり、政府がAIの暴走を強く懸念していることが分かると言えるでしょう。

ただ、AIの規制や認証機関が天下り先となる可能性を懸念する声も多く、ネットの反応を見ると賛否両論でした。

ＡＩに公的認証制度　総務省方針、開発・普及促す
http://www.nikkei.com/article/DGXLZO11240310Q6A231C1NN1000/

総務省は企業が開発する人工知能（ＡＩ）に公的認証を与える制度を立ち上げる方針だ。安全性やセキュリティーなどを評価する。

以下、ネットの反応

苦笑。AIに限定してるから意味不明だな、、、AIというくくりじゃなくて、ソフトウェア全般か、ロボットなどのハードウェアにそれぞれ限定すればまだわかるんだけど。 / “ＡＩに公的認証制度　総務省方針、開発・普及促す　　：日本経済新聞” https://t.co/TbUPAgvpTs
— やみつきー(小笠腹)＠75.5kg (@YAMITZKY) 2016年12月31日

いい利権のネタが出てきて良かったですね。子供のオモチャで稼ぎまくりましょうね。認証取ってるから安全です！！って。https://t.co/isQICQpsjC
— ⛳️藤井洋介🏌️ (@yskfj) 2016年12月31日

これは一体どういうことだ……／ＡＩに公的認証制度　総務省方針、開発・普及促す　　：日本経済新聞 https://t.co/3q0dHF8o2k
— HirotakaOsawa@木東ウ53b (@hiroosa) 2016年12月31日

なお、こちらの日経の報道ですが、誤報です。「公的認証」により規制しようという議論はありません。　https://t.co/ocsCjQVhK1
— 高橋恒一 (@ktakahashi74) 2016年12月31日

認証制度…？仮にやるとしても、あくまで国が示すのは原則程度にとどめて、具体的な基準（？）作りは産学サイドの主導にしなければ、将来の技術・市場発展を阻害しかねない。 → ＡＩに公的認証制度　総務省方針、開発・普及促す　　：日本経済新聞 https://t.co/6tEWd58N8k
— 弁護士増田雅史 (@m_masuda) 2016年12月31日

AIに公的認証制度　総務省方針、開発・普及促す : 日本経済新聞 https://t.co/CcZi1excyJ　総務省はせんしんてきなとりくみにいよくてきですばらしいですね
— ガクムラ氏 (@gakumura) 2016年12月31日

この「総務省の有識者会議」って、どこのことを指してるんでしょう？開発原則分科会のことであれば、こんな話までしてましたっけ？不勉強だったらすみません。 / “ＡＩに公的認証制度　総務省方針、開発・普及促す　　：日本経済新聞” https://t.co/vLiSjEgARP
— ぱうぜ (@kfpause) 2016年12月31日

AIに公的認証制度　総務省方針、開発・普及促す：日本経済新聞 https://t.co/Bv4j0CSfkC
こうしてまた世界から取り残される気がするな…
— 開発室Graph (@studio_graph) 2016年12月31日

「AIは急速に進歩しているが、暴走して人間に危害を加える恐れがあり」

省庁がこんなこと言ってるしもうダメだhttps://t.co/V8TOkbk0AF
— まやたか (@mayataka_) 2016年12月31日

なにバカなこと言い出してる？誰が評価できる？
国のシステムすらまともに管理できない連中が、また市場を邪魔する規制、既得権づくりかい。
-　ＡＩに公的認証制度　総務省方針、開発・普及促す　　：日本経済新聞: https://t.co/Q4xDGti8cK
— Q W O O O (@QWOOO) 2016年12月31日

「事故を起こしたときには可能な範囲でAIの判断・動作の理由を説明するよう開発者に求める」…これは大変だ。データは移り変わるし、個々の詳細なログを分けて出力するのかな

AIに公的認証制度　総務省方針、開発・普及促す：日本経済新聞 https://t.co/RL410YkJHo
— ʇɟnʞɐƃɐ (@tfukaga) 2016年12月31日

〔サイエンスZERO〕人工知能の大革命！ディープラーニング〔Science Zero〕

AI　人工知能　no.1

記事コメント

良いようにも悪いようにもとれるけど、
今からaiの勉強したいやつは、アメリカに行け
[ 2016/12/31 15:15 ] 名無し [ 編集 ]

世襲痴能安倍の暴走の方を懸念した方が良いな。
[ 2016/12/31 15:22 ] 木曜日 [ 編集 ]

ロボット三原則
第一条
　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
　ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　公的認証の対象とするAIや暴走の定義で議論沸騰しそうですが。暴走はともかく、例えば自動運転の自動車が事故を起こした場合の法的な対処のフレームを作る、だからAIの開発にいそしんでくれというメーカーへのメッセージならいいですけどね。
　近い事例で挙げられるのがルンバでしょ。蝋燭の火がついた仏壇に衝突して火災になる場合などを恐れて日本メーカーは開発をしぶったと聞きますが。
　AIによる株の自動取引も対象ですかね。暴走して人間に(金銭的な意味で)危害を加えたら、その損害はとんでもないことになりそうです。
[ 2016/12/31 15:23 ] 自民がんばれ [ 編集 ]

雇用がへる。
困るのは普通の人達。
得するのは企業のトップだけでしょう。人件費へって。
なぜ政府はすすめる？
経団連にとって得だから。だからやめよう、そんなの。
[ 2016/12/31 15:41 ] 名無し [ 編集 ]

ブラックボックス支配の到来

ブラックボックスの正体不明悪魔権威に従え～
[ 2016/12/31 15:46 ] 名無し [ 編集 ]

公認が一番あてにならbないな。
現政府では。
[ 2016/12/31 15:47 ] 名無し [ 編集 ]

AIの前にAB（アベ）が暴走してますけど。
早くシャットダウンさせないとね。
[ 2016/12/31 15:49 ] 名無し [ 編集 ]

↑爆笑！おもろいやん！
[ 2016/12/31 15:54 ] 名無し [ 編集 ]

何でもかんでも規制する末期的な全体主義政府。
IT の世界に国境なんてないことも分からない白痴役人。
そんなの海外サーバで稼働させたら一発やん。
それともインターネットも禁止する？（笑）
[ 2016/12/31 15:56 ] 名無し [ 編集 ]

1. 2016年12月31日 23:04:22 : MCiH57fzrH : bM5TgBuKZEs[8]

▲△▽▼

ＡＩに公的認証制度　総務省方針、開発・普及促す
2016/12/31 1:30　日本経済新聞

　総務省は企業が開発する人工知能（ＡＩ）に公的認証を与える制度を立ち上げる方針だ。安全性やセキュリティーなどを評価する。「認証済み」を使う企業や個人で事故が起きた場合の責任の範囲を抑えて利用しやすくする計画だ。ＡＩは急速に進歩しているが、暴走して人間に危害を加える恐れがあり、認証制度を通じて安全性を高めて開発・普及を促す。

　公的認証の対象は米ＩＢＭ「ワトソン」のようなコンピューターから、そうしたコンピューターを搭載したロボットまで幅広く想定している。今は研究開発の特別な規制や指針はない。

　総務省の有識者会議が来夏、研究開発の指針をまとめる。そのうえで2018年以降に必要な法改正や公的認証制度を立ち上げる予定だ。

　制御できなくなれば、人間に危害を加えたり、重要な情報を取得・漏洩したりする危険性がある。米マイクロソフトが開発したソーシャルメディア上で人間と対話するＡＩが３月に差別的な発言を連発し、同社が運用を停止した。米著名起業家のイーロン・マスク氏は危険性を公言している。

　米国ではグーグルを傘下にもつアルファベットなどのＩＴ（情報技術）大手がＡＩ暴走などへの懸念を払拭する団体を設立している。

　厳しい規制を導入すると技術の進化を妨げる可能性もある。このため安全性が高いものが市場で選ばれやすくなるような制度が望ましいと判断した。

　公的認証の付与には、人間が必ず制御できるようにすることを求める。人間や他のＡＩが常に状況を監視して、非常時は停止や修正ができる仕組みにする。サイバー攻撃を受けても簡単に操られたり情報を抜き取られたりしないように高度なセキュリティーも求める。個人情報の取得を制限したり、取得してもすぐに匿名化したりするなど、プライバシーへの配慮も求める。

　安全性の面では不必要に強力なモーターを搭載しないなど、暴走しても被害を最小限にとどめる設計を求める。事故を起こしたときには可能な範囲でＡＩの判断・動作の理由を説明するよう開発者に求める。第三者機関がこうした点を評価したうえで、公的認証を与える仕組みをつくる見通しだ。

　ロボットが人を傷つけるなどの事故を起こしても、利用者側の責任を抑える仕組みを導入する。ＡＩは学習した結果が判断や動作に影響するため、利用者も一定の責任を問われるリスクがある。総務省は特別法を制定することで、利用者は安全性の高いＡＩを使っていたことを法的に位置づけたい考えだ。ただし法曹界との調整も必要だ。

　公的認証を得た開発会社の賠償責任が重くなりすぎないよう、新たな賠償責任保険制度の立ち上げも検討する。政府や地方自治体などがＡＩを導入する際には、入札で有利になるような基準もつくる。

　総務省はＡＩなどの普及が進めば、20年度時点の実質国内総生産（ＧＤＰ）を33兆円押し上げると推計。このためにはＡＩの安全性を高める必要があると判断した。

http://www.nikkei.com/article/DGXLZO11240310Q6A231C1NN1000/

2. クールクール・Ｋ[141] g06BW4OLg06BW4OLgUWCag 2017年1月01日 04:06:45 : 3eyVFVE6Qc : 4ITerbtfGWw[49]

▲△▽▼

＞不必要に強力なモーターを搭載しないなど、暴走しても被害を最小限にとどめる設計を求める。

そう。同じＡＩでも、組み合わせるハード次第で、全くの別物に発展していくよ。
例えば、（人間よりも）非力なハードに搭載すれば「卑屈な性格」のロボットになったり、
逆にハイパワーな多数のハードに搭載すれば・・・

3. 2017年1月01日 14:03:44 : olkj4KvAK6 : zNOfyhJl754[27]

▲△▽▼

こんなことすれば、日本のＩＴはどんどん遅れて行く、日々変化するＡＩの世界にどうやって認証基準を設定するんだ、基準が出来たころには日本の産業は世界から１０年は遅れているだろう。
認定制度にすれば、申請料や講習会開催など利権になると思っているんだろうが、そんなチマチマした利権のために日本の産業を殺してしまうつもりか。