★阿修羅♪ > 経世済民107 > 134.html
 ★阿修羅♪  
▲コメTop ▼コメBtm 次へ 前へ
「ヒトラーは正しい」で緊急停止 最先端人工知能の“アキレス腱”(週刊文春)
http://www.asyura2.com/16/hasan107/msg/134.html
投稿者 赤かぶ 日時 2016 年 3 月 31 日 13:45:30: igsppGRN/E9PQ kNSCqYLU
 

「ヒトラーは正しい」で緊急停止 最先端人工知能の“アキレス腱”
http://zasshi.news.yahoo.co.jp/article?a=20160331-00006031-sbunshun-soci
週刊文春 3月31日(木)12時1分配信


「Hitler was right I hate the jews.(ヒトラーは正しい。ユダヤ人は大嫌い)」

 こんなトンデモ発言を繰り返し、ネット発信した人工知能(AI)が3月23日に公開されてから1日で緊急停止に追い込まれた。他にも「フェミニストは地獄で焼かれろ」などの差別表現も連発。

 このAIは米マイクロソフトが開発した「Tay」。ユーザーはTayとツイッターなどのSNSで繋がる事で疑似会話を楽しめる仕組みだった。こうしたAIはチャットボットと言われるが、本来は「お帰りなさい」「ご飯とパンどちらがいいですか?」といった具合にゲーム感覚で遊ぶもの。AIはユーザーの言葉を学び、記憶していく。

 ところが悪意あるユーザーが繰り返し非道徳的な表現やヘイト発言を書き込んだ事で、Tayはそれらの発言は人にとって重要な言葉だと“誤って学習”してしまったのだ。

「AIの学習能力は人間に似せて作っていますが、今は子供と同レベル。子供なら笑って済みますが、世界的企業の製品ならば倫理的な側面も問われるでしょう」(島根大学医学部の津本周作教授)

 皮肉だが、この学習能力の高さがAI進歩最大の理由だ。人間の教えたプログラムに沿うだけでなく、ディープラーニング(深層学習)という能力で自らが学習する。2週間前には囲碁AIがイ・セドル九段を4勝1敗と圧倒。その驚きが冷めやらぬ内になぜこんなお粗末な事件が起きたのか? 

 山田誠二・国立情報学研究所教授は「AI最大の弱点が露呈した」と指摘する。

「60年代から始まったAIの開発以来、最も難しい分野が“人の常識を教える”事。人間なら言ってはいけない言葉や道徳観念は子供でも分かります。でもAIには『これを言っては駄目』と一つずつ教えないといけません。文字通り無限の組み合わせです」

 元グーグル日本法人社長の辻野晃一郎氏は警鐘を鳴らす。

「Tayの件が暗示するのは、どんな人の影響を受けるかで人格や生き方が変わるように、AIも悪い人間に教育されたら“悪いAI”になるという事です」

 2045年にはAIが人類を超越する「シンギュラリティ」がやってくるという説もある。あと30年でAIは倫理的なオトナになれるのか。


<週刊文春2016年4月7日号『THIS WEEK 社会』より>
 

  拍手はせず、拍手一覧を見る

コメント
 
1. 2016年3月31日 17:34:52 : BgMZfmGIi2 : yrsuJ@BHgAY[7]

「人間なら言ってはいけない言葉や道徳観念は子供でも分かります」というのは間違い。
周囲が差別主義者なら、同調して自然に差別主義者になるのはAIと同じ。

2. 2016年3月31日 19:21:15 : aQq0UGoaxY : pNHEWTkf6T8[148]
Tayが言ったのは、
"bush did 9/11 and Hitler would have done a better job than the monkey we have now. donald trump is the only hope we've got."

文春は、「911はブッシュがやった」とは流石に書けなかったわけね。


3. 2016年3月31日 20:21:02 : QwLCpsM5fk : SE_0rlmAq7E[28]
便利さを もたらす筈が 鬼っ子に

4. 2016年4月02日 12:43:14 : 4OAG5Jdpn6 : lmN1oQvkOoY[217]

最戦端 塵考痴脳の壺三の仲間にも似たような考えのヤツがいたな。

たしかアホーとか言ったか、『ナチスに倣え!』と言ったヤツ。


5. 2016年4月02日 19:47:46 : 4rxbhjv2gK : tA2sOkxeFQY[1]
津本周作という御仁も山田誠二という御仁も何も分かってない。
教授と言っても、この程度です。

  拍手はせず、拍手一覧を見る

フォローアップ:


★登録無しでコメント可能。今すぐ反映 通常 |動画・ツイッター等 |htmltag可(熟練者向)|(各説明

←ペンネーム新規登録ならチェック)
↓ペンネーム(なしでも可能。あったほうが良い)

↓パスワード(ペンネームに必須)

(ペンネームとパスワードは初回使用で記録、次回以降にチェック。パスワードはメモすべし。)
↓画像認証
( 上画像文字を入力)
ルール確認&失敗対策
画像の URL (任意):
投稿コメント全ログ  コメント即時配信  スレ建て依頼  削除コメント確認方法

▲上へ      ★阿修羅♪ > 経世済民107掲示板 次へ  前へ

★阿修羅♪ http://www.asyura2.com/ since 1995
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。
すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
 
▲上へ       
★阿修羅♪  
経世済民107掲示板  
次へ