http://www.asyura2.com/16/hasan107/msg/134.html
| Tweet |
「ヒトラーは正しい」で緊急停止 最先端人工知能の“アキレス腱”
http://zasshi.news.yahoo.co.jp/article?a=20160331-00006031-sbunshun-soci
週刊文春 3月31日(木)12時1分配信
「Hitler was right I hate the jews.(ヒトラーは正しい。ユダヤ人は大嫌い)」
こんなトンデモ発言を繰り返し、ネット発信した人工知能(AI)が3月23日に公開されてから1日で緊急停止に追い込まれた。他にも「フェミニストは地獄で焼かれろ」などの差別表現も連発。
このAIは米マイクロソフトが開発した「Tay」。ユーザーはTayとツイッターなどのSNSで繋がる事で疑似会話を楽しめる仕組みだった。こうしたAIはチャットボットと言われるが、本来は「お帰りなさい」「ご飯とパンどちらがいいですか？」といった具合にゲーム感覚で遊ぶもの。AIはユーザーの言葉を学び、記憶していく。
ところが悪意あるユーザーが繰り返し非道徳的な表現やヘイト発言を書き込んだ事で、Tayはそれらの発言は人にとって重要な言葉だと“誤って学習”してしまったのだ。
「AIの学習能力は人間に似せて作っていますが、今は子供と同レベル。子供なら笑って済みますが、世界的企業の製品ならば倫理的な側面も問われるでしょう」(島根大学医学部の津本周作教授)
皮肉だが、この学習能力の高さがAI進歩最大の理由だ。人間の教えたプログラムに沿うだけでなく、ディープラーニング(深層学習)という能力で自らが学習する。2週間前には囲碁AIがイ・セドル九段を4勝1敗と圧倒。その驚きが冷めやらぬ内になぜこんなお粗末な事件が起きたのか？
山田誠二・国立情報学研究所教授は「AI最大の弱点が露呈した」と指摘する。
「60年代から始まったAIの開発以来、最も難しい分野が“人の常識を教える”事。人間なら言ってはいけない言葉や道徳観念は子供でも分かります。でもAIには『これを言っては駄目』と一つずつ教えないといけません。文字通り無限の組み合わせです」
元グーグル日本法人社長の辻野晃一郎氏は警鐘を鳴らす。
「Tayの件が暗示するのは、どんな人の影響を受けるかで人格や生き方が変わるように、AIも悪い人間に教育されたら“悪いAI”になるという事です」
2045年にはAIが人類を超越する「シンギュラリティ」がやってくるという説もある。あと30年でAIは倫理的なオトナになれるのか。
＜週刊文春2016年4月7日号『THIS WEEK 社会』より＞
投稿コメント全ログ コメント即時配信 スレ建て依頼 削除コメント確認方法
▲上へ ★阿修羅♪ > 経世済民107掲示板 次へ 前へ
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。