★阿修羅♪ > 経世済民126 > 105.html
 ★阿修羅♪  
▲コメTop ▼コメBtm 次へ 前へ
AIが性差別・人種差別をするのはなぜか? どう防ぐか?(ニューズウィーク)
http://www.asyura2.com/18/hasan126/msg/105.html
投稿者 赤かぶ 日時 2018 年 2 月 15 日 22:32:25: igsppGRN/E9PQ kNSCqYLU
 

AIが性差別・人種差別をするのはなぜか? どう防ぐか?
https://www.newsweekjapan.jp/stories/technology/2018/02/ai-32.php
2018年2月15日(木)16時26分 エイプリル・グレーザー ニューズウィーク



 Kirill Makarov-Shutterstock


<公開データを学習したAIは古い固定観念や偏見も一緒に吸収する。この課題をいかに克服すべきか>

人工知能(AI)は人類の文明にとって根本的な脅威になる――米起業家イーロン・マスクはそう警告した。だが問題はAIが賢くなり過ぎることではない。むしろ愚か過ぎることだ。

意思決定を自動化するAIのソフトウエアは、判事が裁判の量刑を決める参考にも、病院の治療計画の作成にも使われている。スマートフォンに「薬局」と入力するだけで、お気に入りの薬局の住所をグーグルが地図に表示してくれるのもAIのおかげだ。AP通信はマイナーリーグのスポーツ記事をAIに書かせている。

ただし、AIが幅広く使われるようになったからといって、技術的に完成に近づいたとは限らない。AIが偏見や差別まみれの不公正な判断を下す例は山ほどある。16年、ある高校生がグーグルで「3人の黒人の若者」を検索したところ、逮捕時の容疑者の顔写真が表示された。一方、「3人の白人の若者」の検索では、笑顔の若者たちのページがヒットした。15年のオンライン広告の研究によれば、グーグルのAIシステムが女性ユーザーに提示する高給の仕事の広告数は、男性ユーザーのそれよりも少なかった。

AIのシステムには、社会全体の偏見が意図せず反映されることが多い。理由の1つは、まず最初に大量のデータを学習しなければならないからだ。データという「エサ」をAIに食べさせるのは人間であり、誰もが固有の偏見にとらわれている。

データ自体にも問題があるようだ。AIシステムのためにデータを取得する方法は、大きく分けて2つある。1つは、「プラットフォーム」を構築してデータを収集するやり方。ユーザーの個人情報を無料で集めるフェイスブックはその一例だ。

もう1つの方法は、他の誰かのデータを有料または無料で入手することだが、このやり方はさまざまな問題の原因になりかねない。例えば著作権問題を回避するために、誰でも無償で利用できる「パブリックドメイン」のデータを使うケース。ニューヨーク大学法科大学院のアマンダ・レベンドウスキの論文によれば、この種のデータには歴史的経緯に基づく偏見が大量に含まれている。

■データの「公正な利用」が必要

大規模でまとまったデータセットは著作権で保護されている場合が多いため、AIの製作チームはパブリックドメインやその他の公開データ(ウィキリークスの暴露文書や機密指定解除済みの捜査文書など)をよく利用する。公開データは著作権の制約がなく、誰でも無料で利用できる。

だがそうしたデータは古いものが多く、作成当時の固定観念や偏見が含まれている可能性がある。今は無料で利用できる古い公開データには、ある意味でアメリカの人種差別や性差別の歴史が反映されているとも言える。漏洩または公開された犯罪捜査の文書は、それ自体が物議を醸す内容であるケースが多い。

AIの製作チームはソフトウエアに学習させるデータが必要であり、そのため合法的に利用できるデータは何でも使おうとする傾向が目に付く。たとえ、そのデータが理想的なものではない場合でも、だ。

この事態を回避するにはどうすればいいか。改善策の1つはAIシステムを構築する際、「著作権あり」のデータをきちんとした手続きを踏んで利用する行為は「フェアユース(公正な利用)」に当たり、著作権法に反しないと明確にすることだろう。レベンドウスキによれば、AI学習データの著作権をめぐる対立が法廷に持ち込まれたことはまだない。裁判所がはっきりした法的判断を下すまで、AI製作者は利用しやすく、法的な問題がなく、多くの偏見を含んだデータセットを使い続ける可能性が高いという。

データがAIの学習に使われるようになった今、私たちが心配すべきなのは情報の透明性や説明責任だけではない。AIと共に築く未来が過去の不正や過ちを決して繰り返さないよう、手立てを講じる必要がある。



 

  拍手はせず、拍手一覧を見る

コメント
 
1. 2018年2月15日 22:51:00 : nJF6kGWndY : n7GottskVWw[4701]

>AIが性差別・人種差別をするのはなぜか? どう防ぐか?

いくら合法的なデータだけに限ったところで、あまり意味はないし

下手に制限すると、逆に、性能が落ちるだろう

>AIと共に築く未来が過去の不正や過ちを決して繰り返さないよう、手立てを講じる必要

それは無理だなw

所詮、AIも、外部環境から学習して適応的なルールを作り上げているだけ

普通の人間と、ほぼ同様な単純な仕組みで動いているだけだから

まず人間が、差別をするのはなぜか? どう防ぐか?を考えてみることだなw

 


2. 2018年2月16日 00:34:25 : pwvL59dznY : YGg@pj7vaiE[12]
タダの、落ちてる(?)情報を選んでというのは、人間、それも子供や若者、貧者、ケチな金持ちと同じ。それを狙った大量の撒き餌も蓄積されてしまってる。

10-40代のアベちゃん世代が、まさしく、これ。

当分の間、人間のほうがはるかに危険そうだ。


3. 2018年2月16日 12:58:28 : cMJm79hGa6 : _E51CYEIt94[2]
「息子よ、お前は俺に似ているから失敗作だ」

4. 2018年2月16日 21:18:33 : 9PLZrV5slA : xYQxG5BOXMU[64]
暴走を しても効かない 抑えなど

▲上へ      ★阿修羅♪ > 経世済民126掲示板 次へ  前へ

  拍手はせず、拍手一覧を見る

フォローアップ:


★登録無しでコメント可能。今すぐ反映 通常 |動画・ツイッター等 |htmltag可(熟練者向)|(各説明

←ペンネーム新規登録ならチェック)
↓ペンネーム(なしでも可能。あったほうが良い)

↓パスワード(ペンネームに必須)

(ペンネームとパスワードは初回使用で記録、次回以降にチェック。パスワードはメモすべし。)
↓画像認証
( 上画像文字を入力)
ルール確認&失敗対策
画像の URL (任意):
最新投稿・コメント全文リスト  コメント投稿はメルマガで即時配信  スレ建て依頼スレ

▲上へ      ★阿修羅♪ > 経世済民126掲示板 次へ  前へ

★阿修羅♪ http://www.asyura2.com/ since 1995
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。
すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
 
▲上へ       
★阿修羅♪  
経世済民126掲示板  
次へ