アマゾン、AIに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散

1名無しさん@涙目です。(宮城県) [US]2018/10/11(木) 22:30:59.40ID:0urIMr6l0●?PLT(13121)


焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

[サンフランシスコ 10日 ロイター] – 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。

事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。

そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
応募者を明示し、われわれが彼らを採用する」と話した。

ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。

また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。

アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。

キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
一部に組み込まれるとの見方を示した。

採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

続きはソースで

ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN
56名無しさん@涙目です。(滋賀県) [US]2018/10/11(木) 22:55:25.65ID:70xIDWtC0

AIはまったく気使いってもんが不足してるなww

13名無しさん@涙目です。(庭) [RU]2018/10/11(木) 22:38:13.75ID:0dTNouoZ0

スパイは加点対象だな

14名無しさん@涙目です。(埼玉県) [NO]2018/10/11(木) 22:39:47.91ID:691g7aid0

AIには建前の機能をつける必要があるな

67名無しさん@涙目です。(茸) [GB]2018/10/11(木) 23:00:35.42ID:5NRCpYrq0

果たして本当に欠陥なんだろうか

7名無しさん@涙目です。(dion軍) [GB]2018/10/11(木) 22:36:08.14ID:nQx+PoX90

AIはまだダメだな中国共産党も否定したし

12名無しさん@涙目です。(庭) [GB]2018/10/11(木) 22:38:09.04ID:PpvWlAk+0

>>5
コレ

43名無しさん@涙目です。(岡山県) [US]2018/10/11(木) 22:50:10.68ID:0bTWd3E80

出る杭は打たれるという奴か

33名無しさん@涙目です。(catv?) [US]2018/10/11(木) 22:46:26.76ID:DhPLF/Un0

>>23
パット見ブロンドの白人に見える

4名無しさん@涙目です。(庭) [US]2018/10/11(木) 22:34:20.91ID:U9QtJ7Pd0

ままままーん

46名無しさん@涙目です。(チベット自治区) [ZA]2018/10/11(木) 22:50:52.93ID:lKOWvRna0

男の場合、飛び抜けたバカと天才が混ざり合ってて、
女の場合はみんなそこそこ優秀だけど凡庸なんだろ。
これで特に優秀な人材を選ぶとなったら男ばかりになるに決まってる

18名無しさん@涙目です。(広西チワン族自治区) [ES]2018/10/11(木) 22:40:58.79ID:K85pC/0yO

そら単なるデータの解析すりゃそうなるわ

23名無しさん@涙目です。(チベット自治区) [ニダ]2018/10/11(木) 22:42:34.74ID:c6SxC+Fk0

AIが考えた美しいまんさん

66名無しさん@涙目です。(dion軍) [JP]2018/10/11(木) 23:00:04.11ID:CJeU9/nA0

欠陥?

47名無しさん@涙目です。(兵庫県) [ニダ]2018/10/11(木) 22:50:57.29ID:i5YPv/uX0

数百年後に故事になりそう

42名無しさん@涙目です。(庭) [SE]2018/10/11(木) 22:49:48.36ID:vCw00pTE0

そうやって女性に下駄を履かせようとする行為が既に主観的なんじゃないの?

68名無しさん@涙目です。(チベット自治区) [ニダ]2018/10/11(木) 23:00:39.51ID:oen35wc50

ポリコレプラグインをお使い下さい

8名無しさん@涙目です。(東京都) [US]2018/10/11(木) 22:37:10.92ID:YfRbVNeL0

>>5
フフw

10名無しさん@涙目です。(新疆ウイグル自治区) [GB]2018/10/11(木) 22:37:46.71ID:9E8OX3RK0

もうなんか自然法則であってもポリコレに合致しなきゃボコられそうな勢いだなおい

38名無しさん@涙目です。(宮城県) [TW]2018/10/11(木) 22:48:23.32ID:7foPQzhG0

ちょっと前に学者だかもこんな感じの本当のこと言ってボコボコにされてなかったか

63名無しさん@涙目です。(東京都) [US]2018/10/11(木) 22:58:31.71ID:jay1Fa5V0

そろそろ機械学習をAIと呼ぶのやめない?知能じゃねーだろ

29名無しさん@涙目です。(やわらか銀行) [GB]2018/10/11(木) 22:45:09.05ID:hYgMJFgj0

事実に基づいているのに、何が欠陥なんだ?

21名無しさん@涙目です。(大阪府) [US]2018/10/11(木) 22:42:01.90ID:8mZFgXNn0

わろた

25名無しさん@涙目です。(チベット自治区) [GB]2018/10/11(木) 22:43:15.61ID:7NQN2reW0

女の利点は9割容姿だからな
こういうのやらせたら低評価になるのは当たり前

61名無しさん@涙目です。(神奈川県) [US]2018/10/11(木) 22:58:07.34ID:oUi3y8Fc0

>>48
家系や性別、人種なんて生まれ持った物が全てだからな。

本当は誰に生まれたかで先天的に能力の大半は決まってるけど、
それだと不満が出るからわざわざ入試なり面接なりをやって才能不足を極力努力不足という本人の責務に転嫁してるわけだ。

AIにはそんな人間の面倒臭い事情を理解出来ないから、つい残酷な真実を突きつけてしまうんだろう。

34名無しさん@涙目です。(空) [IN]2018/10/11(木) 22:46:32.11ID:Wt/e8UPl0

>>29
都合が悪い

60名無しさん@涙目です。(大阪府) [CN]2018/10/11(木) 22:58:00.30ID:/woYJFey0

この結果をあえて発表したのは
そういうメッセージがあるんだろうなぁ

57名無しさん@涙目です。(埼玉県) [US]2018/10/11(木) 22:55:57.63ID:tH53+7s90

AIにリストラ候補をピックアップさせる→ジェフ・ベゾスがピックアップされる→開発チーム解散

53名無しさん@涙目です。(東京都) [RU]2018/10/11(木) 22:54:17.68ID:4vgAZgrL0

こんなことやってると、そのうちAIは正しい判断をしなくなる
うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる

52名無しさん@涙目です。(宮崎県) [US]2018/10/11(木) 22:53:07.82ID:i11m6j7a0

AIは正直
ポリコレ棒という余計なものを学習しなかっただけ

35名無しさん@涙目です。(石川県) [CA]2018/10/11(木) 22:46:40.42ID:ZGEIxI6D0

いきなり差別かよ
AIッパリらしいな

27名無しさん@涙目です。(北海道) [ニダ]2018/10/11(木) 22:44:36.28ID:qJjaDfFo0

>>6
中国のAIも共産党は糞って言ってクビになったしな

19名無しさん@涙目です。(神奈川県) [US]2018/10/11(木) 22:41:03.39ID:oUi3y8Fc0

真実を答えたら粛清されたか…。

24名無しさん@涙目です。(やわらか銀行) [US]2018/10/11(木) 22:43:14.20ID:bnN3Cy270

裸の王様かよ

2名無しさん@涙目です。(アメリカ合衆国) [US]2018/10/11(木) 22:32:28.31ID:CRtP3rRu0

AIじゃなくて思想の方が欠陥なんだろ

49名無しさん@涙目です。(東京都) [US]2018/10/11(木) 22:51:28.66ID:ZMHGgkQd0

>>40
お前はつくの?

59名無しさん@涙目です。(滋賀県) [US]2018/10/11(木) 22:56:53.94ID:70xIDWtC0

新人社員でも「これまずいよ・・」って気づくことを
AIは出来ないんだよな

5名無しさん@涙目です。(やわらか銀行) [US]2018/10/11(木) 22:34:21.47ID:xcjxOdDw0

そのAI優秀なのでは…

16名無しさん@涙目です。(チベット自治区) [MX]2018/10/11(木) 22:40:26.02ID:nQt2MdxT0

都合が悪いと欠陥認定

62名無しさん@涙目です。(山口県) [EU]2018/10/11(木) 22:58:18.87ID:fr+ik2rB0

>>5
真実を突いちゃったか…

39名無しさん@涙目です。(新疆ウイグル自治区) [US]2018/10/11(木) 22:48:39.71ID:cEmR4kfb0

女性が主な職種に同様の学習をさせてみて
男性差別が生じるかを検証してから解散するかどうか考えるといいのでは

28名無しさん@涙目です。(愛知県) [ニダ]2018/10/11(木) 22:44:51.69ID:5nhCQZLX0

>>23
サムネイルで見ると女に見えなくもないが、拡大するといつものように犬がいくつか混ざってるような

44名無しさん@涙目です。(catv?) [JP]2018/10/11(木) 22:50:46.19ID:o2gRbZ5r0

AIには嘘も学習させないとな

37名無しさん@涙目です。(茸) [US]2018/10/11(木) 22:47:16.35ID:/pcqbpeW0

>>1

               ∩
               _( ⌒)     ∩__
             //,. ノ ̄\   / .)E)
            /i”/ /|_|i_Lil_| / /      / ̄ ̄ ̄ ̄ ̄
            |ii.l/ /> <{. / /     < まーん!
            |i|i_/”’ ヮ”丿i_/       \_____
            i|/ ,ウ ム”/ /
            |(  ヽ -====-\
            ゞヽ     三  ) ))
         γ⌒ヽ  \ヽ      ノ  /´ `ヽ
         |  ヽ \ )____{  /、/   |
         |   !   ヽ    i  Y   |    !
         |   /    `ヽ,c、 ,.イ   !   /
         |   / \    (i)ソ   /!  /
         /   )   ー―”⌒ー‐‐” (  ヽ、
        cccnノ´              ヽnoo)

37名無しさん@涙目です。(茸) [US]2018/10/11(木) 22:47:16.35ID:/pcqbpeW0

>>1

               ∩
               _( ⌒)     ∩__
             //,. ノ ̄\   / .)E)
            /i”/ /|_|i_Lil_| / /      / ̄ ̄ ̄ ̄ ̄
            |ii.l/ /> <{. / /     < まーん!
            |i|i_/”’ ヮ”丿i_/       \_____
            i|/ ,ウ ム”/ /
            |(  ヽ -====-\
            ゞヽ     三  ) ))
         γ⌒ヽ  \ヽ      ノ  /´ `ヽ
         |  ヽ \ )____{  /、/   |
         |   !   ヽ    i  Y   |    !
         |   /    `ヽ,c、 ,.イ   !   /
         |   / \    (i)ソ   /!  /
         /   )   ー―”⌒ー‐‐” (  ヽ、
        cccnノ´              ヽnoo)

55名無しさん@涙目です。(庭) [ニダ]2018/10/11(木) 22:54:49.89ID:niggjKym0

初めから欠陥と決め付けると、問題が解決しない

3名無しさん@涙目です。(庭) [US]2018/10/11(木) 22:32:28.54ID:Leb9TZCe0

はい

54名無しさん@涙目です。(神奈川県) [US]2018/10/11(木) 22:54:38.98ID:hJtQJYTw0

AI間違ってないのに可哀相

64名無しさん@涙目です。(dion軍) [IN]2018/10/11(木) 22:59:08.26ID:tR4mQjcu0

ダメだよAI君忖度しないと
ディープラーニングが足りないよ

45名無しさん@涙目です。(WiMAX) [KR]2018/10/11(木) 22:50:50.37ID:SFk13W970

そもそも人材選別自体が差別なんだからポリコレをねじ込むのは矛盾でしかない

30名無しさん@涙目です。(東京都) [KW]2018/10/11(木) 22:45:42.60ID:HPIPjB++0

>>14
それも学習すりゃいいんだがエンジニアが嫌うんだわw

コメント