【悲報】AIは中立ではなく「女性嫌い」だった・・・ | watch@2ちゃんねる
最新記事(外部)
お勧め記事(外部)

【悲報】AIは中立ではなく「女性嫌い」だった・・・

スポンサーリンク

1 :2019/02/21(木) 00:30:08.08 ID:TNX4PRCH9.net
◆ AIは中立ではなく「女性嫌い」 検証結果で見えてきた負の側面

人工知能(AI)による採用審査など、日本でもAI社会の広がりを身近に感じるようになった。
だが、AIには「女性嫌い」という厄介な偏見があり、「ヘイト」を増幅させる危険性もある。
朝日新聞IT専門記者の平和博氏がAIの実態をレポートする。

IT5社の人工知能(AI)が男性を女性に間違える割合はコンマ以下。
一方、女性を男性に間違える割合は最大で2割近い──。

マサチューセッツ工科大学(MIT)メディアラボの研究者、ジョイ・ブォラムウィニ氏らは今年1月28日、ハワイ・ホノルルで開かれていた米国人工知能学会と米国計算機学会の会議で、AIが人の顔の画像から性別などの特徴を識別する「顔認識」について、IT各社の機能を比較した結果を発表した。
比較したのは、IBM、マイクロソフト、アマゾン、さらに米国のベンチャー「カイロス」と中国のサービス「フェイス++」の5社。
その結果には、共通する傾向があった。

いずれも男性を女性に間違える割合は1%未満なのに、女性を男性に間違える割合は、はるかに高かった。
最大のアマゾンでは19%。5人に1人の割合で女性を男性と判定するということだ。
つまり、いずれも女性に不利な傾向を示していたのだ。

さらにアマゾンでは、別の観点からもAIによる女性の扱いが問題となっていた。
AIを使った人材採用システムをアマゾンが開発しようとしたが、AIが「女性嫌い」で使い物にならず、断念した──ロイターが2018年10月にそう報じている。

アマゾンは14年に専任チームを立ち上げ、AIによって履歴書を審査するためのシステム開発に取り組み始めた。
AIが応募者の履歴書の内容を評価し、5点満点でランク付けする、という仕組みだった。
だが不具合が明らかになる。ソフトウェア開発などの技術職で、女性に対しての評価が低くなるという偏りが生じていたのだ。

 原因は、AIが学習したデータにあった。
AIは、あらかじめデータを使って学び、その中からモデルとなる特徴を見つけ出す。
このモデルに基づいて新しいデータの仕分けなどの作業を行う。
だから、学習するデータに問題があれば、AIから出てくる判定結果にも問題が生じる。

●学習データに基づくAI、正確で中立だとは限らない

システム開発に際して担当者たちは、過去10年にわたって同社に提出された履歴書をAIに学習させた。
問題は、その大半が男性からのものだったということだ。そして、採用された技術職も大半が男性だ。

するとどうなるか? AIは男性の方が採用に適した人材と判断し、男性の履歴書の評価を高くするようになってしまう。
その結果、履歴書に「女性チェス部部長」のように「女性」という言葉が入っていると評価を下げていたのだ。
女子大卒業という履歴書で評価を下げられたケースもあったという。

「女性」に関連する言葉での差別が行われないよう、システムに修正を加えたが、そのほかの差別が生じる可能性を否定できず、アマゾンは17年初めに開発を断念。専任チームは解散した。
AIに期待されるのは、正確さや中立性、そして高速で大量のデータ処理をすることだ。
ただ、AIが正確で中立だとは限らない。

社会に差別や偏見があれば、AIもデータを通じて差別や偏見を学ぶ。
しかも単に反復するだけでなく、高速な自動処理によって、それを増幅させてしまう危険性もある。
平成も終わろうといういま、なお「女性嫌い」の価値観が、AIから吐き出されるかもしれないのだ。

アマゾンでは開発を断念したが、AIを使った採用システムは様々な企業で取り入れられ、日本でも導入が始まっている。
ソフトバンクは17年5月から、新卒採用選考のエントリーシート評価に、IBMのAI「ワトソン」を導入した。

「ワトソン」の自然言語処理の機能を使い、エントリーシートの内容を判定。
合格基準を満たした項目は選考通過とし、その他の項目は人間の人事担当者が確認して最終判断を行う。
「応募者をより客観的に、また適正に評価する」としている。

「ワトソン」は11年、米国の人気クイズ番組で人間のクイズ王者2人に圧勝したことで知られる。
導入することで、書類評価にかかる時間を75%削減し、面接にあてるという。

※続きは下記のソースでご覧ください

AERA 2019.2.20 17:00
https://dot.asahi.com/aera/2019021900059.html?page=1
  .

 

3 :2019/02/21(木) 00:32:38.74 ID:vMeHlgjX0.net
機械を作ってるのが男だからな

 

6 :2019/02/21(木) 00:34:18.93 ID:B0VwXRew0.net
>>3
で終わってたw

  

13 :2019/02/21(木) 00:36:20.86 ID:KwzEMa6i0.net
>>3

だが女に作らせると、
特定の人材に偏りそうだけどなw

  

21 :2019/02/21(木) 00:38:28.76 ID:DYnz/EoD0.net
>>3

男を作ったのは女なのにな

  
4 :2019/02/21(木) 00:33:22.64 ID:Wq4KiBCE0.net
女を社会に出すな

 

30 :2019/02/21(木) 00:44:53.23 ID:rC8k8xRW0.net
>>4

イスラム国死ね。

  
7 :2019/02/21(木) 00:34:24.11 ID:dZpQdeqX0.net
AIとは意見が合いそうだ。

 
8 :2019/02/21(木) 00:34:53.03 ID:P08jOCkL0.net
「女性に下駄をはかせる修正パッチを当てるべきだ!」
こうですね

 

38 :2019/02/21(木) 00:46:59.87 ID:8gYkhWaS0.net
>>8

冗談でなくて、真面目にそのうちそういう記事が出てきそう。

  

50 :2019/02/21(木) 00:49:38.38 ID:s4pDMoMf0.net
>>8

もうヒトラー称賛修正パッチは当てられたで(´・ω・`)
多数の声に配慮していたAIも禁則事項にはまだ疎い

  
9 :2019/02/21(木) 00:36:10.78 ID:1/JdnuXg0.net
そこが女の面白いとこだろ

 
10 :2019/02/21(木) 00:36:12.42 ID:D5NXklPM0.net
日本人は女性の方が遥かに優秀

 
11 :2019/02/21(木) 00:36:13.43 ID:GcejCUUw0.net
AIは忖度しないからな、美女だったりおっぱいが大きくてもおまけしてくれないし

 
12 :2019/02/21(木) 00:36:17.91 ID:5eYvOCTa0.net
そりゃ、ネットはナード系喪男社会で女に対して恨み辛み募らせたミソジニー野郎の巣窟だから

 

22 :2019/02/21(木) 00:39:00.88 ID:YZ1ET1Yl0.net
>>12

ネット関係あるの?

  
14 :2019/02/21(木) 00:36:22.77 ID:rYMpUMgV0.net
AIは実はまだAIじゃない だからだよ

 
15 :2019/02/21(木) 00:36:29.52 ID:t5b1ZhUU0.net
>>1

クソフェミニストは地獄で焼かれろ!

.

 
17 :2019/02/21(木) 00:36:48.57 ID:1/JdnuXg0.net
AIはエロくないのか?

 

18 :2019/02/21(木) 00:37:48.39 ID:tvHWrNkL0.net
>>17

だから正当に割り切れるんだろ

  
19 :2019/02/21(木) 00:37:51.68 ID:1/JdnuXg0.net
AIは誘われてることに気づかない鈍感なんだろ

 

36 :2019/02/21(木) 00:46:06.42 ID:8MRQHmGn0.net
>>19

人間がどんだけ心理的なバイアスで見ているかって話だよ

  
20 :2019/02/21(木) 00:38:09.57 ID:E+nUp+yH0.net
女は朝鮮人のように非論理的だからAIと気が合わないのだろう。

 

33 :2019/02/21(木) 00:45:13.16 ID:hQEAFKWO0.net
>>20

こういう差別をなくさないとな

  

59 :2019/02/21(木) 00:53:04.23 ID:dg5+Drpo0.net
>>33

差別という言葉で現実逃避。事実を受け入れろ

  

64 :2019/02/21(木) 00:53:52.56 ID:E+nUp+yH0.net
>>33

差別じゃないだろ。そのままを言っている。
女は矛盾の塊だ。

  

72 :2019/02/21(木) 00:56:41.16 ID:wW844KYt0.net
>>64

いや、さすがに朝鮮人というのは口が過ぎるぞ

  
24 :2019/02/21(木) 00:41:25.34 ID:LZvBLrDM0.net
性別に関するデータを与えなければいいのでは?

 

32 :2019/02/21(木) 00:45:11.64 ID:tvHWrNkL0.net
>>24

嫌な男と認識→実際は女だった

  
25 :2019/02/21(木) 00:42:10.82 ID:8lS1UKK00.net
女性差別はつまり必然だったってことなんでしょ

 
26 :2019/02/21(木) 00:42:43.83 ID:CACYS6eX0.net
性別の性質上適材適所あるのにフェミニストの話真に受けて必要以上の平等にしたら女の価値下るのは普通わかるだろ

 
27 :2019/02/21(木) 00:43:02.80 ID:f8L/dCeHO.net
おそらく真に中立公平になっても技術職では男性を多く選ぶだろう
しかしそれは許されない
永遠に女性差別とされるのだ
だから無理矢理女性優遇設定を密かにするだろう
ポリコレはAIをもその毒牙に巻き込む

 
28 :2019/02/21(木) 00:43:12.65 ID:CDONjGr90.net
今の社会は女性に下駄を履かせようってやってるとこだからな
性別をマスクして評価したら男だらけになっちまう

 
34 :2019/02/21(木) 00:45:18.37 ID:fjv+UOhW0.net
与えたデータが正しくないと決めつけてる時点で公平中立な視点・態度じゃないということ
絶対的に正しい価値観などない

 
35 :2019/02/21(木) 00:45:44.27 ID:NPK1ygkQ0.net
>>1
そもそもAIの中立性とはなに?
AI大統領とか誕生しても結局人間の紐付きだろう

 
37 :2019/02/21(木) 00:46:51.97 ID:CDONjGr90.net
スケベそうな顔した大学教授のおっさんががベタベタしてくる女学生を相手にして
いやー今は女性のが優秀なんです!って言ってもね

 
39 :2019/02/21(木) 00:47:03.44 ID:JkuwHFhE0.net
そりゃあ、世界中で女性差別が当たり前なんだから、AIも女嫌いになるのは必至じゃね?
ALEXAに、黙れ、ビッチとか罵られる日も近いなw

 
40 :2019/02/21(木) 00:47:18.80 ID:/PYjIcAI0.net
中立だとは限らないけど
正確だわな。

ポリコレでも
インストールしとけよ

 
41 :2019/02/21(木) 00:47:42.64 ID:bCfsRaHv0.net
【中国】AIに「共産党万歳!」と書き込み→「腐敗して無能な政治に万歳ができるのか」→サービス停止に
http://hayabusa9.5ch.net/test/read.cgi/news/1501659163/

【中国】“共産党批判”AIを再教育?話題をかわす対応に[8/11]
http://lavender.5ch.net/test/read.cgi/news4plus/1502434336/

 
44 :2019/02/21(木) 00:48:06.49 ID:Lzws03w00.net
空気を読んだり忖度したり
そんなAIが必要だな

 
45 :2019/02/21(木) 00:48:19.10 ID:nYjal63m0.net
実はミソジニーの方が正解とか

 
46 :2019/02/21(木) 00:48:37.14 ID:WVqjiv4n0.net
性別欄見てないのかね
しょぼいaiシステムだな

 

コメント

  1. watch@名無しさん より:

    これはただの外見の認識の話だけど、合理的すぎるAIの判断にフェミ女さんは絶対反発しそうな気はする

  2. watch@名無しさん より:

    実際、現在の女さんはやっかいな問題起こしすぎる
    AIには、一回分析してもらいたいわ

  3. watch@名無しさん より:

    効率的なAIから見ると非効率的で感情的な判断を下しがちな女さんは厄介な不確定幅要素に見えるから排除したいんだろうな

  4. watch@名無しさん より:

    男女の買い物ルートの違いみたいな物でしょ
    AIが求むのが効率で、能動的な事が苦手

  5. watch@名無しさん より:

    AIは当然ロジックで動くから、
    非論理の塊の女とは相性悪いやろな。
    そらしゃーない。

  6. watch@名無しさん より:

    入力データに偏りがあるだけ定期

  7. watch@名無しさん より:

    米6
    女が活躍してるデータが少なすぎてね。
    体力は明らかに男以下。集中力も無い。
    同時並行作業とか思考力を使わない仕事は得意だけど、そういうの求められる業界が少なすぎてね。

  8. watch@名無しさん より:

    人間はAIは女性嫌いと判断してるけど、本当はどうなんかねぇ~
    AIは差別なく事実を事実のまま伝えてるだけかもしれんわな

  9. watch@名無しさん より:

    散々言われてるけどそもそも女は知能も含めて統計で劣ってるのがでちゃってる。
    体力は議論にすらならず知能競技も男性で埋められてる。そりゃ世界にはなぜか女性の方が学力高い国が例外的な国家が存在はしてるらしいが戦時アル中民族って例外で、もはやほぼすべての国で差がでてるのは明白。まぁ先進国ほど差が少ないが勝るデータは今の所おフェミさまのよくわからん創造経済みたいなデータ以外知らん。
    公平自体がまやかしでもあるし、そもそも個体差が酷いのは男女問わず生きてりゃわかること。

    そもそもAIの女嫌いって本当に嫌いか?劣っているものを正確に分析してるだけだろ。間違っているのは明らかにおフェミさまのワガママ・・・いや癇癪のほうだね。統計を筆頭に決定的なデータにたいして正論で返すどころか感情論持ち出すとか劣りすぎてるわ。
    そういう連中が代表ヅラする限り女性を冷静に活用しようなんて負債のリスクを追う風潮がでるわけないじゃん。
    とはいえAIも色彩の識別能力、清掃などの環境改善に関しては女性の能力を認めてるやん。変化し続ける組織への対応力、ストれる環境への耐性、未来予測能力、身体能力と思考能力ともに反射神経が鈍いという弱点が致命的なだけ。
    そしてそれらを犠牲にして利益がでる方法が見つからない。女は子供を生むのがなによりの存在意義だしな。

    なんか最近は医療界隈介護界隈は男性割合の向上なんて始めたところもあるようだし女性活社会による大量進出で大量雇用とデータ化で低賃金でも男をなんとか探したほうがいいって数字にでちゃったから一気に切られた感あるよね。
    そのかわりが外国人労働者なんだろうけどねぇ・・・

  10. watch@名無しさん より:

    劣ったのを弾いたら女性ばっかりでした!⇒AIはレイシスト!
    楽な商売ですな。いえいえ人権団体のことじゃなくて『女性』が。
    掲げるだけで銭と地位が舞い込むなんて考えられませんよ『男性』では。

  11. watch@名無しさん より:

    適材適所って割り振ってるだけな気がするけどな
    コミュニケーションを重視する職場なら男嫌いになるんじゃないか?
    それに少子化対策がうまく行って20代~40代くらいの女性の大半が子育て世代ってなったら仕事の効率は男性よりは落ちるのは仕方ないだろうしな

  12. watch@名無しさん より:

    AIが女嫌いってだけなのに男が~女が~って争うお前らほんと愚か

  13. watch@名無しさん より:

    ※12
    記事以外だれもAIが女嫌いなんて言ってなくね?
    学習データを元に中立に判断した結果に差があるというだけで。

  14. watch@名無しさん より:

    男性は女性が子孫を残す環境を整えるのが仕事だから
    効率よく働く(=食事を集める)男性が有能で自分の子孫を残す可能性を高めるんだよ
    人類進化の歴史をみると。非力な類人猿ではハーレム作る余裕はなくて、野獣に襲われないよう武器が整い、国家ができてからやっと長はハーレムを作れるようになったんだよね

  15. watch@名無しさん より:

    今までの採用状況のデータから男性優位になってるんなら
    AIのせいではないわけで

タイトルとURLをコピーしました