Uncategorized

公平性に問題が…AI(人工知能)が人間を差別するって本当なの?

投稿日:


この記事は私がまとめました

様々な情報を参考に作成しています。

PINKMOMOさん

■AI(人工知能)

「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」

言語の理解や推論、問題解決などの知的行動を人間に代わってコンピューターに行わせる技術

テック企業が人工知能(AI)分野に莫大な投資を進めているおかげで、生活や身の回りのガジェットはすでに変わり始めている

■我々の生活に関わり始めている

AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置

Alexa(アレクサ)やGoogle(グーグル)などの対話型音声で操作するAIスピーカーや、ロボット掃除機などのスマート家電が注目

■このAIが人間を差別するというニュースが

人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表

アメリカでは“AIのバイアス”の議論が始まっています。そこから見えてきたのは、AIが社会の差別を再生産するかもしれないという危機感

不当な差別(人種差別/民族差別や、性別差別、文化差別/地域差別など)を引き起こすケースがある

■これまでも、それを証明するかのようなニュースが。まずはMicrosoftの人工知能(AI)「Tay」

Tayの開発チームは、彼女に自然言語を習得させる場として、Twitterが最適だと考えた

一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んで喋らせようとしたことから、またそうした言葉や文章を語彙として吸収しそのまま繰り返してしまった

結果的にこれが原因でヘイトスピーチや性転換したかのようなメッセージを投稿するようになった

■更に「アップルカード」でも

8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというもの

信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だった

アップル(Apple)の新しいクレジットカードサービスに性差別があるとの指摘を受け、米ニューヨーク州の金融規制当局は9日、調査を開始

■これらを含め、AIが差別する原因は「学習」にある

AIでは、私たちがこれまでに持っている大量のデータを機械学習することで見つけた特定の法則性やパターンをもとに、コンピューターが自動的に分析を行います

社会に関するような課題を学習させる際は、その学習させるデータに含まれる人間の判断を良くも悪くも模倣する

不公平なバイアスは、例えばデータ収集時からデータのフィルタリング、ラベリング、学習結果のメトリクスなど、至る所に存在する可能性がある

-Uncategorized

執筆者:


関連記事

no image

初めて知った…『#一番ためになったパソコン知識』報告が役に立つ

初めて知った…『#一番ためになったパソコン知識』報告が役に立つ

no image

それ幻想かも?「年収1,000万」の切なすぎる現実

この記事は私がまとめました まとめ編集部さん 年収1,000万円は1番損する⁉ GettyImages 裕福と思われがちだが、シビアな問題が 現実はそんな甘くなかった。 お気に入り詳細を見る 厚労省の …

まるで本物!Twitterの天才の仕業としか思えない凄い作品

この記事は私がまとめました Twitterの感服せずにはいられない凄い作品をまとめました。 chica.kさん ◆色鉛筆で40時間掛けてポテトチップス描きました・・・ Amazon カルビー ポテトチ …

no image

【最新版】小説家になろうのオススメ無料小説 25選

この記事は私がまとめました 小説家になろうにある膨大な無料小説の中で自分が読んで面白かった作品を紹介します。 中川御影さん 小説家になろう、お勧めサイト 小説家になろう – みんなのための …

no image

あのトロトロ~な『お粥』が実は消化が悪いって本当?

この記事は私がまとめました ばぁ~やさん 特に年末から年始にかけては、季節変化や不規則になりがちな生活によって、胃の働きも低下しやすい季節です。 出典年末、年始は忙し胃(い)!?|胃と暮らしのワンポイ …