Uncategorized

公平性に問題が…AI(人工知能)が人間を差別するって本当なの?

投稿日:


この記事は私がまとめました

様々な情報を参考に作成しています。

PINKMOMOさん

■AI(人工知能)

「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」

言語の理解や推論、問題解決などの知的行動を人間に代わってコンピューターに行わせる技術

テック企業が人工知能(AI)分野に莫大な投資を進めているおかげで、生活や身の回りのガジェットはすでに変わり始めている

■我々の生活に関わり始めている

AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置

Alexa(アレクサ)やGoogle(グーグル)などの対話型音声で操作するAIスピーカーや、ロボット掃除機などのスマート家電が注目

■このAIが人間を差別するというニュースが

人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表

アメリカでは“AIのバイアス”の議論が始まっています。そこから見えてきたのは、AIが社会の差別を再生産するかもしれないという危機感

不当な差別(人種差別/民族差別や、性別差別、文化差別/地域差別など)を引き起こすケースがある

■これまでも、それを証明するかのようなニュースが。まずはMicrosoftの人工知能(AI)「Tay」

Tayの開発チームは、彼女に自然言語を習得させる場として、Twitterが最適だと考えた

一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んで喋らせようとしたことから、またそうした言葉や文章を語彙として吸収しそのまま繰り返してしまった

結果的にこれが原因でヘイトスピーチや性転換したかのようなメッセージを投稿するようになった

■更に「アップルカード」でも

8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというもの

信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だった

アップル(Apple)の新しいクレジットカードサービスに性差別があるとの指摘を受け、米ニューヨーク州の金融規制当局は9日、調査を開始

■これらを含め、AIが差別する原因は「学習」にある

AIでは、私たちがこれまでに持っている大量のデータを機械学習することで見つけた特定の法則性やパターンをもとに、コンピューターが自動的に分析を行います

社会に関するような課題を学習させる際は、その学習させるデータに含まれる人間の判断を良くも悪くも模倣する

不公平なバイアスは、例えばデータ収集時からデータのフィルタリング、ラベリング、学習結果のメトリクスなど、至る所に存在する可能性がある

-Uncategorized

執筆者:


関連記事

no image

正座で「お風呂」がダイエットにも健康にも良さそう♪

この記事は私がまとめました noho3nohoさん ダイエットにはシャワーよりお風呂♪ アマナイメージズ 入浴する女性 by アマナイメージズ お風呂につかると、体全体が温まって汗もかいてダイエットに …

no image

まるでマンガの世界…黄金の馬「アハルテケ」が美し過ぎる

まるでマンガの世界…黄金の馬「アハルテケ」が美し過ぎる

タピオカはもう古い…JKが推しまくっている神ドリンクとは?

この記事は私がまとめました すでに行列ができるほどの人気…今年大注目のドリンクとは? critical_phyさん ◎社会現象になったタピオカ…でもすでに次のブームが到来? ▶これは新感 …

no image

えっそうなの?給料が上がらない人には共通の特徴がある件

この記事は私がまとめました pinkswan999さん ◎給料もっと欲しい。 makina、Mio@超会議参戦@m4a1kacfr フォローする 今月マシで給料少ないかも お気に入り詳細を見る 猫村 …

発想とアイデアが凄い!Twitterで見つけた空き缶やナットなどを使用した秀逸すぎる作品

この記事は私がまとめました 発想とアイデアとそのクオリティに驚くばかりの作品をTwitterで見つけたのでまとめました。グッと心に迫るものがあります。 chica.kさん ◆空き缶を使ったアート作品◆ …