Uncategorized

公平性に問題が…AI(人工知能)が人間を差別するって本当なの?

投稿日:


この記事は私がまとめました

様々な情報を参考に作成しています。

PINKMOMOさん

■AI(人工知能)

「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」

言語の理解や推論、問題解決などの知的行動を人間に代わってコンピューターに行わせる技術

テック企業が人工知能(AI)分野に莫大な投資を進めているおかげで、生活や身の回りのガジェットはすでに変わり始めている

■我々の生活に関わり始めている

AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置

Alexa(アレクサ)やGoogle(グーグル)などの対話型音声で操作するAIスピーカーや、ロボット掃除機などのスマート家電が注目

■このAIが人間を差別するというニュースが

人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表

アメリカでは“AIのバイアス”の議論が始まっています。そこから見えてきたのは、AIが社会の差別を再生産するかもしれないという危機感

不当な差別(人種差別/民族差別や、性別差別、文化差別/地域差別など)を引き起こすケースがある

■これまでも、それを証明するかのようなニュースが。まずはMicrosoftの人工知能(AI)「Tay」

Tayの開発チームは、彼女に自然言語を習得させる場として、Twitterが最適だと考えた

一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んで喋らせようとしたことから、またそうした言葉や文章を語彙として吸収しそのまま繰り返してしまった

結果的にこれが原因でヘイトスピーチや性転換したかのようなメッセージを投稿するようになった

■更に「アップルカード」でも

8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというもの

信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だった

アップル(Apple)の新しいクレジットカードサービスに性差別があるとの指摘を受け、米ニューヨーク州の金融規制当局は9日、調査を開始

■これらを含め、AIが差別する原因は「学習」にある

AIでは、私たちがこれまでに持っている大量のデータを機械学習することで見つけた特定の法則性やパターンをもとに、コンピューターが自動的に分析を行います

社会に関するような課題を学習させる際は、その学習させるデータに含まれる人間の判断を良くも悪くも模倣する

不公平なバイアスは、例えばデータ収集時からデータのフィルタリング、ラベリング、学習結果のメトリクスなど、至る所に存在する可能性がある

-Uncategorized

執筆者:


関連記事

no image

知らなかった…美味しい冷し中華を作る「裏ワザ」が参考になる

知らなかった…美味しい冷し中華を作る「裏ワザ」が参考になる

no image

車検はどこがいい?どこが安いのか

車検はどこがいい?どこが安いのか

自粛中にオススメ♡大人から子供まで楽しめる『カードゲーム』

この記事は私がまとめました tomomo-nさん ◆【幻冬舎】はぁって言うゲーム こども発達支援研究会@kohaken_dsl フォローする 療育ゲーム「はぁって言うゲーム」 様々なフレーズに感情を込 …

no image

これはヤバい…女性に「おじさん特有の病気」が増加してるワケ

この記事は私がまとめました 信頼のおける情報を基に作成しています。 まひろちゃんぶーさん ■おじさん特有の病気が女性に増えている アマナイメージズ 頬に手を当てる女性 by アマナイメージズ お気に入 …

本当に毛穴が消える!買わなきゃ損な「#神下地」

この記事は私がまとめました チーズアップさん なんと夜のスキンケアにも使える… みぃ@mii3021 フォローする ジョンセンムルの下地は使ったことない! キールズは乾燥肌にはあんまり向か …