■AI（人工知能）
「『計算（computation）』という概念と『コンピュータ（computer）』という道具を用いて『知能』を研究する計算機科学（computer science）の一分野」
テック企業が人工知能（AI）分野に莫大な投資を進めているおかげで、生活や身の回りのガジェットはすでに変わり始めている
■我々の生活に関わり始めている
世の中ではAIブームが加速し、ビジネスをはじめAI活用への期待が高まる
AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置
Alexa（アレクサ）やGoogle（グーグル）などの対話型音声で操作するAIスピーカーや、ロボット掃除機などのスマート家電が注目
■このAIが人間を差別するというニュースが
人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表
アメリカでは“ＡＩのバイアス”の議論が始まっています。そこから見えてきたのは、ＡＩが社会の差別を再生産するかもしれないという危機感
不当な差別（人種差別／民族差別や、性別差別、文化差別／地域差別など）を引き起こすケースがある
■これまでも、それを証明するかのようなニュースが。まずはMicrosoftの人工知能（AI）「Tay」
アフロ
Visitors stand in front of a display screen at Microsoft’s new Oxford Circus store ahead of its opening in London, Britain July 9, 2019. Picture taken July 9, 2019. REUTERS/Simon Dawson (Britain) by 写真:ロイター/アフロ
Tayの開発チームは、彼女に自然言語を習得させる場として、Twitterが最適だと考えた
一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んで喋らせようとしたことから、またそうした言葉や文章を語彙として吸収しそのまま繰り返してしまった
■更に「アップルカード」でも
アフロ
The Apple logo is shown atop an Apple store at a shopping mall in La Jolla, California, U.S., December 17, 2019, 2019. REUTERS/Mike Blake (United States) by 写真:ロイター/アフロ
8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというもの
信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だった
アップル（Apple）の新しいクレジットカードサービスに性差別があるとの指摘を受け、米ニューヨーク州の金融規制当局は9日、調査を開始
■これらを含め、AIが差別する原因は「学習」にある
ＡＩでは、私たちがこれまでに持っている大量のデータを機械学習することで見つけた特定の法則性やパターンをもとに、コンピューターが自動的に分析を行います
社会に関するような課題を学習させる際は、その学習させるデータに含まれる人間の判断を良くも悪くも模倣する
不公平なバイアスは、例えばデータ収集時からデータのフィルタリング、ラベリング、学習結果のメトリクスなど、至る所に存在する可能性がある
