人材派遣会社のHire VueがAI技術システムを使ってどの候補者がその仕事に合うか決定している。
候補者の体や顔の表情などの動き、声色や抑揚を選ぶ言葉によって候補者の雇用適正スコアが決まる。
このAIシステムはすでに100万人以上の候補者を分析しており、ユニリーバやヒルトンを含む100以上の企業によって利用されている。
しかし、AIの専門家たちはそのようなテクノロジーの限界を指摘している。
プリンストン大学のコンピューターサイエンス学部の教授であるアーヴィンド・ナラヤナン(Arvind Narayanan)は、このアプリケーションはバイアスを固定化・加速化させるとしている。
「ボディーランゲージやスピーチから発見されるどんなシグナルも先入観の結果に過ぎない」ナラヤナンは言う。
研究者たちはボディーランゲージは分析がとても難しいとしており、これが個人の特徴や特性になると分析が不可能ではないにしても非常に困難であると述べている。
IBMのアクセシビリティーリサーチャーであるシャリ・トゥレイン(Shari Trewin)はAIが障害者を差別している事実を指摘している。
「AIが人を判断するやり方は、AIが考える’’この候補者たちは誰に似ているか’であり’、たとえ誰にも似てない人が現れた時ですらそれを考えるので、ここに根本的な限界があるだろう。特に障害者を公平に扱おうとした時に、その限界が露呈する」。
現在、アメリカ人の１３％が自分のことを障害者だと認識している。彼らのうち50万人以上が顔面異常と診断され、数百万人が自閉症スペクトラムとされ、その結果、表情や声による表現が普通の人たちと異なる。AIにとってこのような幅広い人間のプロフィールをデータベースに含むことはとても難しく、障害者に対する誤解を生んでしまうことになる。
他のリサーチもまた障害解釈に関してAIの限界に焦点を当てている。
たとえば2016年のグーグルリサーチによるとAIのうちいつも障害に関する言葉をネガティブなものと解釈するものがあるそうだ。
また、2019年のマイクロソフトリサーチによると、AIの声認識システムは聾唖のような障害者を積極的に排除してしまうかもしれない。
しかし、批判があっても彼らはジェンダー、人種、年齢、障害に関しての平等を促しているとHire Vueは述べる。
そうは言っても、顔の表情はHire Vueチーフ業界組織心理学者のネイザン・モンドラゴンによると雇用適正スコアの29％を表している。
HireVue, a recruiting company is using an AI technology system to determine which candidate is the most suitable for the job.
Based on the candidate’s body and facial movements, voice tone or cadence as well as choice of words, to determine an employability score for the candidate.
The AI system has already analyzed more than a million candidates and is used by more than 100 employers including Unilever or Hilton.
However, AI specialists are pointing out the limits of such technology.
Arvind Narayanan, a computer science professor at Princeton said the application is a bias perpetuation engine. “Any signal found in body language/speech patterns *must be* the result of prejudice,” said Narayanan.
Researchers show body language is extremely difficult to analyze and personality traits are even more difficult if not impossible to analyze.
Shari Trewin, an Accessibility Researcher at IBM points out the fact that AI is discriminating for disabled people.
“The way that AI judges people is with who it thinks they’re similar to—even when it may never have seen anybody similar to them—is a fundamental limitation in terms of fair treatment for people with disabilities,” she said.
Currently, 13% of the American population identify themselves as a person with disability. Among them, more than half a million have been diagnosed with a facial abnormality, several million have autism spectrum disorders, resulting in potential facial or vocal expressions differing from the norm.
It is very difficult for an AI to include such a wild range of profiles in its database, creating a miss-interpretation of people with disability performances.
Some research also highlights the AI limits in terms of disability interpretation.
For example, 2016 Google research shows some AI always consider disability words as negative.
Alternatively, 2019 Microsoft research revealing an AI voice recognition system may actively discriminate people with disabilities such as deaf people.
Nevertheless, despite the critics HireVue said they promote equality regardless of gender, ethnicity, age, and disability.
However, facial expression represents 29% of the employability score according to Nathan Mondragon, HireVue chief industrial-organizational psychologist.