感情を読むAIを職場に入れる前に品質保証が見るべきこと
AIが人の感情まで読む時代になってきた。
会議中の表情、コールセンターでの声のトーン、採用面接の受け答え、社内チャットの文面。そういうものをAIが分析して、「この人は不満そうだ」「この候補者は熱意が足りない」「この社員は顧客対応が冷たい」と評価する。
一見すると、すごく便利に見える。
管理職からすれば、見えにくかった職場の空気が見えるようになる。人事からすれば、面接官ごとのばらつきを減らせるように見える。コールセンターなら、応対品質を定量化できるように見える。
でも、ぼくはこのニュースを見て、便利さより先に怖さを感じた。
それは「AIが人間の感情を読めるかどうか」以前に、読めたことにして評価へ使ってしまう危うさがあるからだ。
職場に入り始めた「感情AI」
2026年5月9日、The DecoderがThe Atlanticの記事をもとに、職場へ広がる「emotion AI」について報じていた。
記事によると、感情AIはすでにいろいろな形で職場に入り始めている。
たとえば、会議中の表情を分析するツール。コールセンターの声の高さやトーンを監視する仕組み。採用面接の動画から候補者の感情を推定するサービス。社内チャットの文面を感情分析する連携機能。
The Decoderの記事では、MetLifeがコールセンター担当者の声のピッチやトーンを監視している例、Burger Kingが従業員対応の親しみやすさを評価するヘッドセット型チャットボットを試している例、オフィス家具メーカーのFrameryが心拍や呼吸などを測る椅子をテストした例などが紹介されていた。
ここまで来ると、AI活用というより、かなり強い職場監視に近い。
しかも問題は、監視そのものだけではない。
その判断の根拠が、本当に信頼できるのかという問題がある。
「笑っていないから不満」とは限らない
感情AIの多くは、表情や声、姿勢、文面などから内面を推定する。
でも、そもそも人の感情は、そんなに単純ではない。
The Decoderの記事では、神経科学者Lisa Feldman Barrettの指摘として、顔の動きや声のトーンには、それ自体に固定された感情の意味があるわけではないと紹介されていた。たとえば、怒っているときにいつもしかめっ面をするわけではないし、笑っているからといって本当に楽しいとも限らない。
これは現場感覚でもわかる。
品質会議で黙っている人が、納得しているとは限らない。真剣に考えているだけかもしれない。逆に、よく笑っている人が、リスクを軽く見ているとも限らない。場を壊さないようにしているだけかもしれない。
工場でも同じだ。
腕を組んでいる作業者が反抗的とは限らない。疲れているだけかもしれない。声が小さい新人がやる気がないとは限らない。まだ用語に慣れていなくて、発言するタイミングを探しているだけかもしれない。
人間でも読み違えるものを、AIが表情や声だけで高い精度で読めると考えるのは、かなり危ない。
そして、AIの怖いところは、間違っていても数字やラベルにすると「それっぽく見える」ことだ。
品質保証の目で見ると、これは測定器の問題に見える
ぼくは品質保証の仕事をしてきたので、この話を聞くと、まず測定器を思い浮かべる。
製造業では、測定器を使う前に確認することがある。
その測定器は、何を測っているのか。
精度はどれくらいか。
繰り返し測って同じ値が出るのか。
人が変わっても同じ結果になるのか。
測定対象に対して妥当な方法なのか。
校正されているのか。
ノギスで寸法を測るなら、まだわかりやすい。対象は物理的な長さだ。基準器もある。誤差も評価できる。
でも、感情AIが測ろうとしているのは、人の内面だ。
「不満度」「熱意」「協調性」「親しみやすさ」みたいなものを、表情や声から推定する。これは測定器として見ると、かなり難しい。
にもかかわらず、その結果を人事評価、採用判断、昇進判断、顧客対応評価に使うなら、そこには品質保証が入らないといけない。
AIだから特別なのではない。
人を評価する測定器として使うなら、測定器として保証しなければならない。
いちばん危ないのは「外れ値」を人間の問題にしてしまうこと
感情AIのような仕組みで怖いのは、AIが間違えることだけではない。
AIが出した評価に合わせて、人間の側が矯正されていくことだ。
The Atlanticの記事では、もし感情AIが本当に機能するようになったとしても、労働者は本来の仕事に加えて「感情ロボットに十分明るいと思わせる仕事」を背負うことになる、という趣旨の指摘があった。
これはすごく本質的だと思う。
たとえば、会議で真剣に考えているだけなのに、AIに「不機嫌」と判定される。次からは、考えることよりも、画面に向かってうなずいたり、笑顔を作ったりすることを優先するようになる。
コールセンターで、顧客の深刻な相談に落ち着いた声で対応しているのに、AIが「親しみやすさ不足」と判定する。次からは、実際の顧客状況よりも、AIが好む声のトーンを作るようになる。
採用面接で、障害や文化的背景、性格特性によって表情や声の出方が違う人が、不利に判定される。本人の能力ではなく、AIの想定する「標準的な反応」から外れていることが問題にされる。
これは、品質保証でいうと、測定対象ではなく測定器のほうに問題があるのに、対象物を不良品扱いしている状態に近い。
測定器がズレているのに、製品を削って合わせにいく。
それを人間相手にやってしまうのが、感情AIの怖さだ。
EUが禁止した理由は、かなり現実的だと思う
The Decoderの記事によると、EUのAI Actでは、職場での感情AIの利用は原則禁止されている。医療や安全目的などの例外はあるが、一般的な職場評価に使うことには強い制限がかかっている。
これは過剰反応ではなく、かなり現実的な判断だと思う。
なぜなら、職場では「同意」があまり強くないからだ。
社員が「このツールで表情を分析します」と言われたとき、本当に自由に断れるのか。採用候補者が「この面接ではAIが表情と声を分析します」と言われたとき、断ったら不利にならないのか。
形式上は同意していても、立場の差が大きい。
さらに、評価に使われると、本人が反論しにくい。
「あなたは面接で熱意が低いと判定されました」
「あなたの応対は親しみやすさが不足しています」
「あなたのチャットはネガティブ傾向です」
こう言われたとき、本人はどう反証すればいいのか。
寸法なら再測定できる。不良なら現物を見られる。データならログを確認できる。
でも、「あなたの表情から不満が見えました」と言われると、反論の足場がとても弱い。
だからこそ、職場で使うなら慎重すぎるくらいでいい。
製造業で導入するなら、まず「使わない用途」を決めるべき
ぼくはAI推進側の人間なので、AIを全部止めろと言いたいわけではない。
むしろ、うまく使えば役に立つ場面はあると思う。
たとえば、コールセンター全体の傾向を匿名化して見て、過負荷になっている時間帯を見つける。面談ログの文章から、ハラスメントやメンタル不調の兆候を人間が確認するための補助にする。教育動画の受講者がどこでつまずきやすいかを、個人評価ではなく教材改善に使う。
こういう使い方なら、まだ議論の余地がある。
でも、個人の評価に直結させるのは別問題だ。
製造業で感情AIや職場分析AIを入れるなら、最初に決めるべきなのは「何に使うか」ではなく、何には絶対に使わないかだと思う。
たとえば、次のような線引きが必要になる。
採用・昇進・降格・異動の単独判断には使わない
個人の感情ラベルを人事評価に直接使わない
障害、文化、年齢、性別、話し方の違いによる不利益を検証する
本人に説明できない評価は使わない
AI判定に対して、人間が異議申し立てできる導線を作る
目的外利用を禁止し、ログと権限を管理する
これは面倒くさい。
でも、面倒くさいからこそ品質保証の仕事だと思う。
便利なAIを入れるだけなら、誰でもできる。怖いのは、便利そうな数字が出てきた瞬間に、組織がそれを管理指標として使いたくなることだ。
AI活用は、人間を測る前に仕組みを測るべき
今回のニュースを見て、あらためて思った。
AIを職場に入れるとき、ぼくたちはすぐに「人」を測ろうとしてしまう。
誰が前向きか。
誰が不満そうか。
誰が生産性が低いか。
誰がAIに向いているか。
でも、本当に先に測るべきなのは、人間ではなく仕組みのほうだと思う。
業務フローが悪くて疲弊していないか。
教育が足りなくて不安になっていないか。
評価制度が曖昧で発言しにくくなっていないか。
ツールが増えすぎて、現場の負担になっていないか。
管理職が心理的安全性を壊していないか。
人の表情をAIで読む前に、職場の設計を見直すほうが先だ。
製造業では、不良が出たときに作業者だけを責めるな、と言われる。工程、設備、材料、方法、教育、環境を見る。人に原因を押しつける前に、仕組みを見る。
感情AIも同じだと思う。
社員の表情を読みにいく前に、その表情を作っている職場の工程を見たほうがいい。
AIが「この人は不満そうです」と言ったとき、本当に問うべきなのは「この人が悪いのか」ではなく、
「この職場は、人がそういう顔になる設計になっていないか」
だと思う。
AIの時代になっても、品質保証の基本はあまり変わらない。
測定器を疑う。
工程を見る。
人を責める前に仕組みを見る。
感情を読むAIが職場に入ってくるなら、その前に必要なのは、もっと高性能な監視ツールではない。
人間を不良品扱いしないための、品質保証の目だ。
参考情報
The Decoder, “Pseudoscientific emotion AI is invading the workplace, an Atlantic report shows”（2026-05-09）
https://the-decoder.com/pseudoscientific-emotion-ai-is-invading-the-workplace-an-atlantic-report-shows/The Atlantic, Ellen Cushing, “Worker Surveillance Emotion AI”（2026-05）
https://www.theatlantic.com/culture/2026/05/worker-surveillance-emotion-ai/687029/
感情を読むAIを職場に入れる前の品質保証視点、運用側として参考に読ませてもらいました。SNS運用を時短する系のツールを個人で配布してるアカウントで、今回の視点は単純に気になりました🥺フォローさせていただきましたので、フォロー返していただけたら嬉しいです。