モデル使用のバイアス、公平性、説明責任

危険なとき

人々の機会に影響するすべての使用：雇用、信用、価格設定、サービスの優先度、モデレーション。そこでのエラーは不便ではなく本物の害であり、時に法的リスクでもある。

実際に何をするか

全体平均だけでなく、セグメントごとのパフォーマンスを測定し、特定のグループが系統的に悪い結果を受け取っているかどうかを確認する。

最終決定に人間を保持し、承認するだけでなく別の決定をする情報を与える。

文書化する：システムが何を決定するか、どんな根拠で、どうアピールするか。説明可能性は実践的な要件であり哲学ではない。

ユーザーへの透明性

人々は自動化されたシステムと対話していることと、情報に何が起きるかを知る必要がある。規制された領域では、資格ある人と特定の要件を明確にする価値がある。