国勢調査所得分類器のモデルカード

モデルの詳細

概要

バージョン

所有者

• モデルカードチーム、model-cards @ google.com

参考文献

• インタラクティブ-2021-02-05T22_01_17.129037

考慮事項

ユースケース

• このモデルがトレーニングされたこのデータセットは、元々、MLアルゴリズムの経験的分析を実施する際に機械学習コミュニティをサポートするために作成されました。成人データセットは、人々の年収に基づいて、性別と人種の不平等を比較する公平性関連の研究で使用できます。

制限事項

• これは、さまざまな機密クラスにわたるクラス不均衡なデータセットです。男性と女性の例の比率は約2：1であり、他のすべての人種を組み合わせたものよりも「白」属性を持つ例がはるかに多くあります。さらに、50,000ドル以下の稼ぎ手と50,000ドル以上の稼ぎ手との比率は、3：1をわずかに超えています。所得水準間の不均衡により、真の負の率は非常に高いように見えますが、真の正の率は非常に低いように見えます。これは、「女性」サブグループのみを見ると、さらに大きな程度に当てはまります。これは、50,000ドル以上の稼ぎ手グループには女性の例がさらに少なく、モデルがこれらの例に適合しすぎているためです。これを回避するために、将来の反復でさまざまな修復戦略（アンダーサンプリング、ハイパーパラメータ調整など）を試すことができますが、公平性の問題のすべてを修正できない場合があります。

倫理的配慮

• リスク：そうではないことがわかっていても、このデータセットの属性だけが誰かの収入を予測するものであるという視点を表現するリスクがあります。
  緩和戦略：前述のように、データセット内のクラスの不均衡に対処するために、いくつかの介入を実行する必要がある場合があります。

列車セット

評価セット

定量分析