実践としての AI · 中級
分類と抽出:最も多くを返すタスク
一行でいうと: チャットを構築する前に、問題が実際にチケットの分類や文書からのフィールドの抽出かどうかを確認する——即時の価値を返す二つのシンプルなタスク。
なぜこれらか
分類と抽出には確認できる正しい答え、短くて安い出力、既存システムへのシンプルな統合がある。また、モデルが繰り返す手動作業を置き換えるケースでもある——チケットのルーティング、請求書の読み取り、リードのタグ付け。
対照的に、オープンなチャットインターフェースは測定が難しく、高価で、システムが常に満たすとは限らない期待を招く。
正しく構築する方法
「不明」カテゴリを含む各カテゴリに書かれた定義を持つ閉じたカテゴリを定義する。なければモデルは各ケースを最も近いカテゴリに押し込み、数値で嘘をつく。
抽出では:厳格なスキーマを定義し、コードで検証し、推測の代わりに空の値を返す。幻覚されたフィールドは欠けているフィールドより危険だ。
ループ内の人間
低い信頼度のケースを人間にルーティングし、その決定を使って評価セットを成長させる。そうしてシステムはトレーニングプロジェクトなしで使用によって改善する。
さらに深く
各カテゴリを別々に測定する——92%の全体精度は60%の重要なカテゴリを隠す可能性がある。そして混乱行列を構築する:エラーがいくつあるだけでなく、どのカテゴリが互いに交換されるかを示す、これは通常定義の欠陥であり、モデルのものではない。