本文へ移動

AI7分で読めます

機能より先に、評価の仕組みをつくる

AIプロジェクトで3か月を失ういちばんの近道は、先にデモを出して、正しいかどうかは後で考えることです。

Cコーディ開発チーム

止まってしまったAIプロジェクトに呼ばれると、たいてい同じ状況が待っています。プロトタイプはあって、デモでは見事に動く。それを見た経営陣の誰かが、いつリリースできるのかと聞いている。ところが、ごく単純な質問に答えられる人がその場にいません。それで、これは正しいんですか、という質問です。

ここで言う正しさは一般論ではありません。この事業にとって大事な1,000件の入力で正しいかどうかを、二人が別々に測っても同じ結論になるやり方で確かめたものです。それがないまま進むと、その後の判断はすべて「なんとなく」で下されます。そして「なんとなく」は、本番のトラフィックにさらされると持ちません。

evalとは何か

評価の仕組み(eval)は、ベンチマークのスコアとは別物です。実際の業務から集めたデータセットと、ユーザーが気にしていることを反映した採点関数があり、変更のたびにその二つを回せるようになっている。考え方としてはこれで全部です。難しいのはツールではありません。何をもって「良い」とするかを決めて、それを書き出すことです。

  • 実際の入力から抜き出したデータセット。今は人が手作業で処理している、厄介なものも含めます。
  • その判断を今担っている人がつけた正解ラベル。引受審査の担当者、臨床医、サポートのリーダーなどです。
  • 「間違っている」と「役に立たない」を区別できる採点関数。直し方がまったく違うからです。
  • 誰もそれに合わせて調整しない、取り置きのデータ(ホールドアウト)。改善したのか、過学習しただけなのかを見分けるためです。

「わかりません」も機能のうち

答えを保留できないシステムは、結局あてずっぽうで答えます。Atlasの引受審査のプロジェクトで、ユーザーの信頼がいちばん大きく伸びたのは、検索の精度を上げたときではありませんでした。アシスタントが「わかりません」と言えるようにして、そう答えるべき場面で正しくそう答えたかどうかも採点するようにしたときです。自信のある回答には、自信を持つだけの理由がある。審査担当者がそう思えるようになってからは、回答を一つ残らず確認し直すこともなくなりました。

最初の3週間、彼らがつくっていたのは、私たちが間違っているかどうかを教えてくれる仕組みでした。振り返ると、プロジェクトの本体はそれでした。

Dana Whitfield(Atlas Mutual エンジニアリング担当VP)

これで何が変わるか

evalができると、まず議論が短くなります。モデルの更新は、目をつぶって飛び込む賭けではなく、測って決める作業になります。コスト削減も怖くなくなります。定型的な8割のトラフィックを安いモデルに回しても、何も劣化していないことを証明できるからです。そして、経営陣にもう出せるのかと聞かれたときに、数字をつけて答えられます。

最初に1〜2週間かかります。その時間をかけて後悔したことは一度もありません。かけなかったプロジェクトの後始末には、何度も呼ばれています。