メールの返信判断、過去の会話の検索、下書き生成を30〜50の専門モデルへ分担させ、利用者の修正を学習へ戻す。AI秘書サービスのFyxerはこの仕組みを運用し、OpenAIが公開した事例では下書きの53%が無修正で採用されている。
返信の必要性を判断してから会話の記憶を探す
Fyxerが開発したAI秘書サービスは、メール処理を30〜50の専門モデルへ分担させている。受信時には返信判断モデルが、返答が必要なのか、日程調整を伴うのか、情報として確認すればよいのかを分類する。
返信が必要なメールは別のモデルへ渡され、相手の意図や、会話が日程調整、依頼の解決、継続的な関係のどこへ向かうかを分析する。検索モデルは新着メールを保存済みのやり取りと照合し、その相手や会話に関係する記憶を取り出す。
人の秘書業務をタスク別モデルの学習に使う
こうした判断の学習には、人が実際に秘書として働いた業務データを使う。FyxerはAI製品の提供前に人による秘書サービスを運営し、50万時間を超える注釈付き業務に基づくデータセットを蓄積した。
タスク別のモデル作成には、教師ありファインチューニングとLoRAをシステム全体で用いる。業務データを学習に使う一方、導入前の評価では下書き、分類、優先順位付けに対応する検証用データを用意し、精度に加えて応答時間とコストを比較する。
利用者が直した下書きを次の学習へ戻す
運用中に利用者が下書きを直すと、元の文章と送信前の文章が対になる。Fyxerはこの組を、好まれる出力を学ぶDirect Preference Optimization(DPO)の学習データとして使う。
学習による下書き生成の変更は、A/Bテストで評価する。Fyxerは統計的に有意な改善が得られた場合に新しい版を提供し、利用者の修正を取り込んだモデルを更新する。
新しいモデルを本番へ導入し、無修正の採用率は53%に
FyxerはOpenAIのマネージドファインチューニング担当チームと協力し、学習済みモデルの保存状態に当たる新しいチェックポイントを本番運用へ導入した。追加学習したモデルは、実際のサービスで使う段階へ移っている。
OpenAIが公開した運用事例では、AIが生成した下書きの53%を利用者が修正なしで採用している。この値は下書きがそのまま使われた割合を示すもので、新しいチェックポイントの導入前後の改善率を示すものではない。