複数のAIモデルから課題に適した処理先を選ぶFugu Maxが、連携対象を拡充した。Sakana AIの評価では、10ベンチマーク中7つで単体モデルの費用対性能の境界を上回った。入力料金は100万トークン当たり2ドル、出力は6ドルに設定されている。
言語モデルが委任と結果の統合を担う
Sakana AIのAIシステムSakana Fuguは、モデル選択、作業の委任、検証、結果の統合を内部で管理する。利用者が個々のモデルへの依頼と結果の取りまとめを組み立てる代わりに、このシステムが複数モデルの作業を調整する。
その調整役自体も、各種の大規模言語モデルを呼び出すよう訓練された言語モデルである。呼び出し先となるモデル群を使い分ける仕組みが、今回のFugu Maxでも中核を担う。
連携対象を増やし、解ける最も軽量なモデルへ振り分ける
Fugu Maxでは、連携できる公開重み・専門モデルの範囲が広がった。追加されたモデルには、NVIDIAの言語モデル系列Nemotronも含まれる。
Sakana AIによると、処理先は課題を解ける最も軽量なモデルへ動的に振り分けるという。連携対象の拡充と、この課題ごとのルーティングを組み合わせ、費用対性能を重視した構成としている。
10評価中7つで単体モデルの費用対性能の境界を超える
Fugu Maxの料金は、入力100万トークン当たり2ドル、出力100万トークン当たり6ドルである。入力と出力で単価を分け、この料金とベンチマーク性能の組み合わせを評価している。
Sakana AIの評価では、10ベンチマーク中7つで、比較対象の単体モデルが形成するパレートフロンティアを拡張した。これは、費用を増やさずに性能を高める、または性能を落とさずに費用を減らす余地がない比較対象の境界を、連携システムが越えたという評価である。
品質重視の構成も同じAPIから選べる
同じ中核アーキテクチャを持つAIシステムFugu Ultra v2は、複雑な多段階課題での能力を重視して最適化されている。Sakana AIの評価では、視覚的推論とデータ解釈を測るベンチマークChartographyで48.3を記録し、8ベンチマーク中5つで最高または同率最高のスコアとなった。
費用対性能を重視する構成と、回答品質を重視する構成は、いずれもOpenAI互換APIを通じて提供されている。Sakana AIによると、既存のFugu利用者は1行のパラメーター変更で、Fugu MaxまたはFugu Ultra v2へ切り替えることができる。