MLflow とは

MLflow は、開発者が機械学習 (ML) や AI のプロジェクトを初期の実験からプロダクション環境へのデプロイまで整理・管理するのを支援するツールです。従来の予測モデルから先進的な AI エージェントまで、あらゆるライフサイクルの最初から最後までを追跡、監査、管理するための統合プラットフォームを提供します。 

オープンソースでベンダーに依存しない MLflow は、どこでも (ローカルで、または任意のクラウドプロバイダーで) 実行でき、ほとんどの主要な ML フレームワークと統合できます。この柔軟性により、MLflow は個人の開発者から企業まで幅広く支持されています。

Red Hat AI の詳細

生成 AI が登場する前、機械学習は予測、フラグ付け、データのソートなどの予測タスクに焦点を当てていました。当時のデータサイエンスチームには、実験の追跡やモデルのデプロイを行うための標準的なツールがありませんでした。そのため、モデルのイテレーションをスプレッドシート、個人的なメモ、接続されていないスクリプトで追跡していました。 

大手テクノロジー企業では社内のプロプライエタリー・システムを利用できましたが、オープンソースという選択肢は存在しませんでした。その結果、多くのプロジェクトが実験段階から本番運用段階への移行に失敗していました。 

Databricks はこの問題の解決策として MLflow を開発し、後に Linux® Foundation に寄贈しました。これにより、テクノロジー業界には ML ライフサイクルの各段階をサポートするオープンソースツールの数々がもたらされました。

• テストフェーズ：MLflow により、散在する手動メモを廃止し、すべてのパラメーター変更、コードのバージョン、更新を記録するための追跡およびプロンプトレジストリを提供します。生成 AI アプリケーションの場合、チームはプロンプトレジストリからさまざまなプロンプトをテストできます。これにより、自動評価 (または LLM-as-a-Judge) を実行して、実稼働前に、生成された出力の正確性とハルシネーションのリスクにスコアを付けることができます。 
• ハンドオフフェーズ：MLflow は手作業によるハンドオフを廃止し、どの環境でも同じように実行される標準化されたコンテナにコードをパッケージ化します。モデルレジストリは、アセットがテストからプロダクションに移行する際のバージョン履歴と承認状況を管理する、信頼できる公式記録として機能します。
• ローンチフェーズ： モデルがレジストリで承認されると、MLflow は保存されたアセットをREST API (Representational State Transfer Application Programming Interface) または標準コンテナに変換します。これにより、アプリケーションやサーバーへの迅速な統合が可能になります。生成 AI アプリケーションの場合、AI ゲートウェイはトラフィック・コントローラーとして機能し、API キーの管理とデータのルーティングを行います。 
• 監視フェーズ： MLflow は、ライブ出力の正確性測定およびエージェントのマルチステップ推論の検証を行うためのトレースおよび評価ツールを提供します。

デモを見る：MLflow によるエージェント型のトレースと可観測性

MLflow は、従来の機械学習（ML）と最新の生成 AI の両方で活用できる各種ツールを、以下のように整理して提供しています。

従来の ML とディープラーニング向けの機能

• モデル追跡： テストや調査中にモデルをトレーニングするたびに、コードのバージョン、パラメーター、パフォーマンス指標、チャートを記録する自動化ログ。 
• モデルのパッケージ化：モデルをグループ化する標準化されたパッケージ形式。モデルをどの環境でも予測どおりに実行するために必要なすべてのソフトウェア依存関係とともにパッケージ化します。 
• MLflow モデルレジストリ： プロジェクトが成熟した段階に達した際に、承認や移行を追跡するための中心的なハブ。モデルレジストリは信頼できる情報源となり、元の実験へのリンク (モデル追跡) として機能することで監査可能性が確保されます。
• モデルのデプロイ： 保存済みのモデルを、Web に適したサービス (REST API)、コンテナ、推論パイプラインへと変換する、提供ツールのセット。 
• モデル評価：精度指標を自動的に計算し、トレーニング済みモデルのパフォーマンスチャートを生成するフレームワーク。 

生成 AI およびエージェント型 AI 向けの機能

• MLflow Tracing：OpenTelemetry 互換の可観測性ツール。入力、出力、ツールの選択、トークンコストを記録し、AI エージェントの「思考プロセス」を可視化します。 
• LLM 評価：「LLM-as-a-Judge」とも呼ばれるこの機能は、二次言語モデルを使用して、プロジェクトから導き出される回答の品質をチェックします。これにより、バイアスをテストし、モデルの出力のガードレールを維持できます。 
• MLflow プロンプトレジストリ：プロンプトテンプレートを追跡、管理、整理するための専用ワークスペース。 
• MLflow AI ゲートウェイ：API キーと外部プロバイダーを通過するデータを追跡し、ルーティングする中央ハブ。これは、予算の管理やレート制限の適用に役立ちます。 
• MLflow MCP サーバー： モデルコンテキストプロトコル (MCP) を使用して AI アプリケーションとコーディングアシスタントが外部データソースおよびツールと対話できるようにする接続ポイント。 

MLflow はフレームワークにとらわれない設計になっており、開発者やデータサイエンティストが使いたいと思うほぼすべてのツールと連携できます。PyTorch、LangChain、Docker など、人気のあるフレームワークをはじめとする多くのツールが、MLflow のライフサイクル全体を通じて統合可能です。 

AI 可観測性と MLflow の連携方法を見る

MLflow により、開発者やデータサイエンティストの作業が容易になりますが、MLflowは エンタープライズ AI ソリューションを構築している IT リーダーにとっても魅力的です。MLflow を裏で支えるガバナンスは、ユーザーのプライバシーを保護し、リリース前にエラーを発見し、信頼性の高いアップタイムを維持するのに役立ちます。そのため、IT 意思決定者は以下の複数の重要な領域で AI インフラストラクチャを制御できます。 

• デジタル主権：MLflow はプライベートクラウド・ネットワーク内やエアギャップ環境内など、完全にオンプレミスでホストできます。機密データは、サードパーティベンダーを介してエクスポートするのではなく、組織のセキュリティ境界内に保持することができます。 
• 規制コンプライアンス： 一部の業界 (金融、医療、法務など) では、自動化された意思決定のあらゆるステップを説明できる必要があります。MLflow はそれらの情報を取得して、完全な監査証跡とリネージュメタデータを提供します。これにより、コンプライアンスチームは出力がどのように生成されたかを完全に把握できます。この透明性は、説明可能な AI やソブリン AI の取り組みに役立ちます。 
• 一元的なコスト管理：AI ゲートウェイを介して、IT チームはすべての外部 AI トラフィック (エージェント、言語モデル、および外部ツールの間を流れるすべてのもの) を単一のチェックポイント経由でルーティングすることができます。これにより、組織は予算の制限を設定し、API キーと MCP 接続を管理し、チーム全体の支出を追跡できます。

Red Hat® AI は、 vLLM 搭載のサーバーを通じて、高速で柔軟かつ効率的な推論を行うように構築されています。モデルをデータと確実に接続し、専用エージェントのカスタマイズと開発を単一のプラットフォームで行うことができます。オープンソースを基盤として構築された当社の製品により、あらゆる規模で AI ワークフローをエンドツーエンドで完全に制御することができます。 

また、Red Hat AI ポートフォリオには AI 推論、エージェント型 AI ワークフロー、AI 対応アプリケーションをあらゆるインフラストラクチャ上でデプロイ、管理、スケーリングするためのプラットフォームである Red Hat AI Enterprise が含まれています。

Red Hat AI の詳細