ファインチューニング

ファインチューニングは、事前にトレーニングされたモデルを取得し、ドメイン固有のデータセットでさらにトレーニングして、その知識を改善し、そのドメインでより適切なレスポンスを提供するプロセスです。

AIクイック・アクションでモデルを微調整する場合、データ・サイエンス・ジョブを作成してこれを行います。データ・サイエンス・ジョブを使用して、AIクイック・アクションで基礎モデルを微調整する微調整ジョブを作成するには、必要なポリシーが必要です。微調整ジョブを作成するときに、ベース・モデルをトレーニングするデータセットを選択できます。モデル・エクスプローラでタグReady to Fine Tuneを持つ基本モデルを微調整できます。オブジェクト・ストレージからデータセットを選択するか、作業中のノートブックのストレージからデータセットをアップロードできます。ノートブックからデータセットをアップロードすると、ファインチューニング・モデルが保存されるオブジェクト・ストレージ・バケットに保存されます。したがって、ノートブック・セッションにオブジェクト・ストレージへのファイルの書込みを許可するポリシーが必要です。データセットはJSONL形式であり、必要な'prompt'列および'completion'列を含める必要があります。オプションで、カテゴリ列を含めることができます。同じ名前のデータセット・ファイルがバケットにすでに存在する場合、新しいファイルに置き換えられます。微調整するには、データセットに100以上のレコードが含まれている必要があります。

データセットのどの割合をモデル検証用に設定するかを選択できます。モデル・バージョン・セットは、相互に関連する一連のモデルをグループ化する方法です。既存のモデル・バージョン・セットを選択して、ファインチューニング・モデルを挿入するか、新しいモデルを作成できます。ファインチューニング・モデルは、バージョニングが有効になっている必要があるオブジェクト・ストレージ・バケットに保存できます。

モデル情報、データセット、モデル・バージョン・セットを入力し、ファインチューニング・モデルを保存する場所を入力した後、ファインチューニング・ジョブ用にコンピュート・インフラストラクチャおよびネットワークを選択できます。オプションで、ロギングを設定して、微調整ジョブを監視できます。ジョブのエラーをトラブルシューティングするために、ロギングをお薦めします。ロギングを設定するには、必要なポリシーが必要です。複数のGPUカードを使用した単一ノードのトレーニングおよびトレーニングがサポートされています。モデル、エポックおよび学習率を微調整するためのパラメータを指定できます。

ジョブが作成される前に、微調整ジョブに設定した構成およびパラメータを確認できます。