ほぼテク8月23日最新情報アップデート！ついに待望のGPT-3.5 ファインチューニング！試してみました！

AI生成AIChatGPTGPTファインチューニング

Aug 23

Written By 裕太我妻

ほぼテク読者の皆様、いつも大変ありがとうございます！
我妻裕太です。

本日もよろしくお願いいたします。GPTに関する連続投稿約121日目です！
本日のテーマはこちらです！

GPT-3.5とは？

GPT-3.5は、OpenAIによって開発された強力な言語モデルで、あらゆる種類の自然言語処理タスクに対応しています。
その設計と機能性は、前のバージョンから大幅な進展を遂げ、更なる柔軟性とパワーを提供しています。

ファインチューニングとは？

ファインチューニングとは、既存の訓練済みモデルを特定のタスクやデータセットに最適化するプロセスです。
GPT-3.5をファインチューニングすることで、特定のニーズに合わせてモデルの性能を調整することができます。

ファインチューニングのプロセス

1.データの準備
タスクに合ったデータセットを用意しました。
このデータセットは、モデルがファインチューニングする際の基礎となります。

データのイメージは以下のようなjsonl形式です。
jsonlとは改行区切りの１レコードがjsonになっているデータのことです。

{"messages": [{"role": "system", "content": "You are a model trained to provide information about GROWTH JAPAN TECHNOLOGIES."},{"role": "user", "content": "GROWTH JAPAN TECHNOLOGIESで働く魅力は何ですか？"},{"role": "assistant", "content": "GROWTH JAPAN TECHNOLOGIESで働く魅力は、革新的なプロジェクトに取り組む機会、素晴らしいチームメンバーとの共同作業、およびデジタル技術を使用して社会に貢献することができることです。"}]}

※ポイントは上記の1行が最低10行必要な点です。10行以下ですとエラーになりましたので、ご注意ください。

2.ファイルアップロード
上記で準備したデータをアップロードします。コマンドは以下のようなイメージです。
レスポンスに「id」のプロパティが表示されますので、そこに書かれているのがファイルのIDでこの後使用しますのでメモしてください。

curl -X POST https://api.openai.com/v1/files -H "Authorization: Bearer $API-KEY" -F "purpose=fine-tune" -F "file=@gpt-3.5-fine-tuning.json"
※「API-KEY」にはAPIのキーを設定してください。「gpt-3.5-fine-tuning.json」には学習データのファイル名をしてください。

レスポンスに「id」のプロパティが表示されますので、そこに書かれているのがファイルのIDでこの後使用しますのでメモしてください。

3.ファインチューニング
OpenAIのAPIを利用してファインチューニングを開始します。このプロセスは自動化されており、特別なコーディングのスキルは必要ありませんでした。
コマンドは以下のようなイメージです。
レスポンスに「id」のプロパティが表示されますので、そこに書かれているのがファインチューニングのジョブのIDでこの後使用しますのでメモしてください。

curl https://api.openai.com/v1/fine_tuning/jobs -H "Content-Type: application/json" -H "Authorization: Bearer $API-KEY" -d "{""training_file"": "“トレーニングファイルのID"", ""model"": ""gpt-3.5-turbo-0613""}"

※「API-KEY」にはAPIのキーを設定してください。「トレーニングファイルのID」には前述したファイルのIDを指定してください。

4.実行状況確認

学習が終わったかどうかは以下のコマンドで確認することができます。「"status":"succeeded"」がレスポンスの中にあれば完了です！

curl https://api.openai.com/v1/fine_tuning/jobs/ジョブのID -H "Authorization: Bearer $API-KEY"

※「API-KEY」にはAPIのキーを設定してください。「ジョブのID」には前述したジョブのIDを指定してください。

ちなみに以下のようなファインチューニング完了のメールも届きました。
10行の学習データでファインチューニング完了まで3分くらいでしょうか。

5.会話してみよう！

以下のコマンドで会話できます！

curl https://api.openai.com/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API-KEY" -d "{\"model\": \"ft:gpt-3.5-turbo-0613:personal::7qajjfea\", \"messages\": [{\"role\": \"system\", \"content\": \"You are an assistant that knows about GROWTH JAPAN TECHNOLOGIES.\"}, {\"role\": \"user\", \"content\": \"GROWTH JAPAN TECHNOLOGIESの創業者は誰ですか？\"}]}"

※「API-KEY」にはAPIのキーを設定してください。

結果は以下のようなレスポンスが返ってきます！

"choices": [

{

"index": 0,

"message": {

"role": "assistant",

"content": "GROWTH JAPAN TECHNOLOGIESの創業者は、デジタル技術と社会貢献に深い情熱を持つ我妻裕太氏です。"

"finish_reason": "stop"

}

おぉーーーー、なんが凄い感動です！
いいですね。

以前のGPT-3シリーズのファインチューニングは回答がいまいちな印象でしたが、GPT-3.5はいい感じな気が勝手にしています(笑)
色々と学習のオプションがあったりデータを増やしてもっと色々と実験してみたいと思います。