gemma3のStructured Outputで複雑な例を試す

by
カテゴリ:
Gemma 3のStructured Outputを試してみました。 文字列や辞書のリスト、nullableな値など、複雑なデータ構造でもソツなくこなす印象です。 ただ、「在米経験のある日本人」から出身地を推測するような複雑なタスクだと1bよりも大きめのモデルがよさそう。

gemma3:1bのStructured Outputを安定させる工夫

by
カテゴリ:
Structured OutputはLLMの出力をプログラムで扱いやすい形式（JSONとか）に落としこむ機能です。
gemma3:1bで試してみたところ、temperatureを0にする、システムプロンプトに入力に忠実に構造化出力してと指示するなどの工夫が必要なものの、期待通りの結果を得ることができそうです。