Gemma 3のStructured Outputを試してみました。 文字列や辞書のリスト、nullableな値など、複雑なデータ構造でもソツなくこなす印象です。 ただ、「在米経験のある日本人」から出身地を推測するような複雑なタスクだと1bよりも大きめのモデルがよさそう。Structured OutputはLLMの出力をプログラムで扱いやすい形式(JSONとか)に落としこむ機能です。
gemma3:1b
で試してみたところ、temperature
を0にする、システムプロンプトに入力に忠実に構造化出力して
と指示するなどの工夫が必要なものの、期待通りの結果を得ることができそうです。関数魔改造講座body編と言えるかもしれない……。黒魔術の世界へようこそ。