Temperature

Temperatureは言語モデルの出力のランダム性を制御するパラメータで、通常0から1の範囲です。Temperature = 0の場合、モデルは常に「最も可能性の高い」次のトークンを選択し、出力はほぼ完全に確定的になります。Temperature = 1の場合、モデルはトークンの確率分布に従ってサンプリングします。 Temperatureは創造性だけでなく正確性にも影響します。高いTemperatureは技術的なタスクでモデルがより多くのエラーを犯しやすくします。デフォルト値は通常1です。Temperatureを明示的に設定することはすべてのAPIコールで行うべきことです。

トレーニング後、言語モデルは各位置でトークンの確率分布を予測できます。常に最も確率の高いトークンを選択すると、出力は繰り返しで平凡になります。Temperatureは「リスク許容度」を制御するノブを提供します。この設計により、1つのトレーニング済みモデルが異なるタイプのタスクに適応できます。

Temperatureの設定は2つのコアな判断に影響します： タスクタイプ別に設定する：コード生成、データ抽出、事実Q&Aには0〜0.3；コピーライティング、ストーリー作成には0.7〜1；分析レポートには0.4〜0.6。これらは出発点です。 Temperatureでプロンプトの問題を解決しようとしない：Claudeの出力が期待に合わない場合、ほとんどはプロンプトの問題です。まずプロンプトを最適化し、安定した出力が得られることを確認してからTemperatureを微調整してください。

実用的な推奨事項： タスク-Temperatureルックアップテーブルを作成する：よく使うタスクタイプに最適なTemperatureを記録します。製品コピー→0.9、SQLクエリ生成→0.1。 高Temperatureタスクには複数サンプリングを使用する：1回だけ生成するのではなく、3〜5バージョンを生成して最良のものを選びます。 テスト・デバッグにはTemperature = 0を使用する：開発・テスト段階では、Temperature = 0に設定して出力を確定的にします。