LLM触っていてContext lengthとMax tokenの違いが一瞬わからなくなったのでメモ
これらの違いを理解することで、LLMの制約を適切に把握し、効果的に利用できる。context lengthはモデルの能力を示す重要な指標で、max_tokensは出力を調整するための実用的なツール。
例えば以下のようなシェルスクリプトがあったとする。
#!/bin/bash # ユーザーからの入力を受け取る read -p "aを入力してください: " input_a read -p "bを入力してください: " input_b read -p "cを入力してください: " input_c if [ "$input_a" = "a" ] && [ "$input_b" = "b" ] && [ "$input_c" = "c" ]; then echo "OK" else echo "NG" exit 1 fi
この場合、a入力してエンター、b入力してエンター、c入力してエンターする。
❯ bash test.sh aを入力してください: a bを入力してください: b cを入力してください: c OK
通常実行時に入力を求められるLinux操作は珍しくないが、自動化しようとすると面倒
yコマンドだけ実行したいなら yes > bash hoge.sh でも対応できるが複数入力しなくてはいけない対話式のコマンドの場合対応できない。
シェルスクリプトの対話式入力を自動化するには、入力データをファイルに保存し、そのファイルをリダイレクトする方法が有効。以下の手順で実行できる。
入力データをファイルに保存する。例えば、cmd.txt というファイルを作成し、以下の内容を記述する。
a b c
シェルスクリプトを実行する際に、このファイルをリダイレクトする。
❯ bash test.sh < cmd.txt OK
この方法で、シェルスクリプトの対話式入力を自動化できる。ファイルに入力データを事前に用意しておくことで、手動入力を省略できる。
例えば以下のような配列があったとする。
const fruits = [ "りんご", "バナナ", "オレンジ", "いちご", "ぶどう", "メロン", "パイナップル", "マンゴー", "スイカ", "さくらんぼ" ];
この中から重複せずにランダムに３つ取得したい。
function getRandomElements<T>(arr: T[], count: number): T[] { if (count > arr.length) { throw new Error('Count is greater than the array length'); } const result: T[] = []; const usedIndices: Set<number> = new Set(); while (result.length < count) { const randomIndex = Math.floor(Math.random() * arr.length); if (!usedIndices.has(randomIndex)) { usedIndices.add(randomIndex); result.push(arr[randomIndex]); } } return result; }
実行すると
getRandomElements(fruits, 3) > ['さくらんぼ', 'ぶどう', 'マンゴー'] getRandomElements(fruits, 2) > ['りんご', 'パイナップル']
のようにできる。
getRandomElements<T>(arr: T[], count: number): T[] 関数の定義:
<T> を使って、任意の型の配列を受け取れるようにする。if (count > arr.length) で、要求した要素数が配列の長さを超えないことを確認。超えた場合はエラーをスロー。result と、使用したインデックスを管理するための Set 型の usedIndices を定義。while (result.length < count) で、必要な数のランダムな要素が取得できるまでループ。Math.random() を使ってランダムなインデックスを生成。usedIndices に存在しない場合のみ、結果に追加する。Set を使用しているため、インデックスの管理が効率的。