pgpt.py
一気に複数モデルに問い合わせる、たとえば6モデル。
これは6人に同時に問い合わせるに等しい。
特に正解の無いアイデアをたくさん集めたいときに便利。
github copilot: share
https://gyazo.com/51eb18349f425c3982cb93fda6a3bd9b
コード(openai 1.0.0以上に対応) → za_eHAyhG
前提
OpenAIのみに対応しています
OpenAI APIが必要です
これの解説はしません
使い方
code:使い方
python pgpt.py -i prompt.md
prompt.mdにプロンプト書いて、pgpt.pyに食わせると、色んなモデルで問い合わせが並列で走る
回答は prompt-(モデル名).md に出力される
なのでテキストエディタやIDEで開いておくと便利
たとえばVSCodeは自動でリロードしてくれる
VSCodeからシームレスに呼び出す
1. pgpt用のフォルダを適当につくる
2. (1のフォルダ)/.vscode/tasks.json をつくって、以下を書く
Macの場合。"command" 部分のpython本体パスは各自調整
code:tasks.json
{
"version": "2.0.0",
"tasks": [
{
"label": "Run pgpt",
"type": "shell",
"command": "/usr/local/bin/python3",
"args": [
"pgpt.py",
"--input",
"p.md"
],
"group": {
"kind": "build",
"isDefault": true
}
}
]
}
3. 実行する場合は、コマンドパレット → Run Task → Run pgptを選ぶ
https://gyazo.com/05328d6e025ccf686ebc832ffdab2f8d
モデル名の追加
pgpt.pyに直書き
タイムアウトの設定
timeout= の部分
これ超えても回答が来ない場合はエラーになる
今は経験則的に130(2分+少し)にしている
モデルとしてo1-proとか使いたい場合は足りないかもしれないsta.icon
参考:
/villagepump/複数のLLMモデルを同時に走らせてテキストファイルに吐くコマンドをつくった