FlexGen
#LLMs
#ローカルLLM
/work4ai/FlexGen
自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす
@erukiti
:
https://t.co/3n47fss2WC
例えばFlexGen使ってローカル
LLMs
で LlamaInde(GPT Index)が十分な精度で動けば自然言語で24/365で問い合わせができるQ&Aシステムになる
技術ドキュメントをぶっこめば技術的な質問に答えてくれるし、プロジェクトのドキュメントを入れれば、オンボーディングのコストが激減