ScrapboxにもLLMの機能が来ないかなあ
基素.icon
Scrapboxにもこの手の機能欲しい！！！
ChatGPTのサイトに行って聞けばいいんじゃないかとも思うtakker.icon アプリから直接聞くことのメリットが、手間以外に存在する？
基素.icon
何が学習されているのかよくわからないので全部学習されてほしい
他の人のクエリを見ている限りbingはある程度クロールしている感じではあるけれど、全部見てるのかな？
Scrapboxのネットワークを使った最適化がありそう
つまり、Scrapboxにインテグレートして欲しい（単につかえます以上のものがある気がする）
ChatGPTやbingはprivateなプロジェクトで使えない
手間の削減も重要
なんとかしてscrapboxから直接使えないものか……
流石に違法ではないが、利用規約違反である
他にも無料か安めのLLMはあるのだろうか？
全くLLMまわりの情報を追っていないので何もわからない
/work4aiを一通り読む&わからないところに自分なりに説明書き込めば追えるだろうか？ 自分が思いつくもので良さげな方法はこれかな。LLMまわりの情報に触るたびに書き込んでみる
今まではでかすぎて動かせなかったLLMを(逸般の誤家庭レベルの)PCで動かせるようになりました!() RAMが90GBぐらい必要と聞きました基素.icon
でも4枚させるM/Bなら64GBを2つ買えばいいし増設なら3万円ぐらいで買えるから超有用であることがわかっているならそれぐらいは出せるかな
ギリ現実的wはるひ.icon
もう少し軽くなってほしい&高性能のオープンモデルが出てほしいものですが...wogikaze.icon
いい感じにscrapboxをindexにしてほしいからこれを魔改造すれば可能性はある
2024/3/26
1年経って技術の進歩によりまともに動くモデルも増えてきた気がするwogikaze.icon
けど速度/性能的にサービスのAPIを使った方が簡単で速そう
今ならVRAM8GBあればLlama3.1 8B 4bitくらい動くのかbsahd.icon
なお私の環境だとq2_Kで限界
AIと共同編集してぇ〜〜mtane0412.iconbsahd.iconyosider.icon 関連