フォロー
RT @_oshizo_@twitter.com
gpt-indexをOpenAIなし＆日本語で動かしてみています。かなりカスタマイズ性がある。
embed_modelとllm_predictorにローカルの日本語モデルを使って、QAとリファインのテンプレートを日本語で差し替え。
embed_modelの弱さはtopk=3チャンクぐらいに問い合わせるとまあまあカバーできる。
