node.js+express+typescript で、 Ai Chat を作ってみた。
"node.js + express + typescript で、ai を使ったシステム" を、 google ai で問い合わせると、ai チャットも簡単に作れるみたい。
ChatGTP だと、有料になるにで、先ずは、Ollama で、ローカルPC で試すのが良いと思う!!
これへの質問の過程で、
"一つ質問がありますが、Ollama で、上述のように AI チャットを作ったとして、次のステップとして、質問と回答の内容を、自社の業務に関する事にするには、どうすればよいのでしょうか?"
を問い合わせしたら、やり方を教えてくれたぞね!!
これなら、特定事業者に関する AI チャットもできそうじゃ。
i) RAG(検索機能拡張)
ii) ファインチューニング (Fine-tuning)
ファインチューニング だと、完成への道のりは、たいへんだろうが!!
RAG(検索機能拡張) だと簡単にできそうじゃ。
やはり、流行りの、 AI との連携には、node.js + express + typescript の利用が向いているんだろう。
Ollama に関しては、以前触れた。
LM Studio と言うのが、あるそうな!!
1. 開発環境
Ubuntu 24.04 PC 12G memory
llama3
GTX 1070 8GB
一応、 動作確認ができたので、後で、github にでもあげて置きます。
@tosa-no-onchan/nodejs_typescript_samples
2. RAG (Retrieval-Augmented Generation / 検索拡張生成) を試してみる。
一応、作ってみました。
md ファイルでも良いみたいなので、早速 md ファイルで、自分の事業の説明を記述して、llama3 に取り込ませて、使ってみました。
ある程度は、使えそうじゃ!!
あとは、特定の会社の業務や、製造業者の特定技能の技術継承に応じた、チャット プログラムを作ってみたい。
新人が、会社の業務の手続き、作業の手順、細かいノウハウに困ったときに、
先輩や、すでに退職した人のスキルが、簡単に問い合わせができる、AI チャットができそう。
あるいは、受信したメールが、自社の業務と関連のあるメールかどうかを、 Ai に問い合わせしてから、その後の処理に役立てるプログラムか?
メールの内容に応じて、担当部署を判断して、振り分けるプログラムか?