概要
専門分野のチャットボットを作るシリーズの第1回目!
過去にやったこと
以前に「OpenAIのAPI」と「LangChain」を使って独自データについて回答してくれるサンプルプログラムを作成した✅
💡
以前のプログラムはこちら。
このサンプルプログラムを改造して、より膨大な独自データを使ったプログラムを作成してみたが思うような回答が得られなかった…😫
これからやること
少しでも精度を上げるため自分なりに試行錯誤したことを共有する😊
![Image in a image block](/notion/782c93ab-ac8d-4daf-87dc-b3a02fb6f2f9/LangChain%EF%BC%88%E7%8B%AC%E8%87%AA%E3%83%87%E3%83%BC%E3%82%BF%E3%81%AE%E5%9B%9E%E7%AD%94%E7%B2%BE%E5%BA%A6%E3%82%92%E4%B8%8A%E3%81%92%E3%82%8B%EF%BC%89.png)
背景
筆者のスキル
- プログラミング歴5年目
- Web系は初心者に毛が生えた程度
- AIはChatGPTの流行に便乗してAPIを少し触った程度
- LangChainのドキュメントは一通り読んである程度理解した(つもり)
前提
自社で「myApp(仮称)」という表計算ソフトを開発している🧑💻
⚠️
特定を避けるため「表計算ソフト」と書いたが、実際はかなり専門的なソフトを扱った。
実現したいこと
カスタマーサポートのお問い合わせが多くて大変💦
少しでもお問い合わせを減らしたい😊
今回作るもの
お問い合わせを減らすため自社ソフトの質問に答えるチャットボットが作りたい✅
独自データ
社内には、以下の独自データがある✅
データの内容 | ファイル形式 | データ数 |
---|---|---|
自社ソフトのQ&A | CSV | 4000個のQ&A |
自社ソフトの解説書 | 4000ページのPDF |
![Image in a image block](/notion/f2551d28-cd00-4d45-a996-2f017b23923b/LangChain%EF%BC%88%E7%8B%AC%E8%87%AA%E3%83%86%E3%82%99%E3%83%BC%E3%82%BF%E3%81%AE%E5%9B%9E%E7%AD%94%E7%B2%BE%E5%BA%A6%E3%82%92%E4%B8%8A%E3%81%91%E3%82%99%E3%82%8B_%E6%89%8B%E5%85%83%E3%81%AB%E3%81%82%E3%82%8B%E3%83%86%E3%82%99%E3%83%BC%E3%82%BF%EF%BC%89.png)
※ファイルは複数に分かれている。
💡
「4000個のQ&A」と「4000ページの解説書」がある!
精度が悪い原因
💡
精度を上げるにあたって、元のプログラムのどこが悪いのか考えてみた!
改良前のプログラムで回答の精度がよくない原因として「複雑なソフトのチャットボットを作ろうとしているため」だと予想✅
具体的には…
- 専門用語が多くAIが言葉を理解できないのでは…💭
- 解説書が4000ページあるくらい多機能で複雑なソフト。ピンポイントな回答を得るのは難しいのでは…💭
💡
専門性が高く、データ量が多いので難易度が高そう…
使用技術
- OpenAI API(有料)
- LangChain
💡
言語はTypeScritpで開発したが、精度を上げる考え方はPythonでも同じ!