記事を検索

📦TSexe (プロジェクトフォルダの名前はTSexeとした)
 ┣ 📂index            // 事前に作ったインデックス（前回の記事で解説済み）
 ┃ ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index
 ┣ 📂src
 ┃ ┣ 📜index.ts       // exe化したいソース（前回の記事から一部修正。後述）
 ┣ 📜.env             // 環境変数用ファイル。OpneAIのAPIキーが書いてある。

// モデル
import { ChatOpenAI } from "langchain/chat_models/openai";
// 埋め込み
import { OpenAIEmbeddings } from "langchain/embeddings/openai";
// ベクトル検索エンジン
import { HNSWLib } from "langchain/vectorstores/hnswlib";
// チェーン
// import { RetrievalQAChain } from "langchain/chains";
import { ConversationalRetrievalQAChain } from "langchain/chains";
// メモリー
import { BufferMemory } from "langchain/memory";

// .envの読み込み
import fs from 'fs';
const envFilePath = '.env';   // .envファイルのパスを指定（ルートディレクトリにある場合）

// ----------------------------------------------------------------------
// .envファイルを同期的に読み込む関数
function readEnvFile(filePath: string): { [key: string]: string } {
  const data = fs.readFileSync(filePath, 'utf-8');
  const lines = data.split('\n');
  const envData: { [key: string]: string } = {};

  for (const line of lines) {
    const trimmedLine = line.trim(); // 先頭と末尾の空白を取り除く
    if (trimmedLine && !trimmedLine.startsWith('#')) { // 空行とコメント行をスキップ
      const [key, value] = trimmedLine.split('=');
      envData[key] = value.replace(/(^"|"$)/g, ''); // ダブルクオーテーションを取り除く
    }
  }

  return envData;
}


// ----------------------------------------------------------------------
// 実行
export const runLlm = async () => {
  // APIキー読み込み
  try {
    // .envファイルを読み込む
    const envData = readEnvFile(envFilePath);
    const apiKey = envData['OPENAI_API_KEY'];

    // APIキーを環境変数にセットする
    process.env.OPENAI_API_KEY = apiKey;

  } catch (error) {
    console.error('.envファイルの読み込みに失敗しました:', error);
  }


  // 作成済みのインデックスを読み込む
  const vectorStore = await HNSWLib.load(
   path.join(__dirname, 'index'),                 // indexフォルダ
    new OpenAIEmbeddings()
  );
  // モデル
  const model = new ChatOpenAI({});
  // チェーン
  const chain = ConversationalRetrievalQAChain.fromLLM(
    model,
    vectorStore.asRetriever(),
    {
      qaChainOptions: {type: "stuff"},
      memory: new BufferMemory({
        memoryKey: "chat_history",
        inputKey: "question",
        outputKey: "text",
        returnMessages: true,
      }),
    // verbose: true,
    }

  );
  // 質問する
  const res = await chain.call({
    question: process.argv[2],    // コマンドライン引数から質問文を取得
  });
  
	// 回答を表示する
  console.log( res['text'] );
  
};

runLlm();

tsc

📦TSexe
 ┣ 📂dist
 ┃ ┣ 📜index.js        // index.tsをトランスパイルしたファイルができる
 ┣ 📂index
 ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index
 ┣ 📂src
 ┃ ┣ 📜index.ts
 ┣ 📜.env

npm install nexe -g

【もしエラーが出たらsudoを付ける】
sudo npm install nexe -g

📦TSexe
 ┣ 📂dist
 ┃ ┣ 📜index.js       // 移動元
 ┣ 📂index
 ┃ ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index
 ┣ 📂src
 ┃ ┣ 📜index.ts
 ┣ 📜.env
 ┣ 📜index.js         // 移動先

nexe ./index.js --build --verbose --python python3 -r .env -r index

📦TSexe
 ┣ 📂dist
 ┃ ┣ 📜index.js
 ┣ 📂index
 ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index
 ┣ 📂src
 ┃ ┣ 📜index.ts
 ┣ 📜.env
 ┣ 📜index.js
 ┣ 📜TSexe.exe           // exeができる😊

📦myApp（任意の名前）
 ┣ 📜TSexe.exe
 ┣ 📂node_modules         // exeと同階層に置いておく。以下の3フォルダ以外は削除してOK。
 ┃ ┣ 📂bindings
 ┃ ┣ 📂file-uri-to-path
 ┃ ┗ 📂hnswlib-node
 ┣ 📂index                // exeと同階層に置いておく
 ┃ ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index

Error: Could not import hnswlib-node. Please install hnswlib-node as a dependency with, e.g. `npm install -S hnswlib-node`.

 ┣ 📜TSexe.exe
 ┣ 📂node_modules         // exeと同階層に置いておく。以下の3フォルダ以外は削除してOK。
 ┃ ┣ 📂bindings
 ┃ ┣ 📂file-uri-to-path
 ┃ ┗ 📂hnswlib-node

Error while listing files: [Error: ENOENT: no such file or directory, scandir '/Users/xxxx/yyyy/index'] {
  errno: -2,
  code: 'ENOENT',
  syscall: 'scandir',
  path: '/Users/xxxx/yyyy/index'
}

 ┣ 📜TSexe.exe
 ┣ 📂index         // exeと同階層に置いておく
 ┃ ┣ 📜args.json
 ┃ ┣ 📜docstore.json
 ┃ ┗ 📜hnswlib.index