LLM・生成AI
日英ブローカー LLMミドルウェア
日本語入力を英語で推論させてから日本語に翻訳して返す2コールパイプライン。
曖昧な入力には確認質問ループで対応する法律ドメイン向けPoC。
Duration
短期開発
Team
1名
Engineered With TypeScriptDockerGPTMySQL
01 // OVERVIEW
プロジェクト概要
日本語入力をそのままLLMに渡すのではなく、一度英語で推論させてから日本語に訳して返す2コール構成のミドルウェアPoC。
英語の方がモデルの推論精度が高い領域で出力品質を底上げすることを目的とし、法律ドメインを想定して設計されている。
02 // KEY FEATURES
主な機能
translate
JA→EN推論→JA翻訳の2コールパイプライン
Call 1で日本語を読み取って英語で推論・回答を生成し、Call 2でその英語回答を日本語に翻訳して返す。ユーザーの文体や敬語のトーンを翻訳時に保持する設計。
help_outline
曖昧性検出と確認質問ループ
Call 1が入力の曖昧性を検出した場合、回答の代わりに確認質問を日本語で返す。ユーザーは質問に答えるか「そのまま進む」を選択でき、曖昧なまま誤った回答を出さない仕組みを持つ。
api
モック／ライブの切替可能な構成
LLM_PROVIDER設定でオフラインのモックモードと実OpenAI呼び出しを切り替えられる。Docker Composeで全サービスが起動し、APIキーなしでも動作確認できる。
03 // TECHNICAL DEEP-DIVE
技術的ハイライト
Solution
翻訳品質とレイテンシのトレードオフ
2コール構成はレイテンシが増えるが、法律文書のような高精度が求められる領域では1コールより出力品質が安定することを確認。モックで確認質問ループを素早く検証できる設計とした。
04 // IMPACT & RESULTS
成果
2コール
1問あたりのLLM呼び出し構成
曖昧性検出
不明確な質問には確認質問を返す
Docker完結
ローカル環境でフルスタック動作