AI
26k

本番運用向けLLMオーケストレーション

Haystackは、ドイツのdeepset社が開発する本番運用向けのオープンソースAIオーケストレーションフレームワークです。検索、ルーティング、メモリ、生成といった処理を明示的に制御できるモジュール式のパイプライン設計が特徴で、コンポーネントを組み合わせてRAG、エージェント、セマンティック検索、質問応答システムを構築できます。OpenAIやAnthropicなど主要なLLM、各種ベクトルデータベースとの統合が豊富で、パイプラインのシリアライズやデプロイ支援など運用面の作りも堅実です。2017年から続く老舗プロジェクトとしての安定性も強みです。プロトタイプではなく本番品質のLLMアプリケーションを構築したいエンジニアリングチームや、検索システムの刷新を検討する企業に向いています。Apache-2.0ライセンスです。

関連トピック

agentagentsaigeminigenerative-aigpt-4information-retrievallarge-language-modelsllmmachine-learningnlporchestrationpythonpytorchquestion-answeringragretrieval-augmented-generationsemantic-searchsummarizationtransformers

コメント(0

コメントするにはログインしてください。

同じカテゴリのOSS

Let's Build Together

OSS導入、自社だけで悩まない。

ツール選定から構築・運用・AI活用まで、オープンソースラボ運営元のClasslessが伴走します。初回のご相談は無料です。