exo
LLM開発ツール手持ちデバイスでAIクラスタを構築
exoは、手持ちの複数デバイスを束ねて一つのAIクラスタを構築し、大規模なAIモデルをローカルで実行できるオープンソースソフトウェアです。iPhone、iPad、Mac、Linux PCなど性能の異なるデバイスを自動で発見・接続し、モデルを各デバイスのメモリ量に応じて分割して実行するため、単体では載りきらない大きなモデルも家庭やオフィスにある機器の組み合わせで動かせます。専用のマスターノードを必要としないP2P型のアーキテクチャも特徴です。高価なGPUサーバーを買わずに大型のオープンモデルを試したい開発者・研究者や、データを外部に出さずにフロンティア級のAIをローカル運用したい組織に向いています。Apache-2.0ライセンスで、GitHubスター数4.5万超の注目プロジェクトです。
コメント（0）
コメントするにはログインしてください。
同じカテゴリのOSS
rea
Reverse engineer anything with agents, from app behavior down to native binaries.
hermes-agent
ユーザーと共に成長するAIエージェント（Nous Research製）
OpenCode
The open source coding agent.
firecrawl
WebをLLM向けに検索・スクレイピングするAPI
ponytail
Makes your AI agent think like the laziest senior dev in the room. The best code is the code you never wrote.
transformers
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.