AI硬件 AI 工具

exo是一个允许在个人设备上运行AI模型的项目，支持分布式推理且无需master-worker架构，确保设备平等。自动发现其他设备并提供多种推理引擎和网络模块选择，如MLX、tinygrad和GRPC。开源社区欢迎参与，使用日常设备实现高效AI集群。