Überblick
exo ermöglicht es Ihnen, Ihren eigenen AI-Cluster mit alltäglichen Geräten wie iPhones, iPads, Android-Geräten, Macs, Linux-Geräten und vielen mehr zu erstellen.
exo ist ein experimentelles Softwareprogramm, das es Ihnen ermöglicht, Ihren eigenen AI-Cluster mit alltäglichen Geräten zu erstellen. Es unterstützt verschiedene Modelle, einschließlich LLaMA, Mistral, LlaVA, Qwen und Deepseek.
Funktionen
exo bietet eine Vielzahl von Funktionen, darunter breite Modellunterstützung, dynamische Modellpartitionierung, automatische Geräteerkennung, eine ChatGPT-kompatible API und Gerätegleichheit. Es ermöglicht es Ihnen, Ihre eigenen Geräte zu verbinden und einen leistungsfähigen AI-Cluster zu erstellen.
Verwendung
Um exo zu verwenden, müssen Sie es von Quelle installieren. Es gibt verschiedene Beispiele für die Verwendung von exo, einschließlich der Verwendung auf mehreren MacOS-Geräten, auf heterogenen Geräten und auf einem einzelnen Gerät mit dem exo run-Befehl.
Preis
exo ist kostenlos und open-source. Es gibt keine Kosten für die Verwendung von exo.