latestCódigo abierto · MIT

Cualquier modelo, cualquier motor,
una API local.

Alkahest descarga, ejecuta y sirve modelos de IA en tu propio hardware. Un único binario compacto con una CLI al estilo Ollama, todas las APIs habituales en un mismo puerto y una app de escritorio para ver qué se ejecuta y dónde.

$ alkahest pull qwen3:8b && alkahest run qwen3:8b
Procesador
GPU 100% GPU 38% · CPU 62% Cargando… 64%
Formatos
GGUF · Q4_K_M GGUF · PQ2_0 safetensors · BF16 store de ollama · solo lectura
Sirviendo ● 127.0.0.1:11435
alkahest — Biblioteca
La biblioteca de Alkahest: catorce modelos de todo tipo, con su formato, motor, tamaño, contexto y si están cargados en la GPU
01 · El disolvente universal

Entran muchas fuentes. Sale una sola API.

El logotipo es un embudo dibujado como el símbolo alquímico del agua: los modelos llegan de cualquier sitio por la boca ancha, el núcleo guarda lo que está cargado y una sola gota sale por el vértice.

Fuentes

O
Ollama registryalkahest pull qwen3:8b
HF
Hugging FaceGGUF y safetensors
git
Catálogos gitalkahest/qwen/qwen2.5-0.5b
./
Ficheros en discoalkahest import ./model.gguf
RO
Tu store de Ollamareutilizado en solo lectura, sin copiar

Un puerto · 11435

O
Ollama API/api/chat · /api/generate · /api/tags
AI
OpenAI API/v1/chat/completions · /v1/responses
A
Anthropic Messages/v1/messages · count_tokens
⊢
API de decisiones/v1/decisions · /v1/systemone
⚙
API de administraciónOpenAPI 3.1 · eventos server-sent
02 · Qué hace

Todo lo que debe hacer un servidor local de modelos, en un solo binario.

Sin entorno de Python ni contenedores obligatorios. Instalas un paquete y tienes el servidor, la CLI y la app de escritorio.

Descarga desde cualquier sitio

El registro de Ollama, Hugging Face, catálogos git curados o el fichero GGUF y la carpeta que ya tienes. Descargas reanudables, en paralelo y verificadas por digest.

pullsearchimport

Carga bajo demanda

Los modelos se cargan con la primera petición y se descargan tras un keep-alive, así que los inactivos no consumen nada. Varios a la vez, en GPU, CPU o repartidos entre ambas.

GPU 100%Sin cargar

Elige el motor adecuado

llama.cpp para GGUF, el fork de PrismML para los modelos ternarios Bonsai, vLLM para safetensors, whisper.cpp para voz y stable-diffusion.cpp para imágenes.

CUDAVulkanROCmMetalCPU

Habla todas las APIs habituales

Ollama, OpenAI, Anthropic Messages y una API de decisiones en un mismo puerto. Los clientes, SDKs y agentes que ya usas funcionan cambiando solo la URL base.

ollamaopenaianthropic

Seguro de exponer

Desde la propia máquina no hace falta clave; desde cualquier otra, sí. Claves con permisos, caducidad y límite por modelo, TLS, registro de uso y auditoría.

alk_••••TLSaudit

Tiene app de escritorio

alkahest desktop abre una app nativa para explorar, descargar, ajustar y vigilar modelos, con icono en la bandeja. Usa la misma API que cualquier cliente.

LinuxmacOSWindows
03 · App de escritorio

Cada modelo, dónde se ejecuta y cuánto consume.

Una interfaz densa, como un instrumento de precisión, hecha de forma nativa en Rust. El latón marca la acción importante; el verdete, lo que está en marcha.

Biblioteca
Pantalla Biblioteca

Biblioteca

Todos los modelos locales en una tabla, incluidos los que ya tienes en Ollama.

  • Tipo, formato, motor, tamaño y contexto de un vistazo
  • Estado en vivo: GPU, CPU, repartido o cargando
  • Filtros por tipo, origen y formato
  • Cargar, descargar y ajustar cada modelo
04 · Tipos de modelo

No solo chat.

Cada modelo se reconoce por lo que hace y se sirve por la API que le corresponde.

◆Chat ⋮Embeddings ⇅Rerank ◉Visión ∿Audio ▣Imagen ▶Vídeo ⊢Decisión
05 · Motores

El mejor motor para cada modelo, compilado para tu máquina.

Los motores se ejecutan como subprocesos supervisados. Alkahest elige uno según el formato del modelo, descarga una versión precompilada o la compila para tu CPU a partir de una receta, y lo reinicia si se cae.

llama.cpp

◆por defecto

Todos los modelos GGUF: chat, visión con su proyector, embeddings y reranking. Todos los paquetes incluyen una build para CPU; las de GPU se instalan con un comando.

GGUF · Q4_K_MCUDA 12VulkanROCmMetalCPU native

Fork de PrismML

Modelos ternarios Bonsai en formato PQ2_0 y PTQ1_0, elegido automáticamente.

PQ2_0PTQ1_0

vLLM

Modelos safetensors en Linux con NVIDIA, y en Apple Silicon donde está soportado.

safetensors · BF16

whisper.cpp

∿audio

Voz a texto en /v1/audio/transcriptions.

GGML · Q5_0

stable-diffusion.cpp

▣imagen

Generación de imágenes en /v1/images/generations.

GGUF · Q4_K_S
$ alkahest engines install llama-cpp --native
06 · Un puerto, todas las APIs

Tus herramientas ya lo hablan.

Apunta cualquier cliente de Ollama, OpenAI o Anthropic a http://127.0.0.1:11435. El puerto 11435 es el siguiente al de Ollama, así que ambos pueden convivir.

Ollama native

POST/api/chat · /api/generate
POST/api/embed · /api/pull
GET/api/tags · /api/ps · /api/version

OpenAI /v1

POST/chat/completions · /responses
POST/embeddings · /rerank
POST/audio · /images
GET/models

Anthropic /v1

POST/messages · /messages/count_tokens

Decisiones /v1

POST/decisions · /systemone
from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:11435/v1", api_key="unused-on-loopback")
reply = client.chat.completions.create(
    model="qwen3:8b",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
)
print(reply.choices[0].message.content)
API de administración: OpenAPI 3.1 en /alkahest/v1/openapi.jsonReferencia de la API →
07 · Por dentro

Pequeño, rápido y comprobado en cada commit.

Escrito en Rust. La CI impone límites de tamaño y de tiempo de arranque, y cada release se compila y se prueba en Linux, macOS y Windows.

<30MiB
binario sin interfaz gráfica, con el motor de CPU al lado
50ms
arranque máximo de la CLI; serve listo en 500 ms
5
plataformas: Linux x64/arm64, macOS Intel/Apple Silicon, Windows
1.4k
tests automáticos, más conformidad con los SDKs oficiales

Subprocesos supervisados

Los motores hablan HTTP en su propio proceso. Un fallo nunca tumba el servidor, y un vigilante detiene los motores si el servidor muere.

Planificador

Admisión según la memoria estimada, expulsión de modelos inactivos, colas y slots paralelos por modelo, descarga tras keep-alive.

Almacén direccionado por contenido

Blobs por digest SHA-256, compartidos entre modelos y con recolección de basura. El store de Ollama se lee, nunca se escribe.

Detección de hardware

Instrucciones de la CPU, RAM, NVIDIA mediante NVML cargado en tiempo de ejecución, AMD, Vulkan y Metal: la build y el reparto adecuados.

Catálogos git

Recetas y modelos descargados por HTTPS, fijados a un commit y comprobados contra un índice de digests.

Escritorio nativo

GPUI, acelerado por GPU, en el mismo binario. Habla con el servidor por HTTP como cualquier otro cliente.

08 · Sirve a otras máquinas

Ábrelo a tu red sin abrirlo al mundo.

En local, sin fricción. Todo lo demás necesita una clave.

$ alkahest serve --host 0.0.0.0:11435
  • 01
    Claves de API con permisosInferencia o administración, limitadas a ciertos modelos y con caducidad. Guardadas como hashes con sal.
  • 02
    TLS integradoTu certificado o uno generado, recargado con SIGHUP.
  • 03
    API de administración segura ante navegadoresComprobación de Origin, Sec-Fetch-Site y Host contra CSRF y DNS rebinding.
  • 04
    Uso y auditoríaUso por clave, registro de peticiones sin contenido, métricas de Prometheus.
  • 05
    Se ejecuta como serviciosystemd, launchd o servicio de Windows, con un usuario dedicado.
09 · Descarga

Descarga Alkahest

Todos los paquetes incluyen una build de llama.cpp para CPU, así que funciona nada más instalarlo. Libre y de código abierto bajo licencia MIT.

curl -fsSL https://raw.githubusercontent.com/digiogithub/alchemai-alkahest/main/scripts/setup/install.sh | bash
# detecta tu sistema, CPU y GPU e instala la mejor build del motor; --service lo arranca al iniciar sesión
¿Ya lo tienes? alkahest update actualiza a la última versión.Guía de instalación →

Tus modelos, tu hardware, tu API.

Instálalo una vez y todas tus herramientas locales tendrán un servidor de modelos.

Descargar Alkahest