Llama.cpp
llama.cpp es una biblioteca de software de código abierto que realiza inferencias sobre diversos modelos de lenguaje de gran escala, como el modelo Llama de Meta. Se desarrolla conjuntamente con el proyecto GGML, una biblioteca de propósito general para tensores. La biblioteca incluye herramientas de línea de comandos, así como un servidor con una sencilla interfaz web. llama.cpp ha sido considerado el estándar de facto como núcleo de casi todas las herramientas de inferencia local, incluidas Ollama y LM Studio.
Leer en Wikipedia · Imagen Georgi Gerganov and The ggml authors, MIT
Abre sobres, colecciona cartas y cámbialas. Gratis.
Jugar gratis