LiNeP Runtime · llama.cpp
LiNeP-llama.cpp
Native C++-Integration von LiNeP V0.2 in llama.cpp für lease-gebundenes Streaming, Reasoning, Cancellation, Embeddings und Benchmarks.
LiNeP Runtime
LiNeP direkt in llama.cpp verankern.
LiNeP-llama.cpp integriert V0.2 nativ in den C++-Runtimepfad und verbindet Streams unmittelbar mit Slots, Tokenausgabe, Embeddings und Abbruchlogik.
Zero Hop
Der Binärtransport erreicht die Runtime ohne HTTP-Proxy oder separaten Sidecar-Dienst.
Streaming
Content, Reasoning, Backpressure und Cancellation werden als getrennte Laufzeitereignisse behandelt.
Messbarkeit
Lease-fähige Clients und Benchmarks vergleichen Durchsatz, TTFT, Fairness und Fehlerfälle.
HTTP bleibt verfügbar; LiNeP ergänzt einen nativen, kontrollierbaren Transportpfad.