Terug naar expertises

Inferentiediensten

Modellen beschikbaar maken voor applicaties via een dienst.

Wat we doen

Een inferentiedienst met vLLM en een API voor applicaties voorbereiden. Verzoeken, middelen en monitoring organiseren volgens de beperkingen van de omgeving.

Technologieën & tools

vLLMInference servingLLMAPILocal inference

De mensen achter de expertise

Een expertise binnen het Benamor-collectief.

Deze vaardigheid maakt deel uit van de expertise van ons netwerk. De bijbehorende profielen worden binnenkort voorgesteld.

Zullen we erover praten?

Een project structureren, data begrijpen, een idee laten groeien. Onze expertise begint met een gesprek.

Onze contactgegevens zijn binnenkort beschikbaar.