AI inference — bring your own (open-source) AI
Honderden datalagen per stad — makkelijk om het overzicht te verliezen. Koppel je eigen open-source LLM (lokaal via Ollama of LM Studio) en stel het systeem vragen in natuurlijke taal. Geen OpenAI/Anthropic — alleen open modellen op jouw machine. Op de kaart verschijnt dezelfde assistent als zijpaneel en kan hij rechtstreeks lagen aan- en uitzetten. Liever vanuit je eigen tool werken? Zie het MCP-tabblad.
Alleen open-source modellen, lokaal op jouw machine. Kies je server:
Lokaal, geen key. Start Ollama en pull een model dat tool-calling kan, bv. `llama3.1`, `qwen2.5` of `mistral-nemo`. Draait deze pagina niet op localhost? Zet dan `OLLAMA_ORIGINS` op deze site (bv. `OLLAMA_ORIGINS=https://basis-stadstwin.vercel.app ollama serve`), anders blokkeert Ollama het verzoek.
Lokale inferentie — draait op jouw machine. Je browser praat er rechtstreeks mee, niks gaat via de server van deze app.
Stel een vraag over de datalagen — de assistent zoekt in de catalogus.