Beginnen met Open WebUI

Open WebUI is een self-hosted webinterface waarmee je via je browser met Large Language Models (LLM's) werkt. Open WebUI is een ‘ChatGPT-achtige’ interface: het model zelf draait bij een externe provider zoals OpenAI of Anthropic, of lokaal via bijvoorbeeld Ollama. 

Heb je een voorgeïnstalleerde VPS met Open WebUI besteld, dan hoef je Open WebUI zelf niet meer te installeren. In deze handleiding ga je verder vanaf het moment dat je VPS is opgeleverd: je logt voor het eerst in, maakt je beheerdersaccount aan en koppelt daarna een modelprovider zodat je direct kunt starten.

Voor het eerst inloggen in Open WebUI

Stap 1

Verwijs voor je verder gaat een (sub)domein naar het IP-adres van je VPS. Host je je domein bij TransIP en maak je voor Open WebUI een nieuw DNS-record aan? Dan is deze wijziging binnen enkele minuten verwerkt. 

Stap 2

Verbind met je VPS via de VPS console in je controlepaneel of via SSH. Heb je als installatiemethode gekozen voor een eenmalig wachtwoord? Pas dan eerst het wachtwoord aan na het inloggen. 

Je krijgt nu (ongeveer) het volgende scherm te zien:

Geef het (sudo) wachtwoord op van je gebruikersaccount op: de benodigde poorten worden nu automatisch in je firewall geopend. 

Stap 3

Open het bestand /opt/open-webui/.env:

sudo nano /opt/open-webui/.env

Pas de volgende waardes aan:

• DOMAIN_NAME: de domein-naam die je koppelt aan Open WebUI, bijvoorbeeld voorbeeld.nl. Ook als je een subdomein wil gebruiken geef je hier enkel de ‘fully qualified domain name’ (FQDN) op.
• SUBDOMAIN: de subdomein-naam zonder de FQDN, bijvoorbeeld webui.
• SSL_EMAIL: het mailadres waarop je mails wil ontvangen m.b.t. de verlenging van je SSL-certificaten.

WEBUI_SECRET_KEY=e1d5e3d982ec0aea3b88e249681a5ca8
DOMAIN_NAME=voorbeeld.nl
SUBDOMAIN=webui
SSL_EMAIL=demo@voorbeeld.nl

Sla de wijzigingen op en sluit het bestand (ctrl + x > y > enter). 

Stap 4

Herlaad Open WebUI om de wijzigingen te verwerken: 

sudo systemctl restart open-webui

Geef je server nu een minuut of twee om de wijzigingen te verwerken en een SSL-certificaat te koppelen voor je verder gaat met stap 5.

Stap 5

Open in je browser de URL van je Open WebUI-installatie. Gebruik hiervoor IP-adres dat je bij je VPS hebt gekregen of het in stap 1 t/m 5 gekoppelde (sub)domein. Je krijgt nu een scherm zoals hieronder te zien. Klik op ‘Get started’.

Stap 6

Maak nu eerst je eerste account aan. Dit eerste account is je beheerdersaccount en heeft toegang tot de globale instellingen van Open WebUI, waaronder het toevoegen van modelproviders. Geef je naam, e-mailadres en wachtwoord op en klik op ‘Create Admin Account’.

Stap 7

Je krijgt nu de release notes van de geïnstalleerde versie te zien. Klik op ‘Okay, Let’s Go!' om daadwerkelijk te beginnen met Open WebUI.

Stap 8

Klik na het inloggen bovenaan links op ‘Select a model’ > ‘Manage Connections’. Hier voeg je de LLM providers toe die Open WebUI mag gebruiken.

Stap 9

Je gaat nu een LLM configureren om te gebruiken met Open WebUI. Er zijn simpelweg gezegd twee opties:

• Een lokaal model gebruiken via Ollama op je VPS (voorgeïnstalleerd). 
  • Voordeel: Je data blijft lokaal. Je bent 100% vrij om te kiezen welk model je gebruikt. Een goede, geoptimaliseerde keuze is bijvoorbeeld Gemma 4 (of nieuwer).
  • Nadeel: Meestal minder goede performance dan een extern model. Er zijn uitzonderingen, maar dat is use case specifiek en dan heb je al snel zeker ongeveer 256GB RAM en 24GB GPU nodig om het lokaal te kunnen hosten, wat de kosten opdrijft in verhouding tot een ChatGPT abonnement.
     
• Een extern model gebruiken, bijvoorbeeld Claude, GPT, of externe (eigen) Ollama server.
  • Voordeel: Toegang tot state-of-the-art modellen. 
  • Nadeel: Je data gaat naar een externe partij. Zelfs als die partij de beste intenties heeft, kunnen geopolitieke factoren een invloed hebben op of jouw data privé blijft of niet.

Een lokaal model gebruiken

Bekijk hier de beschikbare modellen. Bij ieder model vind je onder ‘size’ hoeveel RAM je nodig hebt om het model in het geheugen te kunnen laden.

 

 

Stap 1

Klik op het ‘Manage’-icoon rechts van http://ollama:11434. 

---

 

Stap 2

Geef de naam op van een model naar keuze (1) en klik op ‘Pull Model' (2). Op een kleine VPS (4GB of minder) is bijvoorbeeld gemma4:e2b een goede keuze. Sluit daarna dit venster via de ‘x’ rechts bovenaan.

Update optioneel de beschikbare modellen via ‘Update All Models’ (3) en bekijk het overzicht van alle beschikbare modellen via ‘click here’ (4).

 

 

 

Een extern model gebruiken

Klik op een van de volgende:

1. + achter ‘Manage OpenAI API Connections’ om een OpenAI compatible endpoint API-verbinding te maken
2. + achter ‘Manage Ollama API Connections’ om een verbinding te maken met een lokale of externe Ollama server.
3. Schakel optioneel ‘Direct Connections’ in om gebruikers toe te staan verbindingen te maken met hun eigen OpenAI compatible API endpoint.

OpenAI compatible endpoint API-verbinding

1. Geef als URL het adres https://api.openai.com/v1/models op, of het OpenAI compatible endpoint adres van je gekozen LLM-provider.
2. Geef je API key op achter ‘Bearer’.
3. Klik op ‘Save’ om je wijzigingen op te slaan.

Door geen model te specificeren krijg je toegang tot alle beschikbare OpenAI modellen.

 

 

Ollama API verbinding

1. Geef als URL het IP-adres op van je externe Ollama-server met de toevoeging :11434, zie de screenshot.
2. Klik op ‘Save’ om je wijzigingen op te slaan.

Door geen model te specificeren krijg je toegang tot alle beschikbare modellen op je Ollama-server.

 

 

 

 

Na het opslaan verschijnen de beschikbare modellen in de modelkiezer van Open WebUI. Kies daar het model waarmee je wilt werken.

Je eerste chat starten

Na het toevoegen van een LLM kun je direct aan de slag en chatten met een van je toegevoegde modellen.

Stap 1

Kies linksboven de chatinterface en selecteer het model dat je wilt gebruiken.

Stap 2

Start een nieuwe chat en stel een eenvoudige testvraag, bijvoorbeeld: 

Open WebUI is nu klaar voor gebruik. Je kunt daarna verder gaan met het toevoegen van gebruikers, documenten, tools en andere integraties.

(admin) instellingen aanpassen

Gebruikersinstellingen aanpassen

Stap 1

De algemene instellingen van Open WebUI pas je aan door onderaan links op het icoontje met de letters van je voor- en achternaam te klikken en ‘Settings’ te selecteren.

Stap 2

Pas naar wens de instellingen in dit scherm en de andere tabs aan. Deze instellingen gelden alleen voor je eigen account en niet voor andere gebruikers van je Open WebUI-omgeving. Enkele nuttige instellingen om aan te passen zijn bijvoorbeeld de System Prompt ("You are a helpful assistant") en de Audio-instellingen (spraak naar text en text naar spraak).

Admin-instellingen aanpassen

De admin-instellingen zijn verborgen in het ‘start-menu'. 

Klik links onderin op het icoontje met de letters van je voor- en achternaam en selecteer ‘Admin Panel’.

Open vervolgens het tab-blad ‘Settings’ bovenaan en pas naar wens de instellingen aan. Van boven naar onder beheer je hier de volgende opties:

• General: Bevat de algemene platforminstellingen. Hier configureer je onder meer basisgedrag van de omgeving, authenticatie-instellingen, standaardrollen en -groepen, registratie van nieuwe gebruikers, contactgegevens voor beheer, API-keygebruik en sessie- of tokeninstellingen. 
• Connections: Beheer verbindingen met externe diensten en LLM-providers. 
• Models: Stel in welke modellen beschikbaar zijn, hoe ze worden aangeboden aan gebruikers en welke standaard- of toegangsinstellingen per model gelden. 
• Evaluations: Configureer evaluaties, beheer testscenario’s en pas instellingen aan voor kwaliteitscontrole of benchmarking. 
• Integrations: Beheert integraties met andere tools, platformen of services waarmee je extra functionaliteit toevoegt aan Open WebUI. 
• Documents: Bevat instellingen voor het configureren van de RAG-tools van Open WebUI. Hier bepaal je hoe documenten worden toegevoegd, verwerkt, geïndexeerd of beschikbaar gemaakt voor zoek- en AI-functionaliteit. Web Search Regelt de instellingen voor webzoekfunctionaliteit. Hier configureert een admin of web search beschikbaar is, welke zoekprovider wordt gebruikt en welke instellingen gelden voor online zoekopdrachten. 
• Code Execution: Bevat instellingen voor het uitvoeren van code binnen het platform (standaard staat dit aan en wordt Python gebruikt). Hier bepaalt een admin of code-executie is toegestaan en hoe die omgeving is ingericht, bijvoorbeeld qua veiligheid, toegang en uitvoeringsgedrag. 
• Interface: Beheer de visuele onderdelen van de UI, zoals weergave-instellingen, branding, theming en algemene interfacevoorkeuren. 
• Audio: Bevat instellingen voor audiogerelateerde functies: speech-to-text, text-to-speech en eventueel gekoppelde audioproviders. 
• Images: Pas instellingen aan voor het genereren en bewerken van afbeeldingen, bijvoorbeeld wat voor systeem je hiervoor gebruikt (bijvoorbeeld OpenAI).
• Pipelines: Hier beheert een admin pipelines die meerdere stappen of services combineren, bijvoorbeeld voor verwerking, routing of automatisering.
• Database: Maak een back-up van je database, gesprekken, of importeer je database.

Audio gebruiken

In het audio-menu van zowel de gebruiker als admin vind je instellingen terug voor speech-to-text en text-to-speech. Simpel gezegd stelt de admin in welke opties beschikbaar zijn naast de default opties en de gebruiker kiest welke van de beschikbare opties hij/zij wil gebruiken.

Gebruikersinstellingen

Pas simpelweg aan welke STT- en TTS-tools je gebruikt. Gebruik je Kokoro.js (aangelevert door je browser)? Selecteer dan fp16 als ‘Dtype’ voor een balans tussen performance en accuratie. De beste resultaten krijg je met een extern model, bijvoorbeeld Elevenlabs voor TTS.

Admin instellingen

Pas naar wens aan welke STT- en TTS-tools je beschikbaar stelt aan je eindgebruikers. De resultaten met de ingebouwde Whisper (Local) en Web API opties zijn vrij matig in vergelijking met externe opties, zeker op een server zonder GPU. Een oplossing hiervoor is om voor STT zelf een OpenAI compatible endpoint te maken (bijvoorbeeld op dezelfde server) en vervolgens als ‘Speech-to-Text Engine’ OpenAI te gebruiken en vervolgens naar je server te verwijzen. Voor TTS kun je bijvoorbeeld zelf Kokoro gebruiken in plaats van de browserversie te gebruiken, zie bijvoorbeeld deze handleiding. 

Problemen oplossen

• Je ziet geen modellen in de lijst: controleer of de verbinding is opgeslagen en ingeschakeld.
• OpenAI of Anthropic geeft een foutmelding: controleer of je API-key klopt en of je account of budget actief is.
• Ollama is niet bereikbaar: controleer of de Ollama-service draait en of Open WebUI het juiste adres en poortnummer gebruikt.
• De juiste modellen ontbreken: voeg indien nodig een model handmatig toe of controleer of een filter voor Model IDs actief is.

Hiermee zijn we aan het eind gekomen van onze handleiding over Open WebUI. Neem voor een volledig overzicht van alle ins-en outs en features van Open WebUI ook een kijkje in Open WebUI's eigen documentatie.