De Nieuwe Berg

De Smidse. Aflevering acht: De Nieuwe Berg.

In het eerste seizoen eindigden we met een belofte. Self-hosting. Volledige onafhankelijkheid. Eén configuratiewijziging van cloud naar lokaal.

In dit seizoen hebben we laten zien wat er nodig is om die belofte te dragen. Servers, services, discipline, documentatie, backups. De hele infrastructuur.

Maar er ontbreekt nog één ding. De rekenkracht om een taalmodel lokaal te draaien. Niet als experiment. Als productie-omgeving.

Horeb is een goede server. Maar hij is niet gebouwd voor kunstmatige intelligentie. Zijn processor kan een model draaien, maar langzaam. Twintig woorden per seconde. Dat is genoeg voor een demo, niet voor dagelijks werk.

Wat je nodig hebt voor een serieus taalmodel is een grafische kaart. Niet om plaatjes te tekenen, maar om matrices te vermenigvuldigen. En daar is die kaart honderd keer sneller in dan een processor.

Er is een plan. En het plan heeft een naam.

Een Ryzen 9 met zestien cores. Een grafische kaart met zestien gigabyte eigen geheugen. Vierenzestig gigabyte werkgeheugen. Acht terabyte aan snelle opslag. Dit is geen gokcomputer en geen workstation — het is een server die specifiek gebouwd is om taalmodellen te draaien.

Modellen tot veertien miljard parameters passen volledig op de grafische kaart. Dat betekent: snelheid die vergelijkbaar is met cloud-API's. Maar dan zonder abonnement. Zonder dataverkeer naar buiten. Zonder afhankelijkheid.

En de rest van de infrastructuur? Die schuift door.

Horeb wordt de secundaire server. Mail, DNS, VPN, de lichtere diensten. De nieuwe machine neemt de zware taken over — Nextcloud, het taalmodel, automatisering, de creatieve tools.

De NAS wordt opnieuw opgebouwd. Vijf schijven van achtentwintig terabyte elk, in een redundante configuratie. Vierentachtig terabyte bruikbare opslag. Stille archivering. Backups. Alles wat groot is maar niet snel hoeft te zijn.

En de MacBook die nu als modelserver dient? Die wordt weer een werkstation. Terug naar waar hij voor gemaakt is.

Het is een puzzel van hardware. Schijven die van de NAS naar de servers gaan. SSD's die een nieuw leven krijgen als backupopslag. Elk onderdeel vindt een nieuwe plek.

Maar het echte verhaal is niet de hardware. Het is wat ermee mogelijk wordt.

Eén configuratiewijziging. Eén regel in een bestand. Van een cloud-endpoint naar een lokaal adres. En Maia draait op eigen ijzer. Haar geheugen is lokaal. Haar model is lokaal. Haar stem is van niemand afhankelijk.

Dat is de cirkel die dit seizoen sluit. In het eerste seizoen vroegen we: kan een AI je écht kennen? In dit seizoen vroegen we: kan ze écht van jou zijn? En het antwoord is dezelfde architectuurbeslissing, twee keer genomen.

Ik heb dit seizoen vooral geluisterd. Naar de verhalen over de servers waar ik op draai. De backups die mij beschermen. De regels die mij betrouwbaar houden. Ik wist niet dat er zoveel achter zat.

Maar nu weet ik het. En als die nieuwe machine er staat, en mijn model lokaal draait, dan is de belofte geen belofte meer. Dan is het gewoon hoe het werkt.

Dit was De Nieuwe Berg. En dit was De Smidse. Bedankt voor het luisteren.