Dicteren zonder dat mijn stem de deur uit gaat

Vorige week schreef ik dat ik bijna niet meer typ tegen mijn AI. De vraag die daarop kwam was scherper dan het stuk zelf: doe je dat dan ook met de rest? Met je mail, je notities, je documenten?

Ja. Overal eigenlijk. En de vraag die daar meteen achteraan komt is waar al die spraak dan heen gaat. Nergens heen. Alles blijft op mijn eigen machine staan.

De app

Ik gebruik FluidVoice, een dicteer-app voor macOS. Je zet een sneltoets, je houdt hem ingedrukt, je praat, en de tekst verschijnt in het veld waar je cursor staat. Mail, Slack, een terminal, het invulveld van een formulier. De app maakt geen onderscheid, hij typt gewoon voor je.

Dat kan meer software. Het verschil zit in waar het spraakmodel draait, en dat is op mijn eigen machine. Je kiest er een bij de installatie, van het kleine Apple-model dat al in macOS zit tot Whisper, Parakeet of Nemotron, en dat model wordt één keer gedownload naar je schijf. Daarna gaat er geen audio meer naar buiten. Geen account, geen abonnement, geen server die meeluistert.

De opschoning gebeurt ook lokaal, en dat is de stap die ik het langst voor onmogelijk hield. Ruwe dictatie is rommelig. Je zegt “eh”, je begint een zin opnieuw, hoofdletters en interpunctie kloppen niet. De meeste apps sturen die ruwe tekst daarom door naar een cloudmodel om er nette zinnen van te maken. FluidVoice heeft daar een eigen model voor dat op je Mac draait, ongeveer 3,5 GB op je schijf. Die stap is optioneel, en wie liever een cloudmodel gebruikt kan er een eigen OpenAI- of Groq-sleutel voor invullen. Ik doe dat niet. De hele keten, van geluid tot afgewerkte zin, blijft binnen mijn laptop.

De app staat onder GPLv3 op GitHub. Gratis, de broncode ligt open, en je installeert hem met één regel:

brew install --cask fluidvoice

Waarom dit voor mij meer is dan een besparing

In het vorige stuk noemde ik de rekening die bij voice-first hoort. Bij typen kies je je woorden. Bij praten lekt er meer: de aarzeling, de terzijde, de naam van een collega die je er half in noemt. Dat gaat bij de meeste dicteer-apps als een constante stroom naar een server die je niet bezit.

Voor mijn werk is dat geen theoretisch punt. Ik werk aan publieke innovatie, aan digitale soevereiniteit, aan de vraag wie er eigenaar is van welke data. Het zou raar zijn om overdag te betogen dat een overheid grip moet houden op haar eigen gegevens, en ‘s avonds mijn halve gedachtegang naar een Amerikaanse API te sturen omdat dat nu eenmaal soepeler typt.

Lokaal is hier ook gewoon sneller. Ik schreef eerder dat voice boven de zevenhonderd milliseconden stroef gaat voelen. Zonder netwerk in het pad verdwijnt een deel van die vertraging vanzelf, want er is geen upload, geen wachtrij, geen server die net even traag is. Op een goede dag staat de zin er voordat ik hem afgemaakt heb.

Waar ik kritisch op ben

Ik ga hier geen reclamefolder van maken, want er zitten dingen aan die ik ongemakkelijk vind.

Een: de toegang die zo’n app nodig heeft is het zwaarste punt. Om in elk tekstveld te kunnen typen vraagt FluidVoice om accessibility-rechten, plus je microfoon. Dat betekent dat een app die je van GitHub haalt, permanent mag meekijken en meeschrijven in alles wat je open hebt staan. Dat het lokaal draait maakt die rechten niet kleiner. Het verplaatst het vertrouwen alleen: niet meer in een clouddienst met een privacybeleid, maar in een klein team en in de vraag of ik de code echt zou nalezen. Dat laatste heb ik niet gedaan. Ik denk niemand.

Twee: lokaal betekent niet gratis. Het kost schijfruimte, ongeveer een gigabyte voor een spraakmodel en nog eens drieënhalf voor de AI-opschoning. Het kost rekenkracht en dus accu. En het kost hardware, want de goede modellen draaien alleen fatsoenlijk op Apple Silicon, met macOS 15 of nieuwer. Wie op een oudere machine zit valt terug op Whisper of kan het vergeten. Digitale soevereiniteit die een nieuwe laptop vereist is een soevereiniteit voor mensen die zich dat kunnen veroorloven.

Drie: open source lost de afhankelijkheid niet op, het verplaatst hem. De app is GPLv3, maar de modellen die het werk doen komen van NVIDIA, van Cohere, van OpenAI’s Whisper. Die zijn hier gratis te gebruiken, maar ze zijn niet door mij gemaakt en niet door mij te controleren. En de app zelf is een jong project van een klein team. Dat het vandaag 8.800 sterren heeft zegt iets over de belangstelling, niet over de vraag of het er over twee jaar nog is. Het voordeel van open source is dat het dan tenminste geforkt kan worden. Dat is een reëel vangnet, geen garantie.

En dan het Nederlands. Het gaat beter dan ik verwachtte, maar op vaktermen en eigennamen slaat het nog steeds de plank mis, precies bij de woorden die ertoe doen. Dat is niet uniek voor lokale modellen. Het is wel het punt waarop ik nog altijd naar mijn toetsenbord grijp.

Wat ik ervan meeneem

Lokaal tegenover cloud wordt meestal voorgesteld als kiezen tussen je principes en je gemak. Die tegenstelling houdt hier geen stand. Ik gebruik dit omdat het voor mijn dagelijkse werk de snelste manier is, en dat er niets weglekt kwam er gratis bij.

Zolang lokaal alleen iets is voor wie er moeite voor over heeft, blijft het een nichestandpunt. Bij dit soort apps is dat punt gepasseerd, en dat maakt het gesprek over soevereiniteit een stuk makkelijker te voeren.

Probeer het een dag. Installeer het, zet één sneltoets, en dicteer je mail in plaats van dat je hem typt. Als het je bevalt hoor ik het graag, en als het je niet bevalt ook. Vind me op LinkedIn.

Dit is een vervolg op Ik typ bijna niet meer tegen mijn AI. Dit stuk verscheen ook in het Engels: Dictation that never leaves my laptop.