Negen punten met een verhaal

Op negen punten in Etten en Leur vind je nu borden met QR-codes. Scan de QR-code met je telefoon en stap binnen in de interactieve kaart. Op ieder punt, bij ieder bord, is een verhaal te vertellen. Over een bombardement, inslag van een V1, de bevrijding van Etten en de bevrijding van Leur. Inwoners en ooggetuigen van toen vertellen hun verhalen van toen. Ook leerlingen van de KSE werkten mee aan deze beleefroute, waardoor de route geschikt is voor jong en oud. 

Uniek 3D-karakter voor jong en oud

En Masse bouwde de website op Symfony. Uniek is het 3D-karakter van de kaart en hoe deze met het kompas meebeweegt via de gyroscoop en GPS van de telefoon zelf. “Toen wij werden benaderd voor dit project hadden we kunnen kiezen voor een traditionele website, maar we wilden verschillende doelgroepen aanspreken”, licht Sjoerd Maessen, eigenaar van En Masse, de keuze voor het interactieve karakter van de route toe.

“Een QR-code spreekt de nieuwsgierigheid van jongeren aan en het 3D-element met het interactieve kompas geeft het iets extra’s. Het wordt nu een echte ervaring en beleving voor jong en oud”. 

Startpunt Beleefroute

De beleefroute begint bij het Oderkerkpark in Etten, waar de Duitse invasie begon. Met het kompas navigeer je naar het volgende punt, waar je weer een nieuwe code scant en het verhaal vervolgt. Alle negen punten zijn bereikbaar te voet of per fiets.

Videograaf Eelco Scheeres maakte eerder een film met verhalen van ooggetuigen van de Tweede Wereldoorlog. Dit beeldmateriaal, aangevuld met nieuwe verhalen, vormt de invulling van de Beleefroute Etten-Leur.

The post Interactieve WOII-app voor Etten-Leur appeared first on En Masse - niet mauwen maar bouwen.

ChatJimmy is snel

Even terug naar Taalas en hun 17.000 tokens per seconde. Taalas ontwikkelde met AI-model Llama 3.1 8B chatbot ChatJimmy. De chatbot lijkt op het eerste gezicht een gewone chat-interface. Tot je iets typt. Het antwoord verschijnt zó snel, dat je denkt dat het gecached is. Maar dat is het niet: het is een HC1-chip die 17.000 tokens per seconde haalt. Ter vergelijking: een Nvidia H200, een van de snelste GPU’s ter wereld, haalt met hetzelfde model ongeveer 230 tokens per seconde. ChatJimmy is dus 74 keer sneller.

Ga zelf maar eens naar chatjimmy.ai en vraag: “Schrijf 20 paragrafen over de toekomst van AI-hardware”. Je ziet het verschil in seconden, letterlijk.

Het model als chip

Hoe doet Taalas dat? Leggen we natuurlijk aan je uit. Bij normale AI-interference laadt een GPU de weights van een model uit geheugen (HBM), rekent ermee en schrijft het resultaat terug. Dat heen en weer schuiven van data is de bottleneck; de zogenaamde memory wall.

Taalas pakt dit radicaal anders aan. Eerst bouwden ze een ASIC (Application-Specific Integrated Circuit), waarbij de weights van het AI-model letterlijk in de metaallagen van de chip zijn geëtst. Er is nu geen apart geheugen meer: het model is de chip.

Stel je voor dat je een recept uit een kookboek volgt. Normaal pak je het boek, lees je een stap, leg je het boek weg, voer je de stap uit, en pak je het boek weer om verder te gaan met de volgende stap. Dat is ook hoe een GPU werkt. Maar met de HC1-chip van Taalas is het alsof het recept in je handen gegraveerd staat; je hoeft nergens meer te zoeken.

De specificaties

• 53 miljard transistors op 815 mm²
• Gefabriceerd door TSMC op 6nm
• 200 watt per kaart (een H100 verbruikt 700 watt)
• Een server met 10 HC1-kaarten: 2.500 watt totaal
• 20x lagere kosten dan GPU-gebaseerde inference
• 10x minder stroomverbruik

En misschien het meest indrukwekkende: Taalas heeft een compiler-achtig systeem gebouwd dat van elk model in ongeveer een week een chipontwerp maakt. Geen R&D-cyclus van jaren, maar gewoon meteen een productielijn.

Kwaliteit versus snelheid

De HC1 draait Llama 3.1 8B met agressieve quantisatie: een mix van 3-bit en 6-bit parameters. Dat betekent dat het model kleiner en minder precies is dan de full-precision versie op een GPU. En dat merk je soms. Bij complexe redeneeringstaken of genuanceerde teksten levert een groter model betere resultaten.

Maar juist daar zit de crux: voor heel veel taken is een kleiner model al goed genoeg. Voor het beantwoorden van klantvragen, classificeren van data, samenvatten van teksten, verwerken van formulieren of het routeren van e-mails heb je geen 70B–parameter model nodig. 

De kracht van parallelle iteratie

En nu wordt het pas echt interessant. Bij 17.000 tokens per seconde kun je hetzelfde model 100 keer dezelfde vraag laten benaderen, iedere keer vanuit een andere invalshoek. Vervolgens selecteer je het beste antwoord. Vergelijk het met één expert die lang nadenkt; in plaats daarvan pak je honderd snelle denkers en kies je het slimste antwoord. Bij de huidige GPU-snelheden is dit onbetaalbaar, maar bij HC1-snelheden is dat triviaal.

Dit is een fundamenteel andere manier van denken over AI-kwaliteit. Niet: gebruik een groter model. Maar: gebruik een snel model, vaker, slimmer.

Meer weten?

Verder praten en nog meer weten? Bel of mail ons.

The post Het model is de chip: waarom AI-inference nooit meer hetzelfde wordt appeared first on En Masse - niet mauwen maar bouwen.

Modellen versus tools

Eerst even terug. We kennen ChatGPT natuurlijk allemaal. Het is een product (of tool) van het bedrijf OpenAI, net zoals Gemini bijvoorbeeld een product van Google is. Onder deze producten draaien verschillende Large Language Modellen (LLM’s), denk aan GPT-4.1, Claude, Gemini 2.0, Llama-varianten of lokale modellen via Ollama.

Maar die modellen verschillen flink in prijs en kwaliteit. Sommige modellen schrijven fantastische code, maar gaan de mist in met bijvoorbeeld Nederlandse spreekwoorden. Andere modellen zijn supersnel en goedkoop, maar halen lagere kwaliteit bij complexe taken. En weer andere modellen zijn juist extreem goed in redeneren, maar duur in gebruik.

Toch zien we vaak dat organisaties ‘één AI’ kiezen en die overal voor gebruiken. Handig voor op de korte termijn, maar ook risicovol: je betaalt waarschijnlijk te veel en krijgt soms mindere kwaliteit dan nodig.

Je móet AI-modellen testen en benchmarken

LLM’s zijn geen statische API’s. Die modellen worden namelijk regelmatig bijgewerkt, providers wisselen met hun prijzen, en de kwaliteit schommelt door drukte of nieuwe versies. Zeker als je modellen gebruikt die je zelf niet host, heb je daar weinig controle over. Zonder testing en benchmarking loop je daarom risico op:

• Wisselende kwaliteit: gisteren werkte je flow prima, maar vandaag niet meer;
• Onnodige kosten: omdat je een dure ‘flagship AI’ gebruikt, terwijl een kleiner model hetzelfde doet;
• Vendor lock-in: je organisatie raakt afhankelijk van één leverancier;
• Lastige discussies: ‘het voelt trager’ is lastig uit te leggen, meetbare cijfers niet.

Promptfoo: open source framework

Wij testen alle LLM-modellen op structurele wijze. Hierbij maken wij gebruik van bijvoorbeeld Promptfoo.

Promptfoo is een open source framework om LLM-toepassingen te testen en te benchmarken. Je beschrijft in YAML (YAML Ain’t Markup Language, mensvriendelijk dataformaat) of in code:

• Welke taken je wil testen;
• Welke modellen/providers je wil vergelijken (OpenAI, Anthropic, Google, Azure, lokale modellen);
• Welke checks moeten slagen (bijvoorbeeld: bevat het antwoord een spreekwoord, is de JSON valide, is de toon vriendelijk).

Op basis van deze input draait Promptfoo automatisch al je testcases, toont de resultaten in een matrix én kan zo onderdeel worden van je CI/CD-pipeline.

Kort gezegd: Promptfoo brengt ouderwets testen naar moderne AI-toepassingen.

Kleine test uit onze praktijk

In de screenshots bij dit artikel zie je één van onze eigen runs met Promptfoo. We vergeleken vier modellen op drie realistische taken:

1. Symfony controller schrijven met validatie;
2. E-mail in het Nederlands naar een IT-manager, mét echt Nederlands spreekwoord;
3. Projectplan User Registration voor een solo-developer (20 uur/week), inclusief fases en risico’s.

Screenshot 1:

Promptfoo draait de testset in één klap. Per model zie je:

• Welke cases PASS of FAIL zijn;
• Hoeveel tokens (en dus kosten) zijn gebruikt;
• Het totale slagingspercentage.

In ons voorbeeld kwam één model duidelijk als beste uit de bus voor deze mix van taken. In een tweede screenshot zie je ook de samenvatting en dit laat precies zien wat we bedoelen: er is niet één beste AI. Het hangt af van de taak.

Screenshot 2:

• QUALITY WORK (coding, planning, professioneel Nederlands): Model A;
• FAST DRAFTS (brainstormen, snelle antwoorden): Model B;
• BALANCED (als model A niet beschikbaar is): Model C;
• Model D: alleen nuttig voor niche-cases, bijvoorbeeld extreem grote context.

Hoe En Masse Promptfoo inzet in organisaties

Bij het implementeren van een AI-oplossing, doorlopen we grofweg de volgende stappen:

1. Processen in kaart brengen: samen met het team bepalen we welke stappen écht belangrijk zijn. Code genereren, e-mails beantwoorden, samenvattingen, rapportages.
2. Echte use-cases omzetten in tests: geen ‘lorem ipsum’-prompts maar realistische voorbeelden: echte klantvragen, echte tickets, echte interne teksten. Voor iedere testcase beschrijven we wat een goed antwoord is.
3. Promptfoo configureren: in YAML leggen we vast welke modellen we willen testen, welke prompts of agents we gebruiken en welke criteria bepalen of een antwoord goed is (bijvoorbeeld: moet een spreekwoord bevatten, mag geen privacygevoelige data lekken, moet geldbedragen in euro vermelden).
4. Benchmark draaien en analyseren: Promptfoo draait alles door en toont een overzichtelijke matrix met scores, latency en kosten per model. Zo kunnen we onderbouwd kiezen. Soms wint een ‘klein’ model met gemak van een dure topper.
5. Continu monitoren: dezelfde tests draaien we periodiek of bij elke deployment. Als een provider onder water een model wijzigt en de kwaliteit daalt, zien we dat direct in de resultaten. Zo voorkom je dat klanten de eerste zijn die het merken.

Wat levert het gebruik van Promptfoo jou op?

Dat wij fan zijn van Promptfoo moge duidelijk zijn. Nu wil jij natuurlijk weten wat het voor jou als organisatie oplevert. Komt ‘ie:

• Betere kwaliteit: je gebruikt het LLM-model dat aantoonbaar het beste presteert op jóuw taken;
• Lagere kosten: geen overkill-modellen voor simpele taken;
• Minder risico: regressies en rare model-updates zie je in je tests en niet pas in productie (of na een belletje van de klant);
• Transparantie richting management: in plaats van ‘het voelt beter’ kun je het laten zien met duidelijke cijfers: hogere score, lagere maandelijkse kosten.

Ook verder kijken dan ‘één AI’?

Werk je nu vooral met ChatGPT en ben je benieuwd welke modellen het beste passen bij jouw processen? Wij helpen je graag! Samen brengen we jouw belangrijkste AI-taken in kaart, zetten we een pragmatische testset op met bijvoorbeeld Promptfoo en kiezen we een modelstrategie die past bij kwaliteit, kosten en risico. Klinkt goed toch?

Bel of mail ons, dan laten we je live zien hoe zo’n benchmark werkt; inclusief kleurrijke PASS/FAIL-matrix. Want wij zeggen niet voor niets heel graag “niet mouwen maar (meteen) bouwen”.

The post Er is meer dan ChatGPT: kies het juiste model met Promptfoo appeared first on En Masse - niet mauwen maar bouwen.

Sam Altman, CEO van OpenAI, kondigde het persoonlijk aan: OpenAI ondersteunt nu ook MCP-integraties. MCP is beschikbaar in de Agents SDK en binnenkort ook in de desktop-app van ChatGPT en Response API. Een hele mond vol maar lees gauw verder.

Hoe werkt MCP?

Een voorbeeld: jij leest op je computer (host), met je browser (client), deze post op LinkedIn. Je browser heeft hiervoor een verzoek gestuurd naar de LinkedIn-server en die server stuurde de webpagina terug naar jouw browser.

Dit is precies wat een AI-toepassing ook doet: hij fungeert als host (de computer uit het voorbeeldje hierboven) en gebruikt een MCP-client (bijvoorbeeld de browser uit het voorbeeldje) om verzoeken te sturen naar MCP-servers (bijvoorbeeld de LinkedIn-server). De server verwerkt het verzoek en stuurt een resultaat terug. Op deze manier kunnen AI-modellen met externe systemen communiceren.

Een ander voorbeeld. Wij krijgen geautomatiseerd een bug report binnen van een klant. De AI-agent analyseert de bug, bepaalt de prioriteit, doet een voorstel qua oplossingsrichting en legt deze aan ons voor via ons interne communicatiekanaal. De MCP koppelt in dit geval onze bugtracker, de analyse en ons communicatiekanaal aan elkaar, zodat wij direct tot (de juiste) actie over kunnen gaan.

Nog een voorbeeld. Je schrijft in ChatGPT of Claude AI een artikel over vakantie in Frankrijk. Je kunt dankzij een MCP-integratie (bijvoorbeeld de MCP voor Google Maps) realtime de temperatuur en weersverwachting van de komende 7 dagen in je artikel laten verwerken. Geen oude data waarop de AI getraind is (bijvoorbeeld: in de zomer is het altijd warm), maar real time data (bijvoorbeeld: de windrichting verandert dus woensdagmiddag wordt het niet warm maar fris). Ben je vervolgens tevreden over je artikel in ChatGPT? Laat de MCP voor Google Drive het direct opslaan in je Persoonlijke Drive.

Waarom MCP?

AI-toepassingen hebben vaak toegang nodig tot externe informatie en tools. MCP-integraties zorgen voor een uniforme manier van data ophalen of acties uitvoeren, zonder dat er per tool een aparte integratie benodigd is.

Microsoft noemt MCP de “USB-C voor AI”: het helpt AI-modellen om niet langer geïsoleerd te werken, maar om zich te ontwikkelen tot systemen met meer context en meer interactie.

MCP in actie

De Model Context Protocollen zijn de nieuwe bouwstenen voor AI-toepassingen. Wil je zien welke MCP-integraties wij gebruiken?

Check deze lijst:
GitHub: Model Context Protocol Servers

We kunnen hiermee eenvoudiger koppelen aan CRM-systemen, automatische rapportages genereren en interacties aangaan met externe diensten.

Anthropic, het bedrijf achter Claude AI, lanceerde deze nieuwe standaard al eerder en dat OpenAI het nu ook omarmt, betekent dat MCP-integraties een blijvertje zijn. De toekomst van AI wordt een stuk slimmer en veelzijdiger.

The post Wat is MCP en waarom ondersteunt OpenAI het nu? appeared first on En Masse - niet mauwen maar bouwen.

Veiligheid en optimaal resultaat

Waarom eigenlijk? Omdat die piccolo of portier veel méér doet dan alleen de deur bedienen. Hij biedt persoonlijk contact, helpt gasten met hun bagage tijdens het in- en uitchecken én kent vaak ook nog eens de taxichauffeurs persoonlijk. Hij houdt voortdurend de omgeving in de gaten, signaleert situaties die extra aandacht nodig hebben en kan direct ingrijpen wanneer nodig. Daarnaast weet hij antwoord te geven op allerlei vragen van gasten, wat zorgt voor een gevoel van welkom, vertrouwen en veiligheid. Bovendien straalt zo’n piccolo een bepaalde klasse en uitstraling uit die een schuifdeur nooit zal evenaren; precies zoals wij bij En Masse zorgvuldig toezicht houden op AI-processen om optimale resultaten te garanderen.

Waarde in menselijke factor

Zo zien wij de rol van AI ook binnen bedrijven. Ja, AI kan veel taken efficiënter, sneller en goedkoper uitvoeren dan mensen. Maar de échte waarde zit in hoe we AI inzetten om de menselijke factor juist te versterken. Het gaat om de combinatie van slimme automatisering en menselijke aandacht: dáár ontstaat echte magie.

Bij En Masse zien we dagelijks hoe AI onze klanten helpt met snelle en efficiënte oplossingen. We monitoren voortdurend hoe AI presteert en sturen bij waar nodig, net zoals een piccolo alert blijft op alles wat er in en rond het hotel gebeurt. Tegelijkertijd zorgt onze menselijke touch voor vertrouwen en persoonlijk contact, iets wat AI alleen nooit volledig kan vervangen.

Hoe zie jij AI in jouw organisatie? Denk je dat AI vooral vervangt, of juist versterkt? We praten graag eens verder!

Bel of mail ons

The post AI versus de hotel-piccolo appeared first on En Masse - niet mauwen maar bouwen.

Over de Barning Stichting

De Barning Stichting is een onafhankelijke stichting die zich inzet om via wetenschappelijke nascholing verbinding te creëren tussen medici in de eerste en tweede lijn in de regio Tilburg maar ook het nadrukkelijk bevorderen van intercollegiale contacten. Dankzij cursussen zijn het contact en de samenwerking tussen huisartsen en specialisten in Midden-Brabant van een voor Nederland uniek niveau.

Van beknopt naar uitgebreid ledenplatform met publieke website

De stichting communiceerde via haar website met een op Joomla gebaseerde applicatie cursusinformatie naar leden. De zeer hoge onderhoudskosten en beknopte mogelijkheden van de software zorgden er echter voor dat de Barning Stichting niet tevreden was.

Na het inventariseren van de wensen ontwikkelden wij een speciaal op maat gemaakt ledenplatform met Symfony, en een publieke website, volledig naar de wensen van de Barning Stichting. Met de oude omgeving en software in het achterhoofd was het makkelijk aankruisen en wegstrepen: wat wilden we behouden uit de vorige omgeving, maar ook: wat misten we of wat kon beter?

Het resultaat is een digitaal platform waar de Barning Stichting alles uit kan halen wat ze nodig heeft. Aan de voorkant van het platform vindt de bezoeker een mooie en duidelijke website met informatie over de stichting, historie en contactgegevens, maar waar wij met name met gepaste trots naar kijken, is de achterkant van het ledenplatform.

Uitgebreide beheermogelijkheden en automatisering in de Administrator-omgeving

In de Administrator-omgeving kan het bestuur van de Barning Stichting nu onder andere nieuwe leden toevoegen en bestaande leden beheren, gegevens exporteren, cursussen aanmaken en beheren, inschrijvingen voor cursussen managen én automatisch factureren. Wij ontwikkelden daarbij een automatisch smoelenboek van deelnemers per cursus, een beheersysteem om facturen te versturen met Mollie-integratie en een uitgebreid boekingssysteem voor de cursussen.

Alles in één oogopslag: cursusoverzicht en naslagwerk in het ledenportaal

Geregistreerde leden van de Barning Stichting landen na het inloggen in een overzichtelijk portaal, waar de aankomende en afgelopen cursussen te vinden zijn, inclusief alle beschikbare informatie die voor, tijdens of na een cursus is gecommuniceerd. Denk bijvoorbeeld aan cursusinformatie, medecursisten, naslagwerk en de mogelijkheid om in te schrijven voor nieuwe cursussen.

Maatwerk maakt het mogelijk om snel in te spelen op snelle wensen. Tijdens COVID bijvoorbeeld ontwikkelden wij een aangepast inschrijfformulier voor de cursussen van de Barning Stichting. Het formulier kon na het vervallen van de restricties weer makkelijk worden aangepast naar de oude stijl.

Betrouwbare e-mailnieuwsbrieven voor optimale bereikbaarheid

Wij werken niet alleen aan het maatwerk ledenplatform van de Barning Stichting. Wij verzorgen ook e-mailnieuwsbrieven voor de stichting. Wij versturen de e-mailnieuwsbrieven met een mailpakket dat veel beter in staat is om nieuwsbrieven af te leveren bij ontvangers met een hoog spamfilter, zoals medici in een ziekenhuis. Het pakket heeft een hoger afleverpercentage dan bijvoorbeeld Mailchimp. Mooi en positief nieuws voor het bereik van de Barning Stichting.

Custom made door En Masse

Van het bouwen van custom made platformen en applicaties gaat ons hartje sneller kloppen. Heb je ons nodig?

Bel of mail ons

The post Maatwerkoplossing voor leden stichting wetenschappelijke nascholing appeared first on En Masse - niet mauwen maar bouwen.

Vinden wat je zoekt

“Geef mij alle patiënten waarvoor we een aanvraag zijn begonnen in de afgelopen maand, waarvan de aanvraag nog niet is afgerond en waarbij de patiënt ouder is dan 65 jaar”. Normaal kun je deze vraag niet stellen in een zoekveld: je krijgt weinig relevante zoekresultaten.

Heb je bijvoorbeeld een achternaam nodig, dan kan een developer het zo programmeren dat er in een bepaalde kolom van een tabel in de database wordt gezocht naar de zoekterm en de zoekresultaten vervolgens worden weergegeven op een manier die alle data laat zien die relevant is. Ga je een stapje verder en maak je je zoekterm iets moeilijker door te zoeken op meerdere steekwoorden of een zin in gewone mensentaal, vind je waarschijnlijk niet helemaal wat je zoekt.

Succesvol zoeken met AI-inputveld

Artificial Intelligence kan ons helpen om sneller kwaliteit te leveren. Ook is het voor ons een inspiratiebron om te kijken hoe wij de kracht van de tools kunnen gebruiken voor andere ondernemers. Bijvoorbeeld dus bij het ontwikkelen van een zoekfunctie binnen een applicatie.

Dankzij onze implementatie met AI kan onze klant nu toch van alles vragen in een AI-inputveld. De eerste tests zijn succesvol: data die voorheen niet naar boven te krijgen was, kan de klant nu zelf zoeken. Het systeem geeft de relevante informatie direct weer. Voorheen zouden we een export moeten maken, of een nieuwe ‘rapportage’. De output voor het resultaat maken we ook niet zelf: AI bepaalt de weergave – binnen de constraints natuurlijk.

Veilige data

En het is nog veilig ook. Wij hebben op een slimme manier een tussenlaag weten te creëren tussen de data en AI, waardoor data binnen de applicatie nooit naar AI wordt gestuurd en dus altijd veilig in de applicatie blijft. Ook wanneer de gebruiker bepaalde privacygevoelige informatie in de zoekbalk invult, zoals een BSN, ondervangen we dat deze data naar de AI gaat.

Nuttige AI-abonnementen

Wij hebben ondertussen al meerdere AI-gerelateerde abonnementen afgesloten. Zijn die allemaal even zinvol en behulpzaam? Niet allemaal. Vanwege alle ontwikkelingen zijn tools die vandaag enorm nuttig zijn morgen misschien oud nieuws. Er zijn daarom regelmatig verschuivingen in de tools waar wij mee werken.

Ook benieuwd naar AI?

Ben jij benieuwd wat AI voor jouw bedrijf kan betekenen? Hoe je AI in jouw bedrijf kan integreren? Heb je collega’s die de meerwaarde niet zien maar die je graag wil overtuigen? Wij helpen je graag.

Bel of mail ons

The post Slim zoeken met Artificial Intelligence-implementatie appeared first on En Masse - niet mauwen maar bouwen.