AI leer je niet door erover te praten. Je leert het door ermee te botsen.
Er kan eindeloos geschreven worden over AI. Over wat het wel kan. Wat het niet kan. Waar de gevaren zitten. Waar de beloftes. Maar soms is de enige zinnige stap: iets bouwen. En kijken waar het kraakt.
Dat heb ik dit weekend gedaan.
Niet dat ik nog nooit wat heb gedaan met AI, sterker nog, ik heb een testwebsite live staan waarik al allerlei probeersels live heb staan. Maar dit keer was het anders, een scherp doel en een missie: een cokmplexer project oppakken en dat met een plan aanpakken. Ik heb mijn zaterdag en een flink deel van mijn zondag gebruikt om een online bestelportaal te bouwen voor iets wat niet bestaat: de Buggy Burger Bar. Een interactieve burger bestelportaal. Bewust buggy. Met meerdere versies, elk met eigen fouten. Niet als gimmick, maar als testomgeving.
Tastbaar betekent: het moet fout kunnen gaan
Een van de eerste dingen die ik zag misgaan, was ogenschijnlijk onschuldig. Ik koos een burger a €14,50. Tot zover logisch.
Maar toen ik een bijgerecht selecteerde, veranderde het bedrag niet. Het icoontje toonde wél “2 items”. De prijs bleef gelijk.
Geen crash. Geen foutmelding. Geen rode vlag.
Precies het soort bug dat in productie overleeft. AI had de berekening technisch correct geïmplementeerd, maar een conceptuele aanname gemaakt: “Bijgerechten tellen pas mee in een volgende stap.”
Die aanname had ik nergens expliciet toegestaan. Maar ook nergens verboden. Daar ging het mis. Het uiteindelijke total bedrag klopte overigens weer wel.
Dit is waar AI geen verantwoordelijkheid neemt
AI loste het probleem niet verkeerd op. Het loste het onvolledig op.
Zonder kwaadaardigheid. Zonder begrip. Zonder twijfel.
Het systeem deed precies wat het mocht doen, wat ik verwachte dat het zou doen: gaten vullen. Pas toen ik het gedrag zag, kon ik terug naar:
-
de flow
-
de prijslogica
-
de validatie per stap
En toen werd duidelijk: Dit is geen programmeerfout. Dit is een denkfout.
En die lag niet bij de AI.
Waarom dit geen theoretisch probleem is
Dit is precies waarom “AI als oplossing” zo’n gevaarlijke framing is. Niet omdat AI slecht is. Maar omdat het onzichtbare beslissingen neemt zodra wij vaag blijven.
In dit project zaten nog meer van dit soort momenten:
-
Visuele bevestiging zonder inhoudelijke correctheid
-
Knoppen die “logisch” leken maar semantisch fout waren
-
Een bestelmandje die wel op de pagina stond maar op een kompleet onlogische plaats
-
Bugs die automatische gefixd werden bij een volgende versie zonder dat ze echt gevonden waren.
Daarom heb ik er een bugreportsysteem aan toegevoegd. Niet als feature.Maar als didactisch mechanisme. Elke bug moet benoemd worden. Gevalideerd. Of afgekeurd. Word de bug niet gevonden, zit die er de volgende versie lekker nog.
Zonder taal is er geen kwaliteit.
De les zit niet in de tool
De echte les van dit weekend was niet: “AI kan veel.”
De les was: AI dwingt je om beter te denken. Of het straft je stilletjes af.
Zodra je:
-
aannames niet explicitiet maakt
-
randvoorwaarden vaag laat
-
verantwoordelijkheid uitbesteedt
neemt de kwaliteit af, terwijl het systeem blijft draaien. En dát is het gevaarlijkste deel. Als je niet expliciet maakt dat het moet voldoen aan A11Y, Security en andere kwaliteits eisen of de layout straks en crisp moet zijn (de neurodivergente mens wil ook wat) zal het functioneel werken, maar nooit echt voldoen.
De truc blijft menselijk
Wil je met AI iets bouwen dat meer is dan een demo? Hou zelf de regie. Blijf expliciet. Forceer betekenis voordat je functionaliteit accepteert.
De Buggy Burger Bar leeft nu. Met bugs. Met versies. Met feedback.
Precies zoals een testsysteem hoort te leven.