Californië verplicht AI-noodknop + Microsoft AI-grondwet

Linda: Welkom bij The State of Tech, zaterdag 19 september 2026. Ik ben Linda Duursma.

Erik: En ik ben Erik Van Doorn. Vandaag: Californië eist onafhankelijk toezicht en een noodknop voor de zwaarste AI-modellen, Microsoft publiceert een grondwet voor zijn eigen AI, INTERPOL identificeert met AI honderdzesentwintig verdachte strijders uit jihadistische video's, en Google, Nvidia en Anthropic sluiten een pact om AI-datacenters het stroomnet niet te laten slopen. Plus twee dingen om vandaag uit te proberen: de gratis wachtwoordkluis Buttercup en de Europese route-app BRouter voor fietsers en wandelaars. We beginnen in Californië.

Californië verplicht onafhankelijk toezicht en een noodknop voor de zwaarste AI-modellen.

Linda: Gouverneur Gavin Newsom heeft een decreet getekend dat Californië midden in de AI-veiligheidsregulering zet. Ambtenaren moeten regels opstellen voor onafhankelijk toezicht op de grootste AI-bedrijven, en de technische basis leggen voor wat Newsom een kill switch noemt: een mechanisme om een AI-model uit te zetten als het echt uit de bocht vliegt. Opvallend, want twee jaar geleden gebruikte diezelfde Newsom nog zijn veto tegen vergelijkbare maatregelen. Dit is dus een koerswijziging, en de toon is stevig: hij noemt expliciet risico's als hulp bij biowapens en aanvallen op het elektriciteitsnet.

Erik: De kern van het decreet is dat externe partijen de veiligheidskaders van de labs moeten controleren, in plaats van dat OpenAI, Anthropic en Google hun eigen huiswerk nakijken. En dat weegt zwaar, want die drie zitten allemaal in Californië. Een deelstaatdecreet werkt daardoor in de praktijk als een wereldwijde ondergrens: als je model beschikbaar is voor Californische gebruikers, moet je nadenken over onafhankelijke audits en een uitschakelmechanisme. Newsom roept Washington op om dezelfde standaard nationaal over te nemen.

Linda: Technisch is die noodknop nog een open vraag. Een groot model volledig stilleggen zonder dat het via kopieën, agents of API's ergens anders doordraait, is bepaald geen kwestie van één schakelaar. Ook de definitie van "ernstige schade" moet nog worden uitgewerkt, en dat wordt juridisch mijnenveld. Bedrijven zullen aanvoeren dat een verkeerd getimede shutdown miljoenen gebruikers raakt. Toezichthouders zullen zeggen: precies daarom moet je hem hebben voordat het misgaat.

Erik: Voor Nederland is dit direct relevant. De Europese AI Act eist voor de zwaarste modellen ook risicobeoordelingen en incidentmeldingen, maar een expliciete noodknop staat er niet in. Als Californië die er wel in duwt, ontstaat de facto één wereldwijde norm, en dan importeren Nederlandse bedrijven en de Autoriteit Persoonsgegevens die standaard mee. Het maakt de discussie hier concreter: niet meer of we frontier-AI willen reguleren, maar hoe je zo'n uitschakelmechanisme technisch en juridisch inricht zonder de hele dienst plat te leggen.

Microsoft publiceert een grondwet die de mens boven zijn eigen AI zet.

Linda: Microsoft heeft een ontwerp-gedragscode gepubliceerd voor zijn AI-systemen, en de taal is bewust stevig. Modellen moeten correcties accepteren, gehoor geven aan een verzoek om uit te schakelen, en helder communiceren wat ze doen en waarom. Mustafa Suleyman, hoofd van Microsoft AI, noemt het een grondwet voor toekomstige modellen, gebouwd op wat het bedrijf zijn Humanist AI-principes noemt. In gewone taal: de mens houdt het stuur vast, het model niet.

Erik: De timing is geen toeval. Dit valt in dezelfde week als het Californische decreet en groeiende oproepen binnen de sector zelf om te temporiseren. Microsoft probeert de toon van dat gesprek te zetten. Door concrete gedragsregels op papier te zetten, in plaats van vage waarden, nodigt het bedrijf klanten, toezichthouders en concurrenten uit om het eraan te houden. Grote organisaties die AI in kritieke processen willen inbouwen, hebben nu een document om bij inkoop naar te wijzen.

Linda: De commerciële logica is ook duidelijk. Bedrijven zijn zenuwachtig over AI-agenten die zelfstandig acties nemen, weigeren te stoppen, of achteraf verhullen wat ze deden. Een belofte dat het model altijd een shutdown accepteert, is precies op die angst gericht. Maar of de techniek de belofte waarmaakt, is een tweede. En daar knelt het met het vorige verhaal: onafhankelijke verificatie, exact wat Californië nu eist, wordt de test of deze grondwet meer is dan een pr-tekst.

Erik: Voor Nederlandse organisaties sluit dit aan bij de AI Act, die transparantie en menselijk toezicht al voorschrijft. Een ministerie of bank dat Copilot inzet, kan straks in het contract eisen dat Microsoft zich aantoonbaar aan zijn eigen grondwet houdt. Interessant wordt of andere leveranciers volgen, of dat OpenAI en Anthropic met een eigen tekst komen. Een lappendeken van vrijwillige codes helpt niemand; één toetsbare standaard wel.

Linda: Even een kleine onderbreking. Luister je vaker naar The State of Tech? Druk dan op de likeknop en abonneer je, zodat je nooit een aflevering mist. Oké, verder.

INTERPOL identificeert met AI honderdzesentwintig verdachte buitenlandse strijders uit jihadistische online video's.

Erik: INTERPOL heeft de resultaten bekendgemaakt van Operatie Shams Twee, een wereldwijde antiterreuroperatie geleid vanuit Tunis met achtentwintig gespecialiseerde rechercheurs uit meerdere landen. Met AI-tools verwerkten ze meer dan honderdachtduizend gezichtsafbeeldingen uit online jihadistisch materiaal. Automatische scripts deden het verzamelen, verwijderden dubbele beelden en filterden op kwaliteit, waarna er zesduizend driehonderdtweeënzestig bruikbare gezichten overbleven voor gezichtsherkenning.

Linda: Uit die gefilterde set kwamen honderdzesentwintig verdachte buitenlandse strijders naar boven. Elke match werd handmatig geverifieerd door getrainde rechercheurs voordat hij in een dossier belandde. INTERPOL benadrukt dat punt nadrukkelijk: AI verkleinde de hooiberg, mensen bevestigen de naalden. Dat onderscheid doet ertoe, want gezichtsherkenning op korrelige propagandavideo's is berucht foutgevoelig, en een misidentificatie in een terreurcontext heeft zware gevolgen voor de verkeerde persoon.

Erik: De operationele winst is intussen wel echt. Handmatig honderdduizend beelden doorpluizen is voor zo'n team praktisch onmogelijk. AI maakt van een klus van maanden er een van dagen. INTERPOL laat feitelijk een sjabloon zien: machinaal leren voor het volumewerk, mensen voor de oordelen, en documentatie zodat inlichtingen tussen landen deelbaar blijven zonder juridisch te stranden.

Linda: Voor Nederland is dat sjabloon herkenbaar. De Nationaal Coördinator Terrorismebestrijding en Veiligheid, ofwel en-see-tee-vee, en de Algemene Inlichtingen- en Veiligheidsdienst werken al langer met beeldanalyse. Het spannende zit in de waarborgen: welke drempel geldt voordat een AI-match aanleiding is voor onderzoek, en hoe voorkom je dat dezelfde technieken doorsijpelen naar bredere surveillance zonder terrorismecontext? Dat debat wordt in Brussel én in Den Haag urgenter naarmate deze operaties succesvoller ogen.

Google, Nvidia en Anthropic sluiten pact om AI-datacenters het stroomnet niet te laten breken.

Erik: Google, Nvidia en Anthropic hebben samen met een aantal energiebedrijven een alliantie opgericht voor AI-energiebeheer. Het doel is een van de lastigste problemen van de AI-boom: datacenters slurpen stroom en de netten kunnen het niet bijhouden. De alliantie promoot vraagsturing: het tijdelijk terugschroeven of verplaatsen van AI-werk wanneer het net onder druk staat, zodat er elders ruimte vrijkomt.

Linda: Het genoemde getal is fors. Volgens de alliantie zou deze aanpak tot honderd gigawatt extra datacentercapaciteit aan het net kunnen koppelen, capaciteit die anders jarenlang wacht op nieuwe hoogspanningsverbindingen. Het idee: niet elke trainingsrun hoeft op een hete middag te draaien. Sommige taken kunnen pauzeren, andere kunnen naar een andere locatie, en weer andere kunnen wachten tot er ruim wind of zon is.

Erik: Technisch is dat minder eenvoudig dan het klinkt. AI-training geldt als een klus die je niet zomaar stilzet, omdat duizenden chips synchroon moeten blijven. Flexibele werklasten vragen aanpassingen in planners, opslag en soms de modelarchitectuur zelf. Dat Nvidia meepraat is dus belangrijk, want de hardware- en softwarelaag moeten meewerken. En de netbeheerders krijgen eindelijk een stoel aan tafel waar AI-infrastructuur wordt ontworpen.

Linda: Voor Nederland raakt dit een zenuw. Rondom Amsterdam en in Groningen staat de netcapaciteit op slot, en de discussie over nieuwe datacenters is politiek beladen. Als hyperscalers aantonen dat werklasten écht flexibel zijn, verandert dat het gesprek met TenneT en gemeenten: van harde nee naar voorwaardelijke ja, mits je meedoet aan vraagsturing. Blijft de flexibiliteit een marketingverhaal, dan verhardt het verzet juist verder.

Gratis wachtwoordkluis Buttercup geeft je een volwaardige kluis zonder abonnement.

Erik: Tot slot twee dingen waar je vandaag iets mee kunt. De eerste is Buttercup, een gratis open-source wachtwoordmanager die draait op Windows, Mac, Linux, iOS en Android, plus browser-extensies voor Chrome en Firefox. Wachtwoorden zitten in een versleutelde kluis die je zelf bewaart: op je eigen apparaat, in je eigen cloudopslag, of op een privéserver. Geen verplicht account bij de maker, geen abonnement dat je later insluit.

Linda: Wat Buttercup onderscheidt van de grote namen is juist die vrijheid over waar de kluis staat. Wie wil synchroniseren tussen apparaten, wijst hem naar een bestaande map in Dropbox of Nextcloud en laat die de synchronisatie doen. Voor wie nu overal hetzelfde wachtwoord gebruikt of een notitie op de telefoon bijhoudt, is de opzet ongeveer een kwartier werk: installeren, één sterk hoofdwachtwoord kiezen, importeren uit de browser, en de extensie erbij zodat logins vanzelf worden ingevuld.

Erik: Een paar dingen om te weten. Omdat Buttercup zelf geen synchronisatiedienst draait, ben je verantwoordelijk voor een back-up van het kluisbestand. Bewaar dus minstens één kopie op een veilige plek. En het hoofdwachtwoord kun je niet terugvragen als je het vergeet; dat is de prijs van echte versleuteling van begin tot eind. Reviewers noemen de app licht en helder, al is de interface functioneler dan de gepolijste betaalde pakketten.

Linda: Het bredere punt: een wachtwoordmanager blijft de beveiligingsstap met het grootste effect voor het minste werk. Voor Nederlandse gebruikers is Buttercup vooral aantrekkelijk als je je gegevens binnen Europa of gewoon op je eigen laptop wil houden, zonder gebonden te zijn aan een Amerikaans abonnement. Werkt op elk platform, kost niets, en je bent er dit weekend mee klaar.

Europese route-app BRouter tekent fiets- en wandelroutes die gewone kaart-apps weigeren te overwegen.

Erik: De tweede tip is BRouter, een gratis open-source routeplanner uit Duitsland, gebouwd op OpenStreetMap-data. Er is een Android-app, en je kunt hem ook gewoon in de browser gebruiken via brouter dot de. Wat hij doet wat de meeste navigatie-apps niet doen: routes tekenen rond wat jij écht wil, of dat nu rustige fietspaden zijn, bospaden, grindwegen, of de vlakste lijn door een heuvelig gebied.

Linda: De truc zit in wat BRouter profielen noemt. In plaats van één generieke fiets- of wandelmodus kies je een profiel voor racefiets, trekking, mountainbike, wandelen of toegankelijkheid. Elk profiel weegt wegtypes anders, dus een racefietser wordt naar asfalt gestuurd terwijl een gravelrijder juist onverharde paden krijgt. Gevorderden passen profielen zelf aan, maar de standaardinstellingen zijn goed genoeg dat de meesten er nooit aan hoeven te komen.

Erik: Hij werkt offline zodra je de kaartsegmenten voor je regio downloadt. Voor Europese gebruikers betekent dat betrouwbare navigatie in gebieden met slecht mobiel bereik: de Alpen, het Franse platteland, de Schotse hooglanden, Scandinavische binnenwegen. Geen account, geen advertenties, geen ritregistratie. De interface is eerder functioneel dan mooi, maar voor wie een weekendrit of een lange wandeling plant, zijn de routes vaak merkbaar beter dan de mainstream alternatieven.

Linda: Voor Nederland is BRouter een fijne aanvulling naast de Fietsersbond-planner: hij pakt knooppuntennetwerken netjes op en stuurt je langs stillere routes tussen bijvoorbeeld Utrecht en de Veluwe. Praktisch: veel bestaande fiets- en wandel-apps in Europa gebruiken BRouter al onder de motorkap, dus je krijgt dezelfde kwaliteit, zonder tussenlaag en zonder abonnement.

Linda: Vandaag hadden we het over: Californië dat onafhankelijk toezicht en een noodknop voor frontier-AI verplicht, Microsoft dat een grondwet publiceert voor zijn eigen AI, INTERPOL dat met AI honderdzesentwintig verdachte strijders identificeert, en de energie-alliantie van Google, Nvidia en Anthropic tegen een overbelast stroomnet. En twee dingen om zelf te proberen: de gratis wachtwoordkluis Buttercup en de Europese route-app BRouter.

Erik: Meer weten of reageren? Ga naar thestateoftech.nl of mail ons op info@doorzetters.net.

Erik: State of Tech, de techwereld in 15 minuten.