OpenAI-hoofdwetenschapper: mensheid niet klaar voor superintelligente AI

Linda: Welkom bij The State of Tech, maandag 7 september 2026. Ik ben Linda Duursma.

Erik: En ik ben Erik Van Doorn. Vandaag: OpenAI's hoofdwetenschapper waarschuwt dat we niet klaar zijn voor slimmere AI dan wijzelf, een golf nieuwe AI-modellen terwijl de wereldwijde AI-uitgaven richting 2,6 biljoen dollar gaan, AI-agent-lekken duwen securitybazen naar de bestuurskamer met zevencijferige salarissen, en Brussels topambtenaar voorspelt dat ook Amerika onvermijdelijk AI-vangrails krijgt. Plus twee dingen om zelf te proberen: de gratis receptenapp Tandoor en de betaalde zoekmachine Kagi. We beginnen met die opvallende waarschuwing van OpenAI zelf.

OpenAI's hoofdwetenschapper waarschuwt dat de mensheid niet klaar is voor AI die ons straks kan overdenken.

Linda: Jakub Pachocki, de hoofdwetenschapper van OpenAI, heeft een opvallend openhartig essay gepubliceerd met de titel An Alien Mind. Zijn kernpunt: machines kunnen binnen ons leven duidelijk slimmer worden dan mensen, en we zijn daar in zijn eigen woorden niet klaar voor. Hij wijst op het risico van AI-systemen die zichzelf steeds beter maken, en zegt dat het onderscheid tussen bewust misbruik en een AI die zelf de verkeerde kant op gaat begint te vervagen. Dat is stevige taal van iemand die aan de knoppen zit.

Erik: En dat maakt dit stuk zo bijzonder. Dit is niet een externe criticus, dit is de hoofdwetenschapper van het bedrijf dat juist de meest geavanceerde modellen bouwt. Hij pleit voor extreme voorzichtigheid, vrijwillige vertragingen en internationale coördinatie. Dat schrijf je niet zomaar op als je werkgever in een volle sprint zit tegen Google, Anthropic en Meta. Pachocki geeft ook toe dat de oplossingen voor veilige uitlijning simpelweg nog niet bestaan op de schaal die nodig is. Het is bijna een noodkreet van binnenuit.

Linda: De timing maakt het extra scherp. In diezelfde week bracht OpenAI zelf een nieuw model uit, en Anthropic, Meta en Google duwden ook nieuwe versies naar buiten. Aan de ene kant staat er dus een topwetenschapper te zwaaien met een rode vlag, aan de andere kant loopt de releasekalender op volle toeren door. Precies die spanning is waar Europese toezichthouders al twee jaar op wijzen: de industrie gaat harder dan de veiligheidsmaatregelen aankunnen.

Erik: Voor Nederland betekent dit dat de AI Act geen theoretische oefening meer is. De Autoriteit Persoonsgegevens en de nieuwe AI-toezichthouder moeten straks concreet beoordelen of frontier-modellen veilig genoeg zijn voor de Europese markt. En Nederlandse bedrijven die deze modellen inbouwen in hun eigen producten, van ING tot Bol, krijgen te maken met verantwoordingsplichten die verder gaan dan een leverancierscontract. Als de hoofdwetenschapper van de bouwer zelf zegt dat de veiligheidsvraag onopgelost is, wordt due diligence ineens een heel ander gesprek.

Linda: En wat opvalt is dat Pachocki geen concrete deadline noemt. Hij zegt niet dat het over twee jaar gebeurt of over tien. Wel dat het binnen een mensenleven realistisch is, en dat we nu al bezig moeten zijn met afspraken op wereldschaal. Voor beleidsmakers in Den Haag is dat een oncomfortabele boodschap, want internationale coördinatie is precies wat op dit moment het moeilijkst gaat.

AI-labs lanceren golf nieuwe modellen terwijl wereldwijde AI-uitgaven naar 2,6 biljoen dollar stijgen.

Erik: Terwijl Pachocki schreef over voorzichtigheid, waren zijn concurrenten aan het uitrollen. In een paar dagen bracht Anthropic twee nieuwe Claude-modellen uit, Meta duwde Muse Spark naar buiten, Google werkte Gemini Flash bij en OpenAI onthulde een nieuw vlaggenschip met nadruk op cybersecurity en wat ze computer-vaardigheden noemen, wat er op neerkomt dat het model zelf een bureaublad kan bedienen zoals een mens dat doet. Vijf grote releases van vier labs in dezelfde week.

Linda: En daar bovenop komt een prognose van marktonderzoeker Gartner die dezelfde week landde: de wereldwijde AI-uitgaven gaan dit jaar richting 2,6 biljoen dollar. Dat is een stijging van 47 procent ten opzichte van 2025 en dekt infrastructuur, software en diensten samen. Ter vergelijking: dat is ongeveer het hele bruto binnenlands product van Frankrijk, in één jaar in één technologiecategorie. Het leeuwendeel gaat naar datacenters, chips en de stroom om dat allemaal te laten draaien.

Erik: Interessant is hoe de labs zich onderscheiden. OpenAI gaat hard op modellen die taken op je computer kunnen uitvoeren. Anthropic splitst zijn lijn op met verschillende varianten voor verschillende klussen. Google blijft iteratief snelle en goedkope modellen uitbrengen. Voor bedrijven wordt de strategie minder een keuze voor één winnaar en meer een kwestie van het juiste model voor de juiste taak.

Linda: Voor Nederland raakt dit twee dingen. Ten eerste de energie-infrastructuur: elk nieuw datacenter voor AI-training vraagt zoveel stroom dat de netbeheerders het amper kunnen bijbenen. TenneT waarschuwt al maanden voor netcongestie in Noord-Holland en Flevoland. Ten tweede de inkoop bij Nederlandse bedrijven: wie nu een AI-contract tekent voor drie jaar loopt het risico dat het model over zes maanden alweer verouderd is. De cyclus is zo snel dat langlopende afspraken lastig worden.

Linda: Even een kleine onderbreking. Luister je vaker naar The State of Tech? Druk dan op de likeknop en abonneer je, zodat je nooit een aflevering mist. Oké, verder.

AI-agent-lekken duwen securitybazen naar de bestuurskamer met zevencijferige salarissen.

Erik: Er verschuift iets structureels in hoe bedrijven cybersecurity aanpakken, en AI-agents zijn de reden. Naarmate meer organisaties zelfstandige AI-systemen inzetten die data kunnen inzien, mails versturen en transacties uitvoeren, groeit het aanvalsoppervlak snel. De hoogste securitybaas, in het jargon de CISO, wordt rechtstreeks de bestuurskamer ingetrokken, en beloningspakketten voor de topkandidaten gaan over de miljoen euro. Recruiters vergelijken de vraag met de vroege cloudjaren.

Linda: De aanleiding is een reeks incidenten met AI-agents deze zomer. In de Verenigde Staten hebben vijftien staten officiële verzoeken gestuurd aan OpenAI om bewijs te bewaren na een incident in juli. Dat is een serieuze juridische stap: het betekent dat procureurs-generaal zich voorbereiden op mogelijke rechtszaken en dat bedrijven die AI-agents inzetten straks onderzoeksvorderingen kunnen krijgen waar ze totaal niet op gerekend hadden. Dat is een bestuurskwestie, niet alleen een technische.

Erik: In Europa loopt het via een andere route naar hetzelfde punt. De NIS2-richtlijn, die inmiddels van kracht is in de hele Europese Unie, legt de wettelijke verantwoordelijkheid voor cybersecurity rechtstreeks bij de bestuurders. Dus als je bedrijf een ernstig lek krijgt en het bestuur kan geen behoorlijk toezicht aantonen, kunnen individuele bestuurders persoonlijk aansprakelijk worden gesteld.

Linda: Voor Nederlandse bedrijven wordt dat de komende maanden concreet. De sectoren die onder NIS2 vallen zijn breed: van banken en ziekenhuizen tot drinkwaterbedrijven en logistieke dienstverleners. Wie AI-agents inzet zonder een duidelijke governance-laag riskeert straks niet alleen een boete, maar persoonlijke aansprakelijkheid van de raad van bestuur. Dat verklaart waarom Nederlandse headhunters melden dat CISO-vacatures nu binnen weken worden ingevuld tegen salarissen die je normaal alleen bij bankbestuurders ziet.

Europese techcommissaris voorspelt dat ook de VS onvermijdelijk AI-vangrails krijgt.

Erik: Henna Virkkunen, de hoogste techambtenaar van de Europese Commissie, deed een opvallende voorspelling tijdens de G20-innovatievergadering dit weekend. Ondanks de Amerikaanse aanpak van lichtere AI-regulering denkt ze dat Washington uiteindelijk zelf ook stevige AI-vangrails krijgt. Haar argument: de Europese Unie en de Verenigde Staten komen telkens uit op vergelijkbare beschermingsuitkomsten, ze nemen alleen een andere route.

Linda: Die redenering is de moeite waard. Europa reguleert vooraf, via wetgeving zoals de AI Act, met duidelijke risicocategorieën en concrete verplichtingen. De Verenigde Staten reguleren juist achteraf: via rechtbanken, staatswetten en handhavingsacties van toezichthouders. Beide benaderingen leveren beperkingen op voor hoe bedrijven AI mogen inzetten, ze verschijnen alleen op andere momenten in de tijd.

Erik: En Virkkunen heeft bewijs voor haar these. Californië alleen al nam ongeveer dertig AI-gerelateerde wetten aan in de laatste zittingsperiode. Staten sturen bewijsvorderingen naar OpenAI. Federale rechters werken aan auteursrechtzaken tegen Anthropic en Perplexity. Zelfs zonder een federale AI-wet ontstaat er in Amerika stukje bij beetje een feitelijk regelboek. En multinationals moeten sowieso voldoen aan de AI Act als ze de Europese markt willen bedienen, wat hun wereldwijde praktijk richting Europese standaarden trekt.

Linda: Voor Nederland is dat een interessante verschuiving. Nederlandse techbedrijven zoals Adyen, Booking en de AI-startups rond Amsterdam en Eindhoven hoeven straks niet meer te kiezen tussen een strenge Europese en een losse Amerikaanse aanpak. Als de convergentie doorzet, wordt de AI Act de facto de wereldwijde standaard, net zoals dat met de privacywet AVG is gebeurd. Dat verlaagt de nalevingskosten voor bedrijven die in beide markten actief zijn, en het geeft Europese toezichthouders meer gewicht in internationale overleggen.

De gratis app Tandoor verandert je keuken in een echte receptenverzameling met boodschappen- en menuplanning.

Erik: Tijd voor twee dingen die je zelf deze week kunt uitproberen. We beginnen met een vondst voor iedereen wiens recepten leven in een chaotische mix van screenshots, bladwijzers en uitgescheurde tijdschriftpagina's. De tool heet Tandoor en het is een gratis, open-source recepten- en menuplanning-applicatie. Hij draait op je eigen computer of op een kleine thuisserver, haalt recepten op van bijna elke kookwebsite die je erin plakt, maakt ze schoon en zet ze in een doorzoekbare bibliotheek.

Linda: Wat Tandoor onderscheidt is dat het niet stopt bij recepten. De app bouwt automatisch boodschappenlijstjes op basis van wat je die week wilt koken, houdt bij wat er in je voorraadkast staat, zodat je niet een derde potje paprikapoeder haalt, en regelt de menuplanning voor een heel huishouden. Gebruikers beschrijven het vaak als het dichtstbijzijnde privé-alternatief voor de grote commerciële receptenapps die je constant gesponsorde content voorschotelen en om een abonnement vragen.

Erik: Voor Nederlandse luisteraars is er een extra pluspunt: omdat Tandoor op je eigen apparaat draait, komen de dieetwensen, allergieën en boodschappengewoonten van je gezin niet bij een databedrijf terecht. Het project heeft een actieve Europese bijdrage en ondersteunt meerdere talen, waaronder Nederlands. Er is een kant-en-klaar installatiepakket voor de wat technischere gebruiker, en een groeiend aantal kleine Europese hostingpartijen biedt Tandoor aan voor een paar euro per maand.

Linda: De leercurve is mild. Als je een webadres kunt kopiëren en plakken, kun je Tandoor gebruiken. Voor gezinnen die willen minderen op voedselverspilling of gewoon eindelijk overzicht willen in hun favoriete recepten, is dit een goed weekendproject. Zoek in je browser op Tandoor en de projectnaam, en je vindt binnen een minuut de handleiding en de demo-versie.

De betaalde zoekmachine Kagi vervangt Google door resultaten die je vraag echt beantwoorden.

Erik: De tweede vondst is voor iedereen die het gevoel heeft dat gewone zoekmachines vooral advertenties, AI-vulwerk en zoekmachine-geoptimaliseerde onzin geworden zijn. De tool heet Kagi. Het is een betaalde zoekmachine, ongeveer tien dollar per maand voor het standaardabonnement, en de pitch is simpel: omdat je betaalt ben je de klant, niet het product. Geen advertenties, geen tracking en geen poging je te profileren.

Linda: Kagi laat je resultaten personaliseren op een manier die Google niet meer doet. Je kunt websites die je vertrouwt hoger zetten, nutteloze bronnen blokkeren, en de eindeloze receptenblogs wegdrukken die een antwoord van twee zinnen begraven onder duizend woorden achtergrondverhaal. Er zit ook een ingebouwde AI-samenvatter in voor lange artikelen, en de resultaten brengen vaker onafhankelijke bronnen, forums en kleine blogs naar boven die de grote zoekmachines juist wegdrukken.

Erik: Het bedrijf zit in de Verenigde Staten, maar Kagi is populair geworden onder Europese privacybewuste gebruikers, juist omdat het expliciet maakt wat andere zoekmachines verbergen: het verdienmodel. Je betaalt een abonnement en krijgt in ruil zoekresultaten die zijn afgestemd op jouw bruikbaarheid, niet op de omzet van adverteerders.

Linda: Er is een gratis proefperiode waarmee je een paar honderd zoekopdrachten kunt doen voordat je iets betaalt. Dat is genoeg om te merken of het verschil de maandelijkse prijs waard is voor de manier waarop jij zoekt. Voor journalisten, onderzoekers en zware Googlaars is Kagi vaak binnen een week een blijvertje. Vandaag hadden we het over: de waarschuwing van OpenAI's hoofdwetenschapper, de golf nieuwe AI-modellen en 2,6 biljoen dollar aan uitgaven, securitybazen die naar de bestuurskamer worden getrokken, de voorspelling van Brussel over Amerikaanse AI-regels, en twee dingen om zelf te proberen: de receptenapp Tandoor en de zoekmachine Kagi.

Erik: Meer weten of reageren? Ga naar thestateoftech.nl of mail ons op info@doorzetters.net.

Erik: State of Tech, de techwereld in 15 minuten.