Klein model van 3 miljard parameters evenaart tien keer zo grote concurrenten

De vijf koppen van vandaag

Klein model van 3 miljard parameters evenaart tien keer zo grote concurrenten
Waarom AI soms liegt en hoe onderzoekers dat nu écht kunnen zien
Nederlandse bedrijven gebruiken AI, maar de beveiliging van die agenten hapert
Het vertrouwen van AI: niet zomaar een gok, maar een gestructureerd signaal
Pathologie-AI leert ziekten herkennen op een schaal die geen arts bijbenen kan

Rode draad: Vier onderzoeken laten zien: AI wordt niet alleen krachtiger, maar ook betrouwbaarder, veiliger en inzichtelijker.

Het nieuws van vandaag

Nanbeige: het kleine model dat zijn grote broers verslaat

Een compacte AI met 3 miljard parameters presteert op agent-taken even goed als modellen van 30 miljard.

Bedrijfsleven Technologie

De AI-wereld lijkt vaak een race om het grootste model. Maar onderzoekers van de Chinese groep achter Nanbeige laten deze week zien dat grootte niet alles is. Hun nieuwe model, Nanbeige4.2‑3B, heeft slechts 3 miljard parameters, een fractie van wat concurrenten als GPT‑4 gebruiken en evenaart op taken als code‑assistentie, het bedienen van software, en complexe logica de prestaties van modellen die tien keer zo groot zijn. Het geheim zit in een slimme architectuur: de laag van het model wordt steeds opnieuw gebruikt, zonder extra rekenkracht. Daarnaast is het model getraind op een zorgvuldig samengestelde mix van echte en gesynthetiseerde taken, variërend van wiskunde tot Office‑hulp. Het resultaat: een model dat niet alleen klein is, maar ook nog eens efficiënt draait op een gewone laptop.

Wat dit betekent in Nederland: Van de Nederlandse bedrijven die AI gebruiken, zet 58% in de ict-sector het in; een compact model als Nanbeige maakt het ook voor mkb’ers met minder rekenkracht haalbaar.

Bron: ArXiv

Hoe we eindelijk kunnen zien wanneer AI ons voorliegt

Een nieuwe methode ontwart de innerlijke twijfel van AI en filtert ruis uit het denkproces.

Onderzoek Vertrouwen

Grote redeneermodellen (zoals ChatGPT‑o) hebben een bijzonder probleem: voordat ze een antwoord geven, produceren ze vaak een lange interne monoloog vol overwegingen, stappen en ook, stilzwijgend, onzin. Die monoloog is een goudmijn om te controleren of het uiteindelijke antwoord klopt, maar hij zit vol afleiding: irrelevante zijdelingse gedachtes of herhalingen. Onderzoekers van de universiteiten van Peking en Stanford presenteren een techniek genaamd REDE die die ruis eruit filtert. Ze gebruiken de uiteindelijke aandacht van het model voor het antwoord als een soort stempel: welke stappen in de monoloog droegen echt bij aan het antwoord? Die stappen zijn informatief, de rest is ruis. Vervolgens trainen ze een apart detector‑model op die schone signaal om te voorspellen of het antwoord hallucinatie is. In tests op wiskunde‑ en redeneertaken verbetert de detectie met tientallen procenten ten opzichte van bestaande methodes.

Wat dit betekent in Nederland: Bedrijven die AI inzetten voor klantcontact of besluitvorming kunnen straks automatisch checken of de AI betrouwbaar is, zonder dat een mens elke dialoog hoeft te lezen.

Bron: ArXiv

Veiliger AI‑agenten: geef ze alleen de rechten die ze nú nodig hebben

Onderzoek stelt een preventieve beveiliging voor: als een agent geen toegang tot een tool heeft, kan die ook niet misbruikt worden.

Beveiliging Bedrijfsleven

Enterprise‑AI‑agenten krijgen tegenwoordig vaak een standaard set van rechten bij installatie: toegang tot e‑mail, databases, bestandssystemen, alles voor de zekerheid. Dat is alsof je elke medewerker een hoofdsleutel geeft. Een team van onderzoekers van de Universiteit van Amsterdam en partners stelt een architectuur voor die dat radicaal omdraait. Ze introduceren een ‘dynamische minste‑rechten’‑aanpak: vóórdat een agent een taak uitvoert, bepaalt een combinatie van rol, taak‑analyse, en bedrijfsbeleid welke tools exact nodig zijn. Tools die niet in die set zitten, bestaan voor de agent letterlijk niet. Het systeem kan ook in een observatiemodus draaien: dan registreert het alleen welke verzoeken de agent had willen doen maar niet mocht, een waardevol signaal voor afwijkend gedrag. De aanpak is preventief, niet detectief: een credential die niet in het geheugen van de agent zit, kan nooit worden misbruikt, hoe slim de agent ook probeert te ontsnappen.

Wat dit betekent in Nederland: Bij grote bedrijven (53% gebruikt AI) kan deze preventieve beveiliging helpen om risico’s van AI‑agenten te verkleinen zonder productiviteit in te leveren.

Bron: ArXiv

Het vertrouwen van AI blijkt geen gok, maar een gestructureerd signaal

Een neurowetenschappelijk model legt uit wat de ‘twijfel’ van een taalmodel precies is.

Onderzoek Fundamenteel

Wanneer een AI een antwoord geeft met een hoge waarschijnlijkheidsscore, is dat dan een echte maat voor vertrouwen, of alleen een trucje? Onderzoekers van het MIT en de Universiteit van Princeton hebben dat getest met een bril uit de neurowetenschap: het Statistical Decision Confidence (SDC)‑model. Volgens dat model zou een optimale beslisser de logica van twijfel op een wiskundig consistente manier moeten opbouwen, als een normaal verdeeld bewijssignaal. De onderzoekers legden taalmodel‑antwoorden op perceptuele taken, zoals het onderscheiden van geluiden of beelden, langs deze meetlat. Het bleek dat het verschil in logits (de ‘score’ voor elk antwoord) zich gedraagt als een normative decision variable: de vorm van de verdeling past precies bij wat SDC voorspelt. Met andere woorden: de twijfel van een AI is geen willekeurige ruis, maar een leesbaar signaal. Dat opent de deur naar nieuwe manieren om AI te laten vertellen hoe zeker het eigenlijk is, zonder aparte calibratietraining.

Bron: ArXiv

Pathologie‑AI leert van 5,5 miljoen scans en haalt daarmee artsen in

Een nieuw model overtreft bestaande systemen op tachtig benchmarks en draait op een fractie van de rekenkracht.

Gezondheidszorg Onderzoek

De grootste hindernis voor AI in de pathologie (het beoordelen van weefselplakjes onder de microscoop) was tot nu toe niet de prestaties, maar de betrouwbaarheid en de rekenkracht. Het team achter Atlas 2, een samenwerking tussen Berlijnse, Münchener en Amerikaanse ziekenhuizen, heeft nu een ‘foundation model’ getraind op 5,5 miljoen digitale microscopie‑beelden uit drie grote medische centra. Het model is erop ontworpen om niet alleen accurate diagnoses te stellen, maar ook consistent te zijn: waar andere modellen bij kleine variaties in belichting of snijtechniek in de war raken, blijft Atlas 2 stabiel. Bovendien is het opmerkelijk zuinig: versie Atlas 2‑S draait op hardware die in de meeste klinieken al aanwezig is. De getallen zijn indrukwekkend: op tachtig openbare benchmarks, van borstkanker tot darmpoliepen, scoort Atlas 2 consistent hoger dan elk eerder model.

Wat dit betekent in Nederland: Nederlandse ziekenhuizen die pathologie‑AI overwegen, hebben nu een robuust alternatief dat niet alleen presteert maar ook praktisch inzetbaar is, zonder dure GPU‑clusters.

Bron: ArXiv

Voor wie zelf met AI bouwt

V‑fold jackknife: een simpel, snel alternatief voor de bootstrap

Geen invloedsfuncties, geen complexe asymptotiek, alleen V‑keer opnieuw fitten en de variantie aflezen.

Tools Statistiek

De bootstrap is de standaard voor onzekerheidschatting, maar voor moderne semiparametrische en machine‑learning‑schatters is de validiteit vaak onbewezen en de rekentijd torenhoog. Dit paper introduceert de V‑fold jackknife: je deelt de data in V delen, laat V‑1 delen de schatter trainen en meet de variatie van de voorspellingen op het weggelaten deel. De resulterende ‘pseudo‑waarden’ geven direct betrouwbaarheidsintervallen, zonder invloedsfunctie en zonder aannames over de schatter. Voor asymptotisch lineaire schatters (de meeste neurale netwerken zijn dat in de praktijk) is de methode theoretisch onderbouwd.

Aanbeveling: Implementeer de V‑fold jackknife als vervanging voor bootstrapping in pipelines waar onzekerheid een rol speelt, zoals A/B‑testen of bandit‑algoritmes.

Bron: ArXiv

Task‑conditional compute skipping: alleen de noodzakelijke rekenkracht gebruiken

Een slimme HW/SW‑co‑design laat AI alleen de neurale paden activeren die voor de huidige taak nodig zijn.

Infra Optimalisatie

Multi‑task inferentie modellen delen een backbone, maar rekenen elke keer alles door, ongeacht of de taak ‘gezichtsherkenning’ of ‘objectdetectie’ is. Dit paper stelt een lightweight gating network voor dat, gegeven de taak (bv. een commando‑regel), per blok van uitvoerkanalen een binaire masker leert. Alleen de gemaskerde blokken worden geëvalueerd; de rest wordt overgeslagen zonder overhead. In experimenten levert dat tot 60% rekenbesparing zonder prestatieverlies en de training van de gate kan gewoon meekoppelen met de bestaande backbone. Het vereist wel accelerator‑hardware die maskering op tile‑niveau ondersteunt, maar de gate zelf is triviaal klein.

Aanbeveling: Geschikt voor edge‑inferentie op FPGA’s of aangepaste chips; overweeg de gating als je een multi‑task model op een beperkt platform draait.

Bron: ArXiv

Bronnen: ArXiv · ArXiv · ArXiv · ArXiv · ArXiv · ArXiv · ArXiv

Transparantie: het maken van deze editie kostte ±€0,22 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).