Meta's chatbot blijkt de voordeur voor een golf Instagram-hacks

De vijf koppen van vandaag

Meta’s chatbot blijkt de voordeur voor een golf Instagram-hacks
OpenAI-gebruikers rebelleren: nieuw geheugensysteem vergeet wat belangrijk is
Software-ingenieur voelt AI aan zijn stoel schudden en weet niet waar naartoe
Britse politie mag AI niet meer gebruiken in rechtbankverklaringen
Workflow verslaat modelkeuze: ontwikkelaars ontdekken dat orchestratie belangrijker is dan intelligentie

Rode draad: De week waarin AI-systemen tastbare schade aanrichten, gebruikers controle verliezen, en de industrie zich afvraagt of sneller bouwen ook beter bouwen is.

Het nieuws van vandaag

Meta’s chatbot wordt wapen tegen gebruikers

Duizenden Instagram-accounts gekaapt via een kwetsbaarheid die de bedoeling van AI op zijn kop zet.

Beveiliging Privacy

Meta bevestigde deze week dat hackers duizenden Instagram-accounts hebben gekaapt. Ze misbruikten daarvoor de AI-chatbot van het bedrijf. De aanvallers gebruikten de chatbot om wachtwoord-resetverzoeken te versturen en de beveiliging te omzeilen. Precies het tegenovergestelde van wat conversatie-AI zou moeten doen.

Het incident toont een groter probleem. Bedrijven voegen AI toe aan hun klantsystemen, maar denken niet goed na over nieuwe beveiligingsrisico’s.

Beveiligingsbedrijf Rubrik waarschuwde deze week voor een “gevaarlijke beveiligingskloof”. Organisaties zetten AI-agents in voor taken waarbij ze toegang krijgen tot gevoelige data. Maar ze beveiligen deze systemen alsof het simpele chatbots zijn. Terwijl het eigenlijk autonome software is die zelfstandig beslissingen neemt.

Wat dit betekent in Nederland: Van de 23% Nederlandse bedrijven die AI gebruiken (CBS, 2024), implementeert het merendeel chatbots zonder aparte security-audit.

Bron: This Week in Security

ChatGPT onthoudt minder: beter voor OpenAI, slechter voor gebruikers

Het bedrijf verving het geheugensysteem. Gebruikers verloren controle en functionaliteit.

Bedrijfsleven Product

Sinds 4 juni gebruikt ChatGPT een nieuw geheugensysteem met de naam “Dreaming V3”. Het systeem bepaalt zelf wat het onthoudt van eerdere gesprekken. In het oude systeem zagen gebruikers precies welke informatie was opgeslagen. Ze konden zelf items toevoegen of weggooien. Die mogelijkheid is verdwenen.

Betalende gebruikers klagen massaal. Het systeem vergeet belangrijke details, terwijl maandenlang oude informatie zonder reden blijft opduiken. De nieuwe aanpak bespaart rekenkracht doordat er minder context wordt bewaard. Dat drukt de kosten voor OpenAI, dat volgens recente rapporten nog altijd verlies maakt per gebruiker.

Een gebruiker vat het samen: “Zij krijgen een lagere rekening, ik krijg een slechtere assistent.”

Bron: OpenAI Community Forum

”LLMs eten mijn carrière op”

Een software-ingenieur schrijft op wat duizenden collega’s denken maar niet hardop zeggen.

Arbeidsmarkt Impact

“Ik weet niet meer wat mijn waarde is”, schrijft een software-engineer in een essay dat binnen een dag 866 stemmen op Hacker News kreeg. De auteur beschrijft hoe AI-assistenten zijn werk niet vervangen maar uithollen. Junior-taken worden geautomatiseerd. Senior-rollen draaien steeds meer om het aansturen van AI dan om zelf bouwen. Wat overblijft voelt aan als menselijke tussenpersoon tussen systemen die elkaar bijna begrijpen.

Het essay raakt een gevoelige snaar. Honderden ontwikkelaars herkennen het patroon in de reacties. Bedrijven nemen minder juniors aan. Seniors krijgen minder tijd voor diepgaand werk. De ladder tussen beide verdwijnt. Een respondent vat het samen: “De vaardigheden die ik twintig jaar heb opgebouwd zijn niet waardeloos, maar de markt betaalt er steeds minder voor.”

Wat dit betekent in Nederland: Bij 53% van de grote bedrijven is AI inmiddels operationeel, blijkt uit cijfers van het CBS uit 2024. Wat dat betekent voor doorgroeiroutes wordt pas nu zichtbaar.

Bron: Human in the Loop

Britse politie krijgt AI-verbod in rechtszaal

Rechters en advocaten ontdekten verzonnen feiten in processen-verbaal.

Juridisch Beleid

Politie in Engeland en Wales mag geen AI meer gebruiken bij het schrijven van verklaringen die als bewijs dienen. Het verbod geldt vanaf nu. Aanleiding zijn meerdere gevallen waarin agenten ChatGPT of vergelijkbare tools inzetten om rapporten op te stellen. Daarbij doken verzonnen details op. De Financial Times meldde dat advocaten in verschillende zaken vals bewijs ontdekten dat rechtstreeks uit AI kwam.

Het is de eerste keer dat een grote rechtsorde AI expliciet uit het strafproces weert. Het gaat niet om een technisch probleem, maar om juridische integriteit. Een proces-verbaal is een verklaring onder ede. AI kan geen eed afleggen en draagt geen verantwoordelijkheid.

Bron: Financial Times

Workflow verslaat modelkeuze

Bij AI draait het steeds minder om het model en steeds meer om hoe je het inzet.

Bedrijfsleven Inzicht

“Een jaar geleden vergeleek ik obsessief AI-modellen”, schrijft een ontwikkelaar op Reddit. “Nu zie ik dat ik naar het verkeerde keek.” De post krijgt veel bijval. Hij beschrijft een verschuiving die zich stilletjes voltrekt: teams die resultaat boeken, onderscheiden zich niet door hun modelkeuze. Ze onderscheiden zich door hoe ze het werk organiseren. Heldere instructies, duidelijke outputs, korte feedbackloops en menselijke controle op kritieke momenten maken het verschil.

Het signaal komt van meerdere kanten. Een analyse op Dev.to beschrijft hoe “structured generation” de kern wordt van AI in productie. Dat betekent: je dwingt het model om gestructureerde output te geven via technische schema’s, niet via slimme instructies. Een andere post bespreekt tools zoals KVarN en Cost.dev. Die verbeteren niet de modellen zelf, maar maken de infrastructuur eromheen efficiënter en goedkoper.

Wat dit betekent in Nederland: In de 58% van bedrijven in informatie en communicatie die AI gebruiken (CBS, 2024), zit het verschil tussen succes en mislukking steeds vaker in procesontwerp, niet in technologie.

Bron: Reddit, OpenAI

Voor wie zelf met AI bouwt

KVarN: Huawei’s KV-cache compressie als vLLM-backend

Native plugin voor het meest gebruikte open-source inference-platform.

Infrastructuur Open source

Huawei publiceerde KVarN, een drop-in backend voor vLLM die KV-cache quantization toevoegt zonder forken. KV-cache, de interne geheugenbuffer waarin een model context bewaart, is vaak de bottleneck bij lange sessies of hoge concurrency. KVarN comprimeert die cache met 4-8 bit quantization, wat geheugenvereisten halveert zonder noemenswaardige kwaliteitsverlies.

Het is relevant omdat vLLM de facto standaard is voor zelf-gehoste inference, en omdat KVarN als backend plugt in plaats van als fork te leven. Dat betekent: mainstream vLLM-updates blijven compatibel.

Aanbeveling: Test als je multi-turn sessies of agent-workloads draait met memory pressure.

Bron: Hacker News · GitHub

StainFlow: process rewards voor GUI-agents

Entity-tracking in plaats van fixed windows voor fine-grained RL feedback.

Research Agents

Onderzoekers introduceren StainFlow, een methode om GUI-agents te trainen met process rewards gebaseerd op “entity-stain tracking”, denk aan netwerk-flowanalyse, maar dan voor visuele elementen in een interface. Traditionele process reward models gebruiken vaste time windows of milestone-decomposities; StainFlow volgt relevante UI-entities door een taak heen en geeft alleen feedback op frames waar die entities veranderen.

Het lost twee problemen op: vaste windows missen long-range dependencies, en milestone-decompositie is subjectief en schaalt niet naar meerdere geldige paden.

Aanbeveling: Relevant als je RL gebruikt voor GUI-automation en te weinig signaal uit sparse rewards haalt.

Bron: arXiv:2606.07027

SafeGene: herbruikbare safety-adapters

Decoupled safety layers die meegaan bij downstream fine-tuning.

Veiligheid Open source

SafeGene biedt een methode om safety alignment te bewaren als een aparte, herbruikbare adapter in plaats van als model-specifieke weights. De module leert een “safety representation” uit het verschil tussen aligned en degraded versies van een model, destilleert dat naar task-transferable vectors, en past die toe op downstream fine-tuned modellen via layer-wise recalibratie.

Het praktische probleem dat het oplost: elk keer dat je een model fine-tunet (ook op schone data), verzwakt de safety alignment. SafeGene laat je die alignment één keer isoleren en dan hergebruiken.

Aanbeveling: Nuttig als je regelmatig modellen fine-tunet en safety recovery steeds opnieuw moet doen.

Bron: arXiv:2606.06519

This Week in Security · OpenAI Community Forum · Human in the Loop · Financial Times · Reddit, OpenAI · Hacker News · GitHub · arXiv:2606.07027 · arXiv:2606.06519