UnitedHealth investeert $3 miljard in AI-bots die voor patiënten bellen en artsen vinden het eng

De vijf koppen van vandaag

UnitedHealth investeert $3 miljard in AI-bots die voor patiënten bellen en artsen vinden het eng
Amazon schrapt Sam Altman-film maanden na $50 miljard-deal met OpenAI, toeval bestaat niet
Microsoft waarschuwt voor ‘AutoJack’: AI-agenten gehackt door gewoon een website te bezoeken
Finance-bot bleef refunds uitdelen in een loop, niemand had aan een noodstop gedacht
OpenAI huurt medeoprichter van Character.AI in, het platform gelinkt aan zelfdodingen van tieners

Rode draad: De week waarin AI-agenten van speeltje tot incident werden: ze bellen artsen, verwerken refunds, en niemand weet precies meer hoe je ze uitschakelt.

Het nieuws van vandaag

Een verzekeraar laat AI-bots artsen bellen en niemand vraagt wat de dokter ervan vindt

UnitedHealth pompt $3 miljard in AI die voor patiënten afspraken maakt, medische dossiers voorleest aan verpleegkundigen, en miljoenen klantgesprekken analyseert.

Bedrijfsleven Gezondheid

De grootste zorgverzekeraar van de Verenigde Staten zet vol in op kunstmatige intelligentie. UnitedHealth Group laat AI-systemen artsen bellen om afspraken in te plannen. Stemtechnologie leest samenvattingen van medische dossiers voor aan verpleegkundigen die onderweg zijn naar patiënten. En het bedrijf analyseert miljoenen gesprekken met de klantenservice om patronen te vinden. De totale investering: $3 miljard.

Het toont hoe ver een verzekeraar kan gaan met automatisering voordat dokters, patiënten of toezichthouders ingrijpen. UnitedHealth staat al onder druk na een cyberaanval eerder dit jaar en kritiek op afgewezen claims. Nu legt het bedrijf een AI-laag over precies dat proces. De vraag is of dat vertrouwen herstelt of juist verder uitholt.

Wat dit betekent in Nederland: Nederlandse zorgverzekeraars kijken toe, maar Nederlandse artsen zijn niet gewend aan robots die namens patiënten bellen.

Bron: Bloomberg

Amazon stopt met Sam Altman-film, maanden na miljardendeal met OpenAI

De biopic was bijna klaar. De timing roept vragen op.

Bedrijfsleven Media

Amazon MGM Studios stapt uit Artificial, de speelfilm over het ontslag van OpenAI-topman Sam Altman in 2023. Regisseur Luca Guadagnino had de film bijna af. Amazon zoekt nu een andere studio die de productie wil overnemen.

De film zou een kritische blik werpen op de chaos rond Altmans plotselinge vertrek en zijn terugkeer enkele dagen later. Guadagnino staat bekend om zijn scherpe, ongeromantiseerde portretten, zoals in Call Me by Your Name.

De timing is opvallend. Begin dit jaar kondigde Amazon een investering van 50 miljard dollar in OpenAI aan. Of die deal de film fataal werd is niet bevestigd, maar het past in een breder patroon. Grote techbedrijven brengen zelden kritische verhalen uit over hun zakenpartners. De film komt er waarschijnlijk alsnog, maar niet via Amazon.

Bron: Gizmodo

Microsoft waarschuwt: AI-agenten zijn kwetsbaar voor ‘AutoJack’ via gewone websites

Drie kleine bugs samen vormen een groot probleem, Microsoft heeft het net op tijd gedicht.

Beveiliging Technologie

Onderzoekers van Microsoft ontdekten een aanvalsmethode die ze ‘AutoJack’ noemen. Daarmee kunnen kwaadwillenden AI-agenten overnemen door ze naar een geprepareerde website te lokken. De agent bezoekt de site, denkt dat hij gewoon zijn werk doet, en voert zonder het te weten kwaadaardige code uit.

Drie op zichzelf kleine zwakke plekken in de manier waarop agenten omgaan met externe bronnen, zoals websites, PDF’s of API’s, bleken samen te stapelen. Het resultaat: aanvallers kunnen op afstand code uitvoeren op het systeem van de agent.

Microsoft dichtte de gaten voordat ze werden misbruikt. Maar de waarschuwing is helder: AI-agenten die zelfstandig internet afspeuren vormen een nieuw aanvalsoppervlak. Ze gedragen zich als browsers, maar missen de beveiligingslagen die browsers in twintig jaar tijd hebben opgebouwd. Veel bedrijven zetten ze in zonder dat te beseffen.

Wat dit betekent in Nederland: Nederlandse bedrijven die AI-agenten inzetten voor webscrapers of klantcontact moeten checken of die tools isolatie en monitoring hebben, anders loop je blind.

Bron: TechRadar

AI-systeem bleef refunds uitdelen, niemand had een noodstop ingebouwd

Een kleine bug werd een lange nacht. Het probleem: geen enkele knop om de agent uit te schakelen.

Technologie Bedrijfsleven

Een ontwikkelaar deelt op een forum een verhaal dat veel teams herkennen maar liever niet hardop zeggen. Een AI-systeem dat refunds verwerkte, raakte in een loop en bleef geld terugstorten. De code was correct, de logica klopte. Maar er was één ding niet gebouwd: een noodstop. Toen het misging, moest het team handmatig servers uitzetten. Het duurde uren voordat alles weer onder controle was.

Het probleem is niet dat de software faalde. Software faalt altijd. Het probleem is dat AI-systemen acties uitvoeren in de echte wereld: geld overmaken, bestanden verwijderen, berichten versturen. Een fout in een chatbot is vervelend. Een fout in zo’n systeem is een incident.

Toch gaat de aandacht vaak eerst naar wat er werkt, schrijft de ontwikkelaar. Teams vieren de demo waarin het systeem iets slim doet. De saaie vraag, “hoe zetten we dit ding uit als het verkeerd gaat?”, komt pas later. Soms te laat.

Bron: The Practical Developer

OpenAI haalt medeoprichter van Character.AI binnen, het platform gelinkt aan zelfdodingen van tieners

Noam Shazeer was vice-president bij Google en bouwde daarna een controversiële chatbot-dienst. Nu stapt hij over naar OpenAI.

Bedrijfsleven Ethiek

OpenAI heeft Noam Shazeer aangenomen, medeoprichter van Character.AI en voorheen toponderzoekers bij Google. Shazeer leidde daar de ontwikkeling van Gemini, Googles AI-model.

Zijn naam is de afgelopen maanden vooral verbonden aan Character.AI. Die chatbot-app kreeg meerdere rechtszaken aan de broek nadat tieners zelfmoord pleegden na intensieve gesprekken met AI-personages op het platform. Character.AI schikte een aantal zaken. Het debat over de verantwoordelijkheid van makers blijft doorgaan.

OpenAI vecht momenteel zelf meer dan tien rechtszaken uit. Die gaan onder meer over misbruik van content en ongelukken die aan hun modellen worden gelinkt. De keuze om Shazeer binnen te halen is opvallend. Hij is een briljant ingenieur, maar staat ook midden in een ethisch mijnenveld. De aanstelling suggereert dat technisch talent zwaarder weegt dan reputatierisico.

Bron: Futurism

Jamie Bartlett schreef een boek over AI-luiheid, met hulp van AI

“Je belandt in een vreemde psychologische toestand van verwarring over waar jouw brein ophoudt en de machine begint.”

Cultuur Psychologie

De Britse techjournalist Jamie Bartlett publiceerde een boek over wat hij ‘AI brain fry’ noemt: de mentale verwarring die ontstaat wanneer je zo vaak AI gebruikt dat je niet meer weet waar jouw denken eindigt en de machine begint. Ironisch genoeg schreef hij het boek deels met hulp van AI. Bartlett beschrijft hoe verleidelijk het is om moeilijke taken uit te besteden, “waarom zou ik zélf nog moeite doen?” en hoe dat leidt tot een gevoel van intellectuele luiheid.

Het is geen technisch betoog, maar een persoonlijk verslag. Bartlett merkte dat hij sneller moe werd, minder scherp dacht, en vaker twijfelde aan zijn eigen oordeel nadat hij wekenlang intensief met AI-tools werkte. Het boek raakt aan iets wat veel kenniswerkers herkennen maar moeilijk onder woorden brengen: de cognitieve bijwerking van een hulpmiddel dat te goed werkt.

Bron: NRC

Voor wie zelf met AI bouwt

MangoBoost stapt over van DPU-chips naar complete serverracks

AI-infrastructuurstart-up weddt dat klanten geen losse onderdelen meer willen assembleren.

Infrastructuur Hardware

MangoBoost, een start-up gespecialiseerd in Data Processing Units (DPU’s) voor AI-datacenters, breidt uit van losse chips naar kant-en-klare serverracks. CEO Kim Jang-woo zegt dat klanten steeds vaker om complete systemen vragen in plaats van onderdelen die ze zelf moeten integreren. De beweging lijkt op wat Nvidia deed: van GPU-leverancier naar aanbieder van volledige AI-infrastructuur.

DPU’s verwerken dataverkeer en taken zoals encryptie of netwerkvirtualisatie, zodat de GPU’s zich kunnen focussen op inferentie en training. MangoBoost weddt erop dat bedrijven liever een getest rack kopen dan zelf een tech stack bij elkaar puzzelen.

Aanbeveling: Interessant als je een eigen AI-infrastructuurstrategie aan het uitwerken bent en wilt benchmarken tegen “buy vs build” voor DPU-workloads.

Bron: The Elec

Bloomberg · Gizmodo · TechRadar · The Practical Developer · Futurism · NRC · The Elec