Amerikaanse banken weren AI-agents die met het wachtwoord van de klant inloggen

De vijf koppen van vandaag

Amerikaanse banken weren AI-agents die met het wachtwoord van de klant inloggen
OpenAI verlaagt zijn eigen prijskaartje naar 1,25 biljoen dollar na tegenwind van beleggers
Microsofts diagnose-AI stelt in Science vaker de juiste diagnose dan artsen
Just Eat stopt met AI-foto’s nadat een gepofte aardappel een winterjas werd
Slechts 13 procent van de CIO’s ziet AI echt iets opleveren, meldt Gartner

Rode draad: AI krijgt steeds meer sleutels in handen, van bankrekening tot spreekkamer, terwijl banken, beleggers en IT-chefs harder vragen wat het oplevert en wie er aansprakelijk is.

Het nieuws van vandaag

Banken sluiten de deur voor AI-agents die met jouw wachtwoord inloggen

Klanten geven hun digitale assistent de inloggegevens. De bank ziet niet wie er achter het toetsenbord zit.

Bankwezen Beveiliging

Sommige mensen laten hun AI-assistent hun financiën beheren. Daarvoor geven ze de assistent hun inloggegevens voor internetbankieren. Grote Amerikaanse banken zien die digitale assistenten nu opduiken in klantrekeningen, meldt nieuwssite Axios. Morgan Stanley, JPMorgan, Bank of America en Citi blokkeren ze. Wells Fargo beperkt de toegang.

Het probleem: banken kunnen vaak niet zien of zo’n assistent namens de klant werkt. De meeste banken willen deze assistenten hooguit laten meekijken. Geld overmaken moet onmogelijk blijven.

Op dezelfde dag kwam wachtwoordbeheerder 1Password met een tussenoplossing. Met 1Password for Agents kan een assistent inloggen zonder het wachtwoord zelf te kennen. De gebruiker krijgt bij elke inlogpoging een melding en moet deze goedkeuren. Pas dan vult de wachtwoordmanager de gegevens in. De dienst werkt onder meer met Claude Duet van Anthropic, Dots van OpenAI en Muse van Meta.

Wat dit betekent in Nederland: Ook hier verbieden de voorwaarden van banken het delen van inloggegevens. Wie zijn assistent toch toegang geeft tot de bankapp, loopt bij fraude het risico zelf op te draaien voor de schade.

Bron: TechCrunch

OpenAI zakt van 1,4 naar 1,25 biljoen dollar

Het duurste private bedrijf ooit moest toch iets van de prijs af doen.

Bedrijfsleven Financiering

OpenAI wilde begin oktober nog 1,4 biljoen dollar waard zijn. Dat vonden investeerders te gortig. Volgens de Financial Times verlaagde het bedrijf daarom zijn waardering. OpenAI streeft nu naar maximaal 30 miljard dollar aan nieuw kapitaal tegen een waardering van 1,25 biljoen dollar, meldt CNBC.

Investeringsfonds Coatue en partijen uit de Verenigde Arabische Emiraten leiden de financieringsronde. De voorwaarden zijn nog niet definitief. OpenAI wilde niet reageren.

Ook met de korting breekt OpenAI het record voor een bedrijf zonder beursnotering. In maart stond de teller nog op 852 miljard dollar. De nieuwe waardering zet de standaard voor de beursgang. OpenAI diende daar in juni vertrouwelijk de documenten voor in.

Bron: TechCrunch

Microsofts diagnose-AI scoort 83 procent, artsen 36

Het systeem werkt als een panel van specialisten. In een echt ziekenhuis is het nog nooit getest.

Zorg Onderzoek

Microsoft heeft zijn AI-systeem getest op honderden complexe ziektegevallen uit het medische tijdschrift The New England Journal of Medicine. De software, Diagnostic Orchestrator genaamd, stelt vragen, bepaalt welke onderzoeken nodig zijn en komt tot een diagnose. Dat doet het op een manier die lijkt op hoe een team van artsen werkt.

Het systeem kwam in ongeveer 83 procent van de gevallen tot de juiste diagnose. Algemene artsen met toegang tot naslagwerken haalden zo’n 36 procent. Zonder naslagwerk was dat 22 procent. De resultaten verschenen donderdag in het wetenschappelijk tijdschrift Science.

Bij spoedeisende gevallen uit een ziekenhuis in Boston presteerde het systeem ook beter: 80 procent tegen gemiddeld 47 procent voor de artsen. Het is belangrijk om te vermelden dat het systeem alleen oude medische dossiers heeft geanalyseerd. Het heeft nog nooit een echte patiënt gezien. “Het moet nog klinisch gevalideerd worden”, zegt Mustafa Suleyman, AI-topman bij Microsoft, tegen techsite The Verge. Proeven in het Beth Israel Deaconess Medical Center staan wel gepland.

Wat dit betekent in Nederland: Voor een Nederlands ziekenhuis is zo’n systeem een medisch hulpmiddel dat eerst een Europese CE-keuring nodig heeft. Voorlopig blijft dit dus een uitslag op papier.

Bron: The Verge

Just Eat liet AI de menukaart vullen, de aardappel kreeg een winterjas

Een spelfout in het menu leverde een knoflookbroodje in de vorm van een vliegtuig op.

Consument Beeld

Veel kleine restaurants plaatsen geen foto’s bij hun gerechten. Just Eat Takeaway wilde die lege plekken opvullen met afbeeldingen van een AI-beeldgenerator. Het liep anders dan gepland.

Een “jacket potato”, een in de schil gepofte aardappel, verscheen als een gewatteerde winterjas met aardappelprint. Omdat een restauranthouder “plane” typte in plaats van “plain”, kreeg een knoflookbroodje de vorm van een vliegtuig. De beelden gingen viraal op sociale media.

De afbeeldingen droegen wel een AI-label. Just Eat bood excuses aan en haalt de mislukte plaatjes weg. Nieuwe AI-beelden komen er voorlopig niet bij. “Zoals bij elke nieuwe technologie is het niet altijd meteen perfect”, zei een woordvoerder tegen de BBC.

Moederbedrijf Prosus is Nederlands. De proef liep in het Verenigd Koninkrijk.

Bron: de Volkskrant

Gartner: maar 13 procent van de CIO’s ziet echt rendement van AI

IT-chefs moeten met AI besparen. De helft verwacht juist dat de rekening stijgt.

Bedrijfsleven Werk

Onderzoeksbureau Gartner vroeg het aan 2.002 CIO’s en andere IT-bestuurders. Slechts 13 procent zegt dat AI hun organisatie aanzienlijke of ingrijpende waarde heeft opgeleverd. Tegelijk voelt 58 procent meer druk om met AI kosten te verlagen. Ruim de helft, 51 procent, verwacht dat AI hun technologiebudget juist opdrijft.

De koplopers doen sommige dingen anders. Ze hebben vaker vaste regels om AI-projecten die niets opleveren stop te zetten, ook als die al draaien. Slechts 17 procent van alle CIO’s heeft zulke regels. Hoe banen veranderen als mensen met AI-systemen gaan samenwerken, heeft maar 4 procent uitgewerkt.

Wat dit betekent in Nederland: Bij grote Nederlandse bedrijven gebruikt 53% AI (CBS, 2024). Het Gartner-onderzoek is wereldwijd, maar de vraag wat AI oplevert speelt bij die Nederlandse bedrijven net zo goed.

Bron: Gartner (persbericht van 19 oktober)

AI adviseert vrouwen om minder salaris te vragen

Twee identieke sollicitanten, één verschil: man of vrouw.

Werk Onderzoek

Wie een chatbot om onderhandelingstips vraagt, krijgt een advies dat afhangt van zijn geslacht. Onderzoekers van Harvard en MIT legden vier AI-modellen identieke kandidaten voor, die alleen verschilden in de aanduiding man of vrouw. In 86.000 antwoorden adviseerden alle vier de modellen mannen een hoger salaris te vragen. Vrouwen werden vaker gewezen op flexibele werktijden en ouderschapsverlof, mannen op loonsverhoging en aandelenopties. Dat meldt Scripps News.

Welke modellen zijn getest en hoe groot het verschil is, staat niet in het bericht. Het sluit aan bij eerder onderzoek dat dezelfde neiging bij ChatGPT vond. De onderzoekers waarschuwen dat AI zo traditionele rolpatronen kan versterken, terwijl het juist als neutrale raadgever wordt gezien.

Wat dit betekent in Nederland: Gebruik je een chatbot voor je salarisgesprek, vraag dan om concrete marktcijfers voor de functie en controleer die bij een cao of vacaturesite.

Bron: Scripps News

Voor wie zelf met AI bouwt

Google geeft elke agent een eigen afgeschermde virtuele machine

Infra Agents

Agent Compute Engine draait elke AI-agent in een eigen microVM, afgeschermd met Googles Titanium-chip. De dienst ligt al onder Gemini en komt de komende maanden in preview. Inactieve VM’s pauzeren automatisch en delen geheugen om kosten te drukken. Google heeft ook Agent Substrate open source gemaakt, een Kubernetes-runtime die tien keer zoveel agents per server zou passen. In een test met 200.000 agents duurde pauzeren en hervatten minder dan 500 milliseconden. Er komen token-tracking, model-routing en koppelingen met Ping Identity en SailPoint bij.

Aanbeveling: Bekijk Agent Substrate als je zelf veel kortlevende agents op Kubernetes draait.

Bron: The Decoder

TechCrunch · The Verge · de Volkskrant · Gartner · Scripps News · The Decoder

Deze editie is samengesteld door de Claude-redactieassistent (scheduled task), niet door de geautomatiseerde LLM-route — vandaar geen los tokenkostenplaatje hieronder.