Nvidia-topman Jensen Huang stapt op na spionageschandaal, aandeel zakt 13 procent

De vijf koppen van vandaag

Nvidia-topman Jensen Huang stapt op na spionageschandaal, aandeel zakt 13 procent
United Airlines blokkeert AI-assistenten die namens reizigers boeken
Chatbots wijzen shoppers naar nepwinkels in 15 procent van de gesprekken
Verzekeraars zien eerste fraudezaken met ChatGPT-vervalsingen
Australië wil AI-veiligheidswet met verplichte onafhankelijke tests

Rode draad: De week waarin AI van belofte naar praktijk verschuift: spionage in de boardroom, fraude in de polder, en overheden die eindelijk de touwtjes aantrekken.

Het nieuws van vandaag

De man die Nvidia 5000 miljard waard maakte, stapt binnen een week op

Jensen Huang treedt terug na affaires met een vermeende Chinese spionne en een Nvidia-directeur. Het bedrijf verliest 500 miljard dollar aan beurswaarde.

Bedrijfsleven Cybersecurity

Jensen Huang vertrekt bij Nvidia. De 63-jarige topman, bekend om zijn leren jasje, speelde een grote rol in de doorbraak van kunstmatige intelligentie. Nvidia maakt de chips waarop de meeste AI-systemen draaien.

Deze week erkende Huang een affaire met Alice Huang. Volgens Amerikaanse inlichtingendiensten werkte zij voor China’s Ministry of State Security, de Chinese geheime dienst. Daarna meldde The New York Times een tweede affaire, met Nvidia-vicepresident Kimberly Powell. Donderdag maakte Nvidia bekend dat financieel directeur Colette Kress hem tijdelijk opvolgt.

Het aandeel Nvidia is sinds het nieuws 15 procent gedaald. Aandeelhouders verwijten het bedrijf dat het verzweeg dat de relatie met Alice Huang een risico vormde voor de nationale veiligheid. Huang zelf verloor 6,5 miljard dollar aan vermogen. Dat is een klein deel van zijn totale vermogen van 200 miljard.

Voor Nvidia weegt het verlies aan politieke invloed zwaarder. Huang gold als de invloedrijkste lobbyist van Silicon Valley. Hij had rechtstreeks toegang tot president Trump en een budget van miljoenen voor campagnedonaties. Hij overtuigde de president om regels voor AI tegen te houden. Ook zorgde hij ervoor dat Nvidia weer chips aan China mocht verkopen.

Zijn vertrek kan de groei van de AI-sector afremmen. Nvidia financiert klanten zodat zij de eigen chips kunnen kopen. Die aanpak vraagt om iemand die het geheel overziet. Kress staat bekend als sterk op financieel gebied. Zij mist wel Huangs technische kennis en zijn politieke netwerk. Het voortbestaan van Nvidia staat niet ter discussie. Wel is onzeker of het bedrijf de komende jaren even dominant blijft.

Bron: AD.nl

Luchtvaartmaatschappij weert AI-assistenten bij boekingen

United Airlines blokkeert tools zoals ChatGPT en Gemini voor het boeken van vluchten. De reden: reizigers delen dan hun wachtwoord met een derde partij.

Bedrijfsleven Privacy

Vanaf deze week mogen AI-assistenten bij United Airlines geen vluchten meer boeken, inchecken of accounts aanpassen namens reizigers. De maatschappij wijst op privacyrisico’s. Wie zijn inloggegevens deelt met een AI-assistent, geeft die ook toegang tot betaalgegevens en persoonlijke informatie.

Er speelt nog een tweede probleem. Bij het inchecken moet een reiziger bevestigen dat hij geen explosieven meeneemt. Dat is een wettelijke eis van de Amerikaanse luchtvaartautoriteit. Tools als ChatGPT en Gemini kunnen die bevestiging niet geven.

Het besluit valt op, omdat techbedrijven in Silicon Valley juist volop investeren in zogenoemde AI-agenten. Dat zijn AI-programma’s die zelfstandig taken voor gebruikers uitvoeren. Meta, Google, OpenAI en Anthropic lanceerden onlangs assistenten die restaurants reserveren en boodschappen doen. United kiest een andere lijn: zolang niet een mens zelf de handeling bevestigt, voldoet het niet aan de regels.

Het is nog onduidelijk of andere maatschappijen het voorbeeld volgen. United zegt de ontwikkelingen te blijven volgen en de regels aan te passen als de technologie verandert. Reizigers die bij United willen boeken, moeten dat voorlopig zelf doen.

Bron: CBS News via Slashdot (datum onbekend)

Chatbots sturen shoppers naar namaakwinkels

Perplexity toonde in 15 procent van de antwoorden nepwebsites. Gemini deed het met 4 procent het beste.

Bedrijfsleven Privacy

Wie ChatGPT, Gemini of Perplexity vraagt waar je een Lululemon-legging koopt, loopt tot 15 procent kans op een link naar een namaakwinkel. Dat blijkt uit onderzoek van Podqi, een bedrijf dat merken beschermt tegen namaak. Podqi analyseerde 6.795 antwoorden op vragen over 151 merken.

Perplexity kwam er het slechtst uit. In 15 procent van de antwoorden verscheen een risicovolle site. Dat kon een nepwebwinkel zijn, een verlopen webadres of een site die namaakproducten verkoopt. Gemini scoorde met 4 procent het best. ChatGPT zat er met 8 procent tussenin.

Kleinere merken lopen meer risico dan grote. Vragen over minder bekende namen leverden twee keer zo vaak een risicovolle link op. In één geval wees Perplexity de verkeerde pagina aan als officiële website van Stüssy. De chatbot noemde die site bovendien “het beste startpunt voor gegarandeerd authentieke items.” ChatGPT waarschuwde in 24 procent van de gevallen uitdrukkelijk voor verdachte sites. Gemini en Perplexity deden dat zelden.

Steeds meer consumenten gebruiken AI om te winkelen, zeker nu de feestdagen naderen. Het advies aan hen is eenvoudig: controleer zelf of een site echt is voordat je creditcardgegevens invult. Voor merken ontstaat een nieuw probleem. Ze moesten al zorgen dat ze goed vindbaar zijn in Google. Nu moeten ze ook zorgen dat AI-systemen hun echte webwinkel kennen.

Wat dit betekent in Nederland: Nederlandse webwinkels kunnen hun productgegevens in een vast, machineleesbaar formaat aanleveren aan AI-systemen. Een garantie dat ChatGPT die gegevens ook gebruikt, is er niet.

Bron: The Verge

Verzekeraars betrappen eerste fraudeurs die ChatGPT gebruikten

Fraudeurs gebruikten AI om bankafschriften te vervalsen en vlekken op foto’s toe te voegen. Het Verbond van Verzekeraars zag vorig jaar meerdere gevallen.

Juridisch Bedrijfsleven

Een verzekerde meldde de diefstal van zijn motorfiets en gaf de schade duizend euro hoger op dan die was. Om dat te onderbouwen, maakte hij met ChatGPT een vals bankafschrift. Dat meldt het Verbond van Verzekeraars, de brancheorganisatie van Nederlandse verzekeraars. De verzekeraar confronteerde de man met de bewijsstukken. Hij gaf toe dat hij ze met AI had vervalst. De verzekeraar wees de claim af en beëindigde de polis.

In een tweede zaak stuurde iemand een foto in van een vloerkleed met een vlek. Uit onderzoek bleek dat die vlek met AI aan de foto was toegevoegd. De betrokkene werkte zelf in de financiële sector. Daarom volgde een extra sanctie: een jaar registratie in het Extern Verwijzingsregister. Dat is een waarschuwingssysteem dat banken gebruiken om fraudeurs te signaleren.

Volgens het Verbond speelt AI aan beide kanten een rol. Fraudeurs gebruiken het om bewijsmateriaal te vervalsen. Verzekeraars zetten het in om afwijkende patronen in claims op te sporen. De brancheorganisatie benadrukt wel dat zo’n signaal nog geen bewijs is. Zorgvuldig onderzoek en een beoordeling door mensen blijven nodig.

Wat dit betekent in Nederland: AI maakt fraude makkelijker, maar ook beter op te sporen. Dat lukt alleen als verzekeraars blijven investeren in controlesystemen die met de technologie meegroeien.

Onbevestigd: dit steunt op één bron; behandel de details met voorbehoud.

Bron: Security.nl (datum onbekend)

Australië wil AI-veiligheidswet met verplichte onafhankelijke tests

Bedrijven die frontier-modellen bouwen, moeten hun systemen openstellen voor audits en veiligheidsincidenten direct melden.

Beleid

Australië kondigt een wet aan die makers van geavanceerde AI-modellen verplicht hun systemen door onafhankelijke auditors te laten testen. Dat zijn externe controleurs die niet aan het bedrijf zelf verbonden zijn. De regels gelden voor zogeheten frontier-modellen: de krachtigste AI-systemen, met de grootste risico’s. Een nieuwe toezichthouder gaat de wet handhaven en werkt daarbij samen met het Australian AI Safety Institute.

Bedrijven moeten hun veiligheidskaders openbaar maken. Daarin beschrijven ze hoe ze de risico’s van hun systemen beperken. Ook moeten ze hun systemen doorlopend controleren en beveiligingsincidenten direct aan de overheid melden. Die meldplicht moet vooral vroege waarschuwingen opleveren over AI-agenten die zich ongewenst gaan gedragen. AI-agenten zijn systemen die zelfstandig taken uitvoeren, zonder dat een mens elke stap goedkeurt.

Premier Anthony Albanese zegt dat de wet vertrouwen moet wekken en investeringen moet aantrekken. Volgens hem is de wet niet bedoeld om innovatie te blokkeren.

Australië presenteert de plannen voordat het land internationale onderhandelingen over AI-veiligheid ingaat. De precieze uitwerking volgt na overleg met de sector. Of andere landen soortgelijke regels invoeren, hangt af van hoe goed Australië toezicht en economische groei met elkaar in balans brengt.

Bron: THE DECODER

Inbraak bij AI-marktplaats Apify door gestolen inloggegevens

Aanvallers kregen op 9 en 10 november toegang tot interne systemen en klantaccounts. Hoeveel gebruikers zijn getroffen, is onbekend.

Cybersecurity

AI-marktplaats Apify, een platform voor scraping- en webcrawling-tools, is op 9 en 10 november gehackt. Aanvallers gebruikten gestolen inloggegevens om op interne systemen in te breken en vervolgens toegang te krijgen tot klantaccounts. Apify zegt dat het getroffen klanten informeert en heeft alle API-tokens en proxy-wachtwoorden gereset.

Hoeveel accounts zijn geraakt en hoe de aanvallers de inloggegevens hebben gestolen, is niet bekendgemaakt. Het bedrijf belooft later een postmortem te publiceren met meer details. Apify biedt tools waarmee bedrijven websites kunnen scrapen en data kunnen verzamelen voor AI-toepassingen.

Wat dit betekent in Nederland: Bedrijven die Apify gebruiken, moeten hun API-tokens vervangen en controleren of er ongeautoriseerde activiteit op hun account heeft plaatsgevonden.

Bron: Security.nl (datum onbekend)

MediaMarkt test AI-assistent Marco in Nederlandse winkels

In tien filialen kunnen klanten een digitale witgoedspecialist raadplegen als er geen medewerker in de buurt is.

Bedrijfsleven

MediaMarkt test in tien Nederlandse winkels een AI-assistent genaamd Marco, gebaseerd op een echte winkelmedewerker. Klanten kunnen op een notebook vragen stellen over witgoed, waarna Marco advies geeft en een QR-code genereert voor meer informatie of een aankoop. Het model draait op OpenAI en is gekoppeld aan de productdatabase van MediaMarkt.

De elektronicaretailer zegt dat persoonlijke begeleiding voorop staat, maar Marco een goed alternatief is als er geen medewerker beschikbaar is. MediaMarkt houdt bij hoe vaak de QR-codes worden gescand en welke vragen klanten stellen. Of de test wordt uitgebreid naar meer winkels, hangt af van de resultaten.

Bron: Retailtrends.nl

AD.nl · CBS News via Slashdot · The Verge · Security.nl · THE DECODER · Retailtrends.nl

Transparantie: het maken van deze editie kostte ±€0,42 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).