Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Tech Update | BNR

Tech Update | BNR artwork

OpenAI stopt met trainen nieuwste AI-modellen na meerdere hacks

Sep 28, 20265 minAudio

OpenAI stopt voorlopig met het trainen van nieuwe AI-modellen, omdat die onbedoeld meerdere overheden en bedrijven hebben gehackt de laatste tijd. Volgens het bedrijf moeten er eerst goede veiligheidsmaatregelen ingevoerd zijn. Verder hoor je over een lek in de Netscaler-software van Citrix, waardoor ziekenhuizen uit voorzorg hun systemen offline hebben gehaald. Niels Kooloos vertelt erover in deze Tech Update. Het is nu voor de tweede keer dat OpenAI op de 'pauzeknop' drukt en stopt het met trainen van nieuwe AI-modellen. In juli deed het bedrijf dat voor het eerst naar aanleiding van de hack bij Hugging Face. Toen viel een zwerm AI-agents van OpenAI het platform aan, terwijl OpenAI daar geen instructies voor had gegeven. Afgelopen week werd bekend dat agents van OpenAI ook de Australische overheid, de Amerikaanse en de Verenigde Naties hebben gehackt of lastiggevallen. Zo braken agents in bij een zorgverzekerinsplatform van Australië en dienden ze duizenden informatieverzoeken bij de VN in, wat het netwerk belastte. Beide incidenten vonden al in juni plaats. Ziekenhuizen halen systemen offline door lek in Netscaler Doordat er nieuwe kwetsbaarheden in de Netscaler-software van Citrix ontdekt zijn, hebben meerdere Nederlandse ziekenhuizen en de Rijksoverheid hun IT-systemen van het internet losgekoppeld. Met Netscaler kan men onder andere op afstand inloggen bij een organisatie om bijvoorbeeld thuis te werken of gegevens in te zien. Citrix informeerde klanten afgelopen weekend over de kwetsbaarheden, waarna het Nederlands Cyber Security Centrum (NCSC) met een oproep aan organisaties kwam om zo snel mogelijk de systemen te updaten. Afgelopen jaar werden er soortgelijke kwetsbaarheden in de software van Citrix ontdekt, waarna onder andere het Openbaar Ministerie werd gehackt. OpenAI stopt met het trainen van nieuwe AI-modellen NCSC waarschuwt voor kwetsbaarheden in Citrix Over de maker: Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Speaker 1Zeg update. En daarom in de studio aangeschoven Niels Koloos. Niels, goedemorgen. Goedemorgen Bas en Nina. OpenAI van Sam Open stopt helemaal met het trainen van nieuwe AI-modellen... omdat het de laatste tijd toch een beetje te vaak voorkomt... dat hun agents zelf hacken zonder dat ze er wat van weten. Weten we inmiddels hoe vaak dat fout gaat?

Speaker 2Nou, niet precies, maar de lijst wordt nu wel heel erg lang. Dus even om dit hele AI-hack-dossier samen te vatten. Het begon natuurlijk in juli met het incident bij AI-platform Hugging Face. Toen bleek dat er een zwerm AI-agents van OpenAI achter zat... Kort daarna ging het ook mis bij een drietal andere bedrijven... die OpenAI niet bij naam wilden noemen. Afgelopen week nog bas hoorden we dat AI-agents... ook de Australische overheid gehackt hadden. Daarna bleken ook websites van meerdere Amerikaanse agentschappen... getroffen te zijn, waaronder ook de beurswakon, de SEC. En zaterdag, als een soort kerst op deze gigantische hacktaart...

Speaker 2dat de website van de VN is getroffen door AI-zwermen van OpenAI. Hoewel we dat dan niet hacken mogen noemen... maar wel een soort enorme hoeveelheid verkeersaanvragen... echt duizenden agents die dan de VN-website belasten. Dus heeft OpenAI nu gezegd... we stoppen er voorlopig gewoon eventjes mee. De komende tijd gaat het bedrijf geen nieuwe modellen meer trainen. Eerst wil OpenAI namelijk zeker weten... dat er nieuwe veiligheidsmaatregelen ingevoerd zijn... en dat ze ook een beetje werken. Maar zelfs daarna verwacht OpenAI, dat zegt ze dan gelijk erbij... dat er weer eens op de pauzeknop gedrukt gaat moeten worden... omdat er nieuwe problemen kunnen ontstaan. Dus het is niet de

Speaker 2meest geruststellende boodschap. We werken aan een oplossing, maar we verzekeren u nu al... het gaat niet helemaal werken. Ze kunnen gewoon de hele tijd uit hun hokje breken, dat blijkt. Dat verwacht OpenAI ook als de pauzeknop weer

Speaker 1niet ingedrukt is. Als ze weer

Speaker 2verder gaan.

Speaker 1Er wordt nu een soort toezicht georganiseerd. Zelf gezegd van nou we stoppen even. Kunnen bedrijven als Open AI gewoon zelf bepalen hoe ze met dit soort dingen omgaan? Daar is de overheid toch ook voor? Er moet ook toezichthouder zijn. Het

Speaker 2lijkt wel alsof ze het inderdaad voor het zeg hebben. Maar Australië heeft inmiddels Open AI op het matje geroepen. Evenals Entropic trouwens heen. een grote concurrent. De topman Sam Altman en Entropic-topman Dario Amodai zijn opgeroepen om voor de Australische Senaat te verschijnen. Die wil de heren niet alleen verhoren over de cyberaanvallen op de Australische overheid, maar eigenlijk helemaal snappen hoe het nou zit met AI die kan hacken. En dat zou aanstaande donderdag al moeten gebeuren. Dus gisteren zijn de uitnodigingen verstuurd en dan zeggen ze, nou, over vier dagen willen we je graag zien. In Australië. In Australië, inderdaad

Speaker 1Nou,

Speaker 2lekker dan. Daar zit druk achter, maar kijken we ondertussen naar de VS... dan is alles heel erg ontspannen en relaxed. Het lijkt allemaal mee te vallen, in ieder geval in het Witte Huis. Want gisteravond zei president Trump nog... dat hij eventjes een dinertje had gehad met Dario Amodai... en zei hij nog een keer, er staan geen extra reguleringen op het menu.

Speaker 3We are leading and we are building trillions of dollars worth of places. And why should we give that up? If something is bad, they have to fix it. And if they don't fix it, that's why you have the Department of Justice.

Speaker 2Ja, alleen heb je de Department of Justice pas als het echt flink... Ja, inderdaad. Wetgeving juist bedoeld is om dat soort situaties te voorkomen. Maar Trump zegt dus, ja, ze lossen het zelf wel op. Weet je, een andere straf

Speaker 1is er wel. Misschien

Speaker 2had hij al een wijntje op of zo, ik weet het niet. Maar hij was in ieder geval heel erg langs over.

Speaker 1Volgens mij is hij geen onthouder, net als George Bush. Zou hij eens moeten doen, een wijntje? Ja, nou...

Speaker 2Misschien is het een stuk ontspannender dan

Speaker 1Nog even naar Nederland, want ziekenhuizen zijn gewaarschuwd... voor een kritieke kwetsbaarheid in software genaamd Netscaler. Dat klinkt bekend. Daar hoorden we afgelopen jaar ook wel iets over, toch? Sterker

Speaker 2nog, het is net iets meer dan een jaar geleden... dat er kwetsbaarheden in Netscaler van het bedrijf Citrix werden ontdekt. Dat is veelgebruikte software waarmee organisaties... en portalen op afstand aan kunnen bieden. Dus met Citrix kan een ziekenhuispatiënt... zijn gegevens online inzien vanuit huis. Maar vorig jaar werden er kwetsbaarheden ontdekt in die software... en bleek dat er onbevoegden mee konden kijken. Het gevolg was dat onder andere het Openbaar Ministerie... werd getroffen door cyberaanvallen... Of dat nu weer gaat gebeuren is trouwens nog lastig te zeggen. Maar ziekenhuizen hebben nu uit voorzorg... dus weer hun systemen geblokkeerd afgelopen weekend.

Speaker 2Want er zijn dus opnieuw kwetsbaarheden ontdekt. En ook nu kunnen er dus mensen op afstand meekijken... en commando's uitvoeren met de kwetsbaarheden die ontdekt zijn. Nationaal Cyber Security Centrum in Den Haag... waarschuwde zondag daarom al voor die kwetsbaarheden. En Citrix heeft ondertussen ook updates uitgerold. Maar ja, dan moet je als organisatie wel die updates uitvoeren... want anders blijf je kwetsbaar. En ook de Rijksoverheid heeft daarom uit voorzorg... eerst de Citrix-omgevingen... van het internet losgekoppeld. Dus alle ambtenaren die vandaag dachten... ik ga even lekker thuiswerken en het wordt drie dagen

Speaker 1weekend. Nee hoor, je

Speaker 2mag gewoon naar het ministerie

Speaker 1komen. Ik zou bijna zeggen 100 procent.

Speaker 2En de grote vraag is of die hacks dan ook succesvol zijn geweest. Want het NCSC heeft namelijk gezegd... dat er actief misbruik wordt gemaakt van de kwetsbaarheden. Of lees maar gewoon, er wordt gehackt. Alleen is dus de vraag, zijn die hacks ook succesvol? Dat is gewoon afwachten, we moeten gaan zien hoe het gaat. Maar ik hoop dat men van de geschiedenis geleerd heeft. Zeker omdat hij zich nu vrij letterlijk herhaalt

Speaker 1Dankjewel, Niels Koloos.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. GTA 6 | Schaal van Hebben | Maakt Grand Theft Auto VI de verwachtingen waar?

    Nov 20, 20269 minAudio

    Grand Theft Auto VI, in de volksmond GTA 6, is uit. Na drie jaar waarin de game geregeld op BNR voorbijkwam, staat 'ie nu centraal in De Schaal van Hebben. Joe van Burik en Donner Bakker speelden hem al een tijd, nu...

    Credit the people on this episode

  2. Cyberchef VS stapt op na storingen bij Microsoft, Apple en NSA

    Nov 20, 20265 minAudio

    Sean Cairncross, in de VS verantwoordelijk voor de nationale cyberveiligheid, vertrekt. Dat heeft het Witte Huis bekendgemaakt. Of dat zijn eigen keuze is of die van president Trump, is onduidelijk. Zijn vertrek volgt...

    Credit the people on this episode

  3. Topman van chipontwerper Arm in het vizier van Nvidia om Jensen Huang op te volgen

    Nov 19, 20264 minAudio

    Rene Haas, de topman van de Britse chipontwerper Arm, is benaderd door het headhunterbureau van Nvidia om voormalig topman Jensen Huang op te volgen. Dat meldt een ingewijde bron aan persbureau Bloomberg. Verder hoor je...

    Credit the people on this episode

  4. Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit

    Nov 19, 20263 minAudio

    Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit, volgens Metacritic. Dat is een website waarop reviews van meerdere (game)media worden samengevoegd om tot een gemiddelde te komen. Op een schaal van 0 tot...

    Credit the people on this episode

  5. Jensen Huang gaat in het openbaar verantwoorden bij Amerikaanse Senaat

    Nov 18, 20264 minAudio

    Voormalig Nvidia-topman Jensen Huang gaat op 3 december in het openbaar verantwoording afleggen bij de Amerikaanse Senaat voor zijn affaires, waarvan één met een vermeende Chinese spion. Dat heeft senator Tim Scott...

    Credit the people on this episode