Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Tech Update | BNR

Tech Update | BNR artwork

OpenAI voegt watermerk toe aan AI-teksten in Europa

Oct 6, 20265 minAudio

OpenAI voegt een watermerk toe aan teksten die worden gegenereerd met ChatGPT en Codex, het AI-programmeerhulpje van het bedrijf. Dat doet het om te voldoen aan de AI-wetgeving van de Europese Unie. Het gaat niet om een zichtbaar symbool, maar om een patroon in de woordkeuzes van het AI-model dat een detector kan herkennen. Verder is het aan Trump gelieerde telefoonbedrijf Trump Mobile gehackt. Joe van Burik vertelt erover in deze Tech Update. Menselijke lezers zullen het patroon niet opmerken. Het watermerk is puur bedoeld om aan te geven dat een tekst met AI is gemaakt. Voor gebruikers in de EU staat het de komende weken standaard aan. Ook andere gebruikers, bijvoorbeeld wie via een koppeling met ChatGPT werkt, kunnen ervoor kiezen het in te schakelen. Watermerk in ChatGPT deels te omzeilen De methode van OpenAI heet textGrain. Omdat het watermerk in de woordkeuzes zit, blijft het behouden als je een tekst uit ChatGPT kopieert en plakt. Toch is het minder effectief te maken. In een eigen test verving OpenAI 10 procent van de woorden door synoniemen. Een detector herkende de tekst daarna nog in 66 procent van de gevallen als AI-tekst, tegenover 92 procent daarvoor. Ook bij kortere teksten, vertaalde teksten en wiskundige antwoorden werkt het watermerk minder goed. De Europese regels rond transparantie van AI gelden sinds augustus. Concurrent Anthropic kwam toen al met een vergelijkbaar watermerk. Volgens The Wall Street Journal ontwikkelde OpenAI de techniek twee jaar geleden al, maar hield het die op de plank uit angst voor negatieve reacties. Anthropic, Google, Meta, Microsoft en OpenAI hebben zich verbonden aan de Europese gedragscode voor AI-gegenereerde content. Klantgegevens Trump Mobile buitgemaakt bij hack Trump Mobile, het telefoonbedrijf dat gelieerd is aan de Amerikaanse president Donald Trump, is gehackt. Dat meldt de Amerikaanse nieuwssite Straight Arrow. Achter de hack zit een groep die zich BYOD noemt, een afkorting die vaak staat voor Bring Your Own Device. Daarbij zijn de gegevens van ruim 3.600 klanten buitgemaakt. Onlangs kon een beveiligingsonderzoeker al gegevens van 27.000 klanten van het bedrijf inzien. Volgens de hackers reageerde Trump Mobile op de hack met de mededeling dat het geen mensen heeft om met de situatie om te gaan. Ook zou het bedrijf hebben gezegd dat iedereen die het hackt een terrorist is. Trump Mobile kwam eerder in het nieuws met de aankondiging dat het een volledig Amerikaanse telefoon zou maken, wat niet waar bleek. OpenAI voegt onzichtbaar watermerk toe aan ChatGPT en Codex in EU Bewerkingen verlagen detectie van het textGrain watermerk van OpenAI Anthropic gaat alle output van Claude markeren vanwege Europese AI Act Hackers publiceren gegevens van 3.615 klanten van Trump Mobile Trump Mobile haalt Made in USA claim stilletjes weg van telefoon Over de maker: Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Speaker 1En daarvoor is Joe van Buurk aangeschoven met het laatste tech-nieuws van de morgen. Joe, Maxime en Bas, hallo. En dat gaat allereerst over OpenAI, de technisch nieuws... dat specifiek voor ons werelddeel een stukje transparantie toevoegt... aan tools als ChatGPT. Vertel.

Speaker 2Ja, ze moeten wel als ze op de Europese markt actief willen zijn... met ChatGPT en Codex, hun AI-programmeerhulpje. Als die hier moeten kunnen blijven werken... moeten ze ook voldoen aan de AI-wetgeving van de Europese Unie. En daartoe komt er een... watermerk in teksten gegenereerd met AI, zodat beter achterhaald kan worden of een tekst wel of niet gemaakt is met AI dus. Ze weten dus over objecten en zijn eigen teaser. Nou, dat is natuurlijk al ontdekt, maar dat gaat dan nog beter lukken als het goed is. Het is overigens dus niet een daadwerkelijk zichtbaar symbool, of

Speaker 2onzichtbaar symbool moet ik zeggen, dat je op een bepaald niveau kan halen. Nee, het gaat om een Het patroon dat verwerkt zit in de woordkeuzes... van wat een AI-model uitspuugt als je daarom vraagt. Wij mensen zullen dat er niet uit kunnen halen... maar we kennen allemaal dat soort detectoren als Pangram... om een AI-tekst door te laten scannen... en te laten herkennen of het met AI gemaakt is. Dat watermerk moet daar dus bij helpen... Voor gebruikers in de EU komt dat standaard aan te staan in de komende weken. En ook alle anderen ter wereld die met een koppeling met bijvoorbeeld ChatGPT werken, dan kunnen ze ervoor

Speaker 2kiezen om het in te schakelen. Dus het is voor iedereen die niet

Speaker 1in

Speaker 2de

Speaker 1EU

Speaker 2zit een

Speaker 1soort opt-in versie. Maar het komt standaard aan te staan, maar kun je het ook binnen de EU uitzetten? Of is het niet zo'n feest?

Speaker 2Je kan het niet uitzetten, je kan het misschien wel omzeilen, maar het hangt een beetje vanaf hoe je het benadert. Het blijft namelijk in stand als je de tekst bijvoorbeeld kopieert en plakt uit je LGBT. Het zit immers verwerkt in de woordkeuzes. De methode heet trouwens Text Grain, daar hebben ze ook een heel onderzoek over gedeeld, wat ze met wat Amerikaanse universiteiten hebben uitgevoerd. Maar mede door wat je kan doen, kun je het wel minder effectief maken. Ze hebben zelf een testje gedaan. 10% van de woorden zijn aangepast naar synonymen. En dan zegt de detector nog maar voor 66%. Dit is een eeuwitext. In plaats

Speaker 1van 92%, wat het eerder was.

Speaker 2Dus even kijken hoe dat dan gaat binnenkort in de school, bij opleidingen. Studenten gaan fanatiek in hun werkstukken de woorden vervangen door

Speaker 1synoniemen. Dus je laat het genereren, dan ga je naar synoniemen.net en dan ga je gewoon de helft intikken. Dat is ook een prompt. Ja, maar dat is

Speaker 2weer AI, dus dan om zelf

Speaker 1je

Speaker 2watermerk niet. Dus dat moet je dan nog wel doen. Maar goed, ik zou het niet aanraden, maar dat zullen we gaan zien gebeuren. Kortere teksten, zegt OpenAI, vertaalde teksten... en ook wiskundige antwoorden, daar is het minder effectief. Want ja, kan je je voorstellen hoe meer woorden... hoe meer watermerken er mogelijk uitgesmet kan worden. Ze zijn er trouwens wel een beetje laat. Want deze specifieke Europese regelgeving rond transparantie van AI-gebruik... werd in augustus al van kracht. En ja, grote concurrent Entropic kwam er toen al mee. In augustus dus. Die kregen toen ook nogal wat backlash trouwens. Van, oh, watermerken, dat is helemaal niet de bedoeling. Moet ik ook zeggen,

Speaker 2OpenAI had dit twee jaar geleden al ontwikkeld... maar ze wilden het niet uitbrengen vanwege angst voor negatieve reacties. Nou, dat zagen we bij Anthropic, nu zullen we er minder over vallen. Maar ja, ze moeten toch wel binnen de EU, ook bedrijven als Google, Weta en Microsoft doen er trouwens aan mee. Maar wel goed om te weten dat ze zich gewoon aan de regels willen houden.

Speaker 1Nou, wat fijn. Dat is toch wel positief. Dan nog even kort naar het telefoonbedrijf gelieerd aan Trump. Ja, alweer. Want daar voltrekt zich de zoveelste ramp. Ja. Toesel is er nog niet

Speaker 2hè? Ja, lastig. Dat is een verhaal op zich, maar het is ook wel een soort treinongeluk in slow motion. Trump Mobile, vanaf de initiële aankondiging tot het feit wat jij net zei... dat de mensen nog steeds op hun volledig Amerikaanse... maar niet heus apparaat zitten te wachten. Nu dan, een hack bij Trump Mobile, meldt de Amerikaanse nieuwssite Straight Arrow. Een groep die zich BYOD noemt, dus Bring Your Own Device... staat dat meestal voor, helft telefoon of laptop meenemen naar de meeting. Die heeft gegevens van ruim 3600 klanten buitgemaakt...

Speaker 2En dat hadden ze kunnen zien aankomen bij Trump Mobile... wat overigens alleen maar een frontje is... voor een ander mediabedrijf, Liberty Mobile. Want er was al een beveiligingsonderzoeker... die onlangs had gezegd... hallo, er staan 27.000 klanten... wiens gegevens zomaar buitgemaakt kunnen worden. Misschien moeten jullie daar iets mee doen. Maar we weten ook waarom er niks mee gebeurd is. Want die BYOD-groep heeft een reactie gehad van Trump Mobile. Namelijk, we hebben geen mensen om deze situatie te adresseren. Doei. Ze hebben letterlijk niemand om hiermee om te gaan. En dat zeggen de hackers althans, dat moeten we verwijderen. aannemen.

Speaker 2De enige reactie die terugkwam vanuit Trump al, jullie mogen ons niet hacken, jullie zijn terroristen. Nou en zo. Opgelost. Zou je voor dat KPN of Vodafone op die manier zou reageren? Olido. Olido. Ze zijn terroristen. Nou ja, blijft. Veel plezier. Dank je. Joe van Buurik.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. GTA 6 | Schaal van Hebben | Maakt Grand Theft Auto VI de verwachtingen waar?

    Nov 20, 20269 minAudio

    Grand Theft Auto VI, in de volksmond GTA 6, is uit. Na drie jaar waarin de game geregeld op BNR voorbijkwam, staat 'ie nu centraal in De Schaal van Hebben. Joe van Burik en Donner Bakker speelden hem al een tijd, nu...

    Credit the people on this episode

  2. Cyberchef VS stapt op na storingen bij Microsoft, Apple en NSA

    Nov 20, 20265 minAudio

    Sean Cairncross, in de VS verantwoordelijk voor de nationale cyberveiligheid, vertrekt. Dat heeft het Witte Huis bekendgemaakt. Of dat zijn eigen keuze is of die van president Trump, is onduidelijk. Zijn vertrek volgt...

    Credit the people on this episode

  3. Topman van chipontwerper Arm in het vizier van Nvidia om Jensen Huang op te volgen

    Nov 19, 20264 minAudio

    Rene Haas, de topman van de Britse chipontwerper Arm, is benaderd door het headhunterbureau van Nvidia om voormalig topman Jensen Huang op te volgen. Dat meldt een ingewijde bron aan persbureau Bloomberg. Verder hoor je...

    Credit the people on this episode

  4. Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit

    Nov 19, 20263 minAudio

    Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit, volgens Metacritic. Dat is een website waarop reviews van meerdere (game)media worden samengevoegd om tot een gemiddelde te komen. Op een schaal van 0 tot...

    Credit the people on this episode

  5. Jensen Huang gaat in het openbaar verantwoorden bij Amerikaanse Senaat

    Nov 18, 20264 minAudio

    Voormalig Nvidia-topman Jensen Huang gaat op 3 december in het openbaar verantwoording afleggen bij de Amerikaanse Senaat voor zijn affaires, waarvan één met een vermeende Chinese spion. Dat heeft senator Tim Scott...

    Credit the people on this episode