Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Tech Update | BNR

Tech Update | BNR artwork

OpenAI wil ontwikkeling krachtigste AI afremmen als concurrenten meedoen

Sep 11, 20266 minAudio
ShareXLinkedInFacebookWhatsAppEmail

OpenAI overweegt de ontwikkeling van zijn krachtigste AI-systemen af te remmen, op voorwaarde dat andere AI-bedrijven dat ook doen. Dat zou topman Sam Altman deze week in een interne bijeenkomst tegen medewerkers hebben gezegd, meldt Bloomberg. Volgens Altman zullen sommige concurrenten niet akkoord gaan met zo'n afspraak. Verder bespreken we het nieuwe dreigingsrapport van Anthropic over misbruik van AI-model Claude. Stijn Goossens vertelt erover in deze Tech Update. Een gezamenlijke rem moet ruimte geven om veiligheidsregels op te stellen. Grote techbedrijven en AI-onderzoekers riepen dit jaar al meerdere keren op tot gezamenlijke actie, omdat ze de ontwikkeling steeds harder zien gaan. Eerder dit jaar slaagde een zwerm AI-agents van OpenAI erin om zelfstandig het platform Hugging Face te hacken, zonder dat OpenAI dat in de gaten had. Deze week nam bovendien een onderzoeker ontslag bij Anthropic, omdat hij de wedloop tussen OpenAI en Anthropic te ver vindt gaan. Hij voorziet dat een zelflerend AI-systeem de mensheid aan het einde van dit decennium kan uitroeien. Dat ontslag en die waarschuwing landen nu ook bij het brede publiek in de Verenigde Staten. Anthropic zet meerdere pogingen tot misbruik stop Anthropic zegt de afgelopen acht maanden meerdere pogingen tot misbruik van Claude te hebben stopgezet. Dat schrijft het AI-bedrijf in zijn nieuwste dreigingsinformatierapport. Drie zaken vallen op: Chinese AI-bedrijven die de capaciteiten van Claude proberen te stelen, Russische hackers die een spionagecampagne opzetten, en wapens die met behulp van AI worden gemaakt. Volgens Anthropic gebruiken cybercriminelen AI niet langer alleen als hulpmiddel, maar wordt de hele cyberaanval door AI gecoördineerd. De mens kijkt vooral nog mee en voert zelf bijna niets meer uit. De Russische hackers zetten AI in voor phishing, het gijzelen van hotelwifi en spionage via WhatsApp, vaak gericht op de Oekraïense overheid. Ook ziet Anthropic een nieuwe risicocategorie: gebruikers die Claude software laten bouwen waarmee wapens kunnen worden ontwikkeld. Sessie rond biologisch onderzoek onderbroken Anthropic zegt daarnaast een mogelijke poging tot het ontwikkelen van biologische wapens te hebben onderbroken, maar houdt daarbij een voorbehoud: het bedrijf weet niet zeker of dat werkelijk het doel van de gebruiker was. Hetzelfde biologische onderzoek kan namelijk ook leiden tot nieuwe vaccins. Toch heeft Anthropic de sessie van de betrokken wetenschappers uiteindelijk stilgelegd. Volgens Jacob Klein, hoofd dreigingsinformatie bij Anthropic, kondigt iemand met kwade bedoelingen dat in de praktijk niet aan. Het gaat er niet aan toe als in een stripboek, waarin iemand hardop zegt dat hij een biologisch wapen wil bouwen, zei Klein in een interview. Het rapport beschrijft in totaal meerdere gevallen waarin gebruikers regionale beperkingen en veiligheidsmaatregelen probeerden te omzeilen. Bloomberg meldt dat OpenAI openstaat voor het afremmen van AI-ontwikkeling Anthropic verstoort Russische en Chinese operaties gericht op Claude Anthropic blokkeerde accounts rond mogelijk onderzoek naar biologische wapens AI-modellen van Anthropic en OpenAI die uit hun testomgeving ontsnapten Over de maker: Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. GTA 6 | Schaal van Hebben | Maakt Grand Theft Auto VI de verwachtingen waar?

    Nov 20, 20269 minAudio

    Grand Theft Auto VI, in de volksmond GTA 6, is uit. Na drie jaar waarin de game geregeld op BNR voorbijkwam, staat 'ie nu centraal in De Schaal van Hebben. Joe van Burik en Donner Bakker speelden hem al een tijd, nu...

    Credit the people on this episode

  2. Cyberchef VS stapt op na storingen bij Microsoft, Apple en NSA

    Nov 20, 20265 minAudio

    Sean Cairncross, in de VS verantwoordelijk voor de nationale cyberveiligheid, vertrekt. Dat heeft het Witte Huis bekendgemaakt. Of dat zijn eigen keuze is of die van president Trump, is onduidelijk. Zijn vertrek volgt...

    Credit the people on this episode

  3. Topman van chipontwerper Arm in het vizier van Nvidia om Jensen Huang op te volgen

    Nov 19, 20264 minAudio

    Rene Haas, de topman van de Britse chipontwerper Arm, is benaderd door het headhunterbureau van Nvidia om voormalig topman Jensen Huang op te volgen. Dat meldt een ingewijde bron aan persbureau Bloomberg. Verder hoor je...

    Credit the people on this episode

  4. Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit

    Nov 19, 20263 minAudio

    Grand Theft Auto VI (GTA 6) is de best beoordeelde game ooit, volgens Metacritic. Dat is een website waarop reviews van meerdere (game)media worden samengevoegd om tot een gemiddelde te komen. Op een schaal van 0 tot...

    Credit the people on this episode

  5. Jensen Huang gaat in het openbaar verantwoorden bij Amerikaanse Senaat

    Nov 18, 20264 minAudio

    Voormalig Nvidia-topman Jensen Huang gaat op 3 december in het openbaar verantwoording afleggen bij de Amerikaanse Senaat voor zijn affaires, waarvan één met een vermeende Chinese spion. Dat heeft senator Tim Scott...

    Credit the people on this episode