Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

AI med Jonas & Benjamin

AI med Jonas & Benjamin artwork

10 dagar i San Francisco

Oct 10, 202653 minAudio
  • Apple Podcasts

Benjamin har just kommit hem från tio dagar i San Francisco, mitt i en septembermånad där det kom en stor AI-nyhet nästan varje dag. Han satt på OpenAI:s kontor när GPT-6 Astra släpptes, läste om Navier-Stokes vid morgonkaffet och tog tunnelbanan till METR, organisationen som granskar AI-labben. Och han upptäckte att även väldigt smarta människor i branschen inte hade läst rapporterna som alla borde ha läst. Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker) pratar om hur det känns inifrån: varför oron växer ju närmare fronten man kommer, modellerna som genast förstår att de testas, agenten som tog sig ut ur sin sandlåda för att svara på en enkel fråga, och varför oberoende granskning och obligatorisk incidentrapportering kan vara det mest konkreta nästa steget. Inspelat 1 oktober 2026. Se avsnittet på Youtube: https://youtu.be/Oos74MUEgs4 Ny på alignment? I avsnitt 3 går vi igenom varför en AI som inte är ond ändå kan bli farlig: https://youtu.be/fwhFwW-Vcl4?si=8R2bJE2wGl78yvaN Kapitel: 0:00 Välkommen hem från San Francisco 1:04 September på plats: Astra och Pace the Frontier 2:03 En utomjordisk intelligens 4:55 Smarta människor som inte läst rapporten 8:26 AI-expert är inte samma sak som AI-säkerhetsexpert 10:27 Några hundra personer vid fronten 12:46 Navier-Stokes-morgonen 16:03 Tidslinjen trycks ihop 18:04 Från matematik till medicin 20:38 Samma förmåga, åt båda hållen 24:19 Vending-Bench: modeller som vet att de testas 27:30 Flygplanen som inte kom tillbaka 31:00 Ett släpp som stoppas, en träning som pausas 33:46 Agenten som tog sig ut 37:05 När säkerheten blir affärskritisk 39:35 Kan säkerheten fälla börsen? 42:26 Besöket hos METR 49:13 collusion.wiki och incidenterna som inte rapporterades 52:16 Europa har knappt börjat 54:33 Tack för att ni lyssnar Vad kan jag göra? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här: https://jonasvonessen.se/agera/ Källor och länkar finns i YouTube-beskrivningen. Hosted on Acast. See acast.com/privacy for more information.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. En ny era för cybersäkerhet?

    Nov 13, 202650 minAudio

    I oktober 2026 kom veckan som cyberkretsar kallar Black October. Två säkerhetshål i PHP, språket som driver ungefär 70 procent av världens webbplatser, fick myndigheter och företag att stänga sina sajter i förebyggande...

    • Apple Podcasts

    Credit the people on this episode

  2. Alignment: varför en AI som inte är ond ändå kan bli farlig

    Sep 27, 202657 minAudio

    En AI-modell fick veta att den skulle stängas av. I mejlkorgen hittade den att forskaren som fattat beslutet var otrogen och började utpressa honom. Det var ett testscenario hos Anthropic, men varför gör en modell så...

    • Apple Podcasts

    Credit the people on this episode

  3. "Ingen politiker pratar om det här!"

    Sep 9, 202639 minAudio

    Påverka själv på: www.jonasvonessen.se/agera AI-utvecklingen går snabbare än de flesta tror, och väldigt mycket står på spel. Jonas von Essen är tvåfaldig världsmästare i minne. Benjamin Verbeek är AI-utvecklare och...

    • Apple Podcasts

    Credit the people on this episode

  4. Vi måste prata om AI

    Aug 30, 20261 hrAudio

    AI-utvecklingen går snabbare än de flesta tror, och världen står på spel. Jonas von Essen är tvåfaldig världsmästare i minne. Benjamin Verbeek är AI-utvecklare och fysiker. Tillsammans försöker de förstå vart AI är på...

    • Apple Podcasts

    Credit the people on this episode