Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Cryptocast | BNR

Cryptocast | BNR artwork

Bedreigt AI het voortbestaan van open source software, en daarmee van bitcoin? | 448 B

Sep 22, 202651 minAudio
ShareXLinkedInFacebookWhatsAppEmail

Generatieve AI heeft in korte tijd veranderd wat het kost om een gat in software te vinden. Waar dat vroeger weken specialistisch werk vroeg, vraag je nu aan een chatbot of er een zwakke plek in zit en heb je binnen vijf minuten antwoord, voor een tientje. In de bitcoinwereld leverde dat afgelopen zomer een reeks incidenten op waarbij honderden miljoenen verdwenen. Bitcoin Core-ontwikkelaar Sjors Provoost legt uit wat er gebeurde en of dit het einde van open source betekent. Het begon bij Coldcard, een hardwarewallet met juist een reputatie op het gebied van beveiliging. De code die de seed genereert, de geheime sleutel achter je bitcoin, bleek een fout te bevatten. De bedoeling was meer combinaties dan er atomen in het heelal zijn, in de praktijk waren het er nog zo'n vier miljard. Die fout stond vijf jaar in publieke broncode. Menselijke auditors zagen hem niet. Kort daarna ging het Bitcoin Red Team, gefinancierd door OpenSats, langs honderden opensourceprojecten. Het resultaat was een berg meldingen, waarvan tientallen kritiek. Provoost noemt het de grote schoonmaak die nodig was, maar wijst ook op de keerzijde: modellen weten zelf niet altijd wat een bug is en wat een feature, en de projecten die het moeten opruimen worden vaak door één of twee mensen onderhouden. Bij Liquid, de bitcoinsidechain van Blockstream, ging het toch mis. Een van de meldingen van het Red Team werd daar netjes gerepareerd, maar de reparatie was erger dan het probleem. Iemand zag dat, en haalde er in één keer 4000 bitcoin uit. De dader noemde zichzelf een white hat, stuurde het grootste deel terug en hield ongeveer vijftig miljoen dollar achter. Provoost heeft daar een ander woord voor: afpersing. Daarmee staat de hele praktijk van responsible disclosure onder druk. En als je een fix hebt gebouwd, dan staat op GitHub meteen zichtbaar waar het gat zat, en vragen bots binnen een paar uur hoe je dat uitbuit. Core Lightning hield de details twee weken geheim en zag dat AI de wijziging uit de binary reconstrueerde. Waar dit afloopt? Dat is voorlopig nog de vraag. Co-host is Jacob Boersma. Over de podcast Cryptocurrency are here to stay. In deze wekelijkse podcast gidst Daniël Mol je door het belangrijkste cryptonieuws, langs hypes en trends, voor- en tegenstanders en winst en verlies. In het A-deel bespreken we het laatste nieuws en in het B-deel gaan we in gesprek met een gast. Van cypherpunkpioneers tot grootbanken die aan de haal gaan met stablecoins, van Bitcoin tot Ethereum tot CBDC's. Alles passeert de revue. Reageren? Stuur dan een mail naar cryptocast@bnr.nl Gasten Sjors Provoost is ontwikkelaar bij Bitcoin Core en host van Bitcoin Explained. Jacob Boersma is onafhankelijk payments expert. Links De aflevering van Bitcoin Explained over de Coldcard hack De technische uitleg van Sjors Provoost bij het Liquid incident Het contact tussen de hacker en Blockstream, bericht voor bericht op de blockchain Host Daniël Mol is presentator en redacteur van de Cryptocast. Hij is sinds 2017 met Bitcoin bezig en kwam in 2021 bij het team van de Cryptocast. Redactie Daniël Mol

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Speaker 1Dit is deel 2 van de CryptoCast, nummer 448, het podcastgedeelte. In 448a bespraken we het cryptonews van deze week. En nu gaan we het hebben over het effect van generatieve AI op open source software. En dan vooral die van Bitcoin, want daar is best wat aan de hand. Dat doen we met Sjors Provoost. Welkom, goed dat je er bent Sjors. Jij bent ontwikkelaar bij Bitcoin Core en host van Bitcoin Explained. Bitcoin podcast. Dus als jij technisch iets wil weten, onder meer over de onderwerpen waar we het vandaag over gaan hebben, dan moet je die podcast luisteren samen met Adel van Weerdum. En co-host Jacob Boersma, onafhankelijk payments expert. Ook goed dat

Speaker 1jij er bent. even dit, want als je regelmatig naar deze podcast luistert, weet je dat het nogal hard kan gaan op de cryptomarkt. Het levert mooie kansen op, maar dan moet je wel snel op al die actie kunnen reageren. Bij Bitfavo heb je toegang tot meer dan 400 assets. Leuk voor Sjors, denk ik. Lage en transparante kosten en een snelle, overzichtelijke app. Zo kun je in- en uitstappen wanneer jij denkt dat het moment goed is, zonder dat je door een heleboel hoepels hoeft te springen. Download de Bitfavo app en check hoe het werkt. En onthoud, crypto is volatiel. Investeer alleen wat je kunt missen. Wil je

Speaker 1daar nog op reageren, Sjors?

Speaker 2We gaan het zo hebben over wat er gebeurt als je het niet kan missen.

Speaker 1Precies, ja, exact. Het is een heel volatiel. Mocht je nou willen reageren op deze aflevering, dat kan. Laat een comment achter op Spotify of via Cryptocast. BNR.nl Sjors, goed dat je er weer bent. Tijd geleden, ik denk de laatste keer dat jij in de studio hier was, ging het over... Tornado Cash. Tornado Cash, inderdaad. Dat is lang geleden, dat was... Over Ethereum gingen we toen. En ook de vrijheid van open source ontwikkelaars en zo. Dus er zijn raakvlakken. Maar wat doe jij in de Bitcoin wereld? Vertel dat nog even voor de luisteraars die jou niet kennen

Speaker 2Ja, ik werk aan Bitcoin Core. De software implementatie. Eigenlijk de nodes vooral. Dus hetgeen wat de bloks downloaden en checkt. En daarbinnen mijn enige focus op de wallet. Die daarin zit. En ook een stukje rondom mining, straat en V2.

Speaker 1Precies, ja. Dus die hard bitcoin, je leeft volgens mij, je werkt met donaties en grants. Zo werken open source ontwikkelaars volgens mij

Speaker 2Ja, nou goed, er zijn verschillende modellen voor, maar ik word gesponsord door open sets.

Speaker 1Ja, precies, omdat... jouw werk belangrijk vinden. We gaan in deze aflevering veel hebben over generatieve AI. Dat is, nou dat, het thema gaat zich zometeen helemaal uitleggen. Maar ik ben benieuwd, hoe denk jij als ontwikkelaar, als bitcoinontwikkelaar, hoe denk jij over die technologie?

Speaker 2Ik denk niet dat het de wereld gaat vernietigen... en ook niet dat het de wereld gaat overnemen. Wordt er veel over gesproken. Dat is volgens mij allemaal een beetje cultisch. Maar het zijn best wel nuttige tools. Ik gebruik het zelf vrijwel dagelijks. De chat-tbt's, de clouds, al die... Ja, code in de mailet. En dat kun je gebruiken zowel om code te schrijven... als om code te reviewen... Het is alleen wel zo dat hetgene wat hij als eerste produceert... best wel niet echt heel erg mooi is. Dus het

Speaker 2is wel heel vaak... ik vraag iets, dan krijg ik een stukje code te zien. Dan kijk ik ernaar en dan ga ik vragen stellen, echt letterlijk per regel. En dat dan tien keer opnieuw laten doen en uiteindelijk ziet het er goed uit. Dus je moet het eigenlijk een beetje zien als het poetseren van klei of zo. Maar dat was ook al hoe ik altijd programmeerde. Dus je schetst eerst iets grover dat het werkt... en vervolgens probeer je het mooi te maken. Alleen het verschil is... Als je het zelf bouwt, weet je precies wat je gedaan hebt Terwijl als de AI het bouwt, dan heb je soms echt iets van... wat ben je nou weer aan het doen?

Speaker 2En dan moet je steeds kritische vragen stellen. En dan gooit het weer helemaal om. En uiteindelijk ben ik er tevreden over.

Speaker 1Want ik kan me voorstellen, Bitcoin Core... dat is best wel kritieke software binnen het Bitcoin-ecosysteem... Het is niet dat iedere vibe-coder daar even wat voorstellen kan doen. Ik denk dat jullie daar helemaal gek van worden. Zijn er binnen de Bitcoin Core gemeenschap afspraken over hoe je AI gebruikt? Is er een soort code of zo?

Speaker 2Ja, dat zal ook nog wel zich ontwikkelen. Maar waar we tot nog toe op zijn gekomen is... je mag gewoon elke tool gebruiken die je wil. Dus als jij een QWERTY-toetsenbord of een Dworak-toetsenbord gebruikt... dat moet je allemaal zelf weten... Maar je bent verantwoordelijk voor elke regel die je schrijft. En je moet ook elke regel die jij aanlevert, dus als pull request, snappen en kunnen uitleggen. En dat is denk ik best wel een goede regel. Dus dat betekent, daarom ben ik ook zoveel tijd kwijt om hem elke keer weer te bevragen. Want ik wil niet dat ik

Speaker 2in een situatie zit waarin ik... een broadcast open, en iemand zegt van wat wij hier nou aan het doen, dan zeg je echt geen idee dat dat is de LLM die aan het hallucineren is. Dat is grandionant. Dus dat is voldoende prik over mij om echt te zorgen dat ik snap wat dat ding gedaan heeft. En dat ik het, bij wijze van spreken, zelf zo geschreven zou hebben als ik...

Speaker 1Precies, maar tenminste is het wel iets waarvan jij zegt, joh, dit is wel... hier zit wel een soort efficiëntieslag in... als ik dit niet allemaal maar zelf hoef te schrijven

Speaker 2Ja, dat weet ik niet. Daar kan je jezelf ook enorm mee voor de gek houden. Dus dat durf ik niet te zeggen. Ik weet wel dat het bepaalde saaie handmatige taken... zoals rebasen... Kijk, je hebt honderden mensen die tegelijkertijd aan Big Encore werken. En het kan maanden duren voordat jouw voorstel erin komt. En in die maanden zijn er allemaal andere voorstellen die gemerged worden. En daardoor moet jij je code elke keer weer aanpassen. Omdat het eigenlijk het gras onder je voeten uitgebaaid wordt. Echt om de dag, zeg maar. En dat kunnen die LLMs heel automatiseren. Dan

Speaker 2zeg je gewoon rebase it. En dan moet je wel opletten dat hij niks geks doet. Maar over het algemeen. Dan kan hij gewoon dat saaie werk in ieder geval heel snel doen. En wat ik zeg, hij kan gewoon code verzinnen die werkt. En dan vorm je er een mening over en pas je het weer aan. Dus het is een andere manier van werken.

Speaker 4Er zijn ook wel inderdaad wetenschappelijke onderzoeken gedaan... of AI-tools nou echt de programmeurs efficiënter maken. Daar kun je heel veel vraagtekens bij zetten. Maar in ieder geval is wel duidelijk dat programmeurs...

Speaker 2Nou ja, maar

Speaker 4goed, als je er een goed gevoel van krijgt... is het misschien ook al in ieder geval een klein beetje positief. Maar ik

Speaker 2merk het ook aan de reviewkant. Dus ik maak code, maar het grootste deel van de tijd... ben ik eigenlijk bezig met andermans werk te controleren. En daar zijn die tools ook handig voor. Want dan kan ik toch bij elke regel de vraag stellen van... wat doet deze regel? Begrijp ik dit nou goed? Of had het niet op een andere manier gekund? Probeer dat eens. En uiteindelijk lever

Speaker 1je dan wat in je. Ja, je hebt toch een soort set van opinion of zo.

Speaker 2Ja, second opinion en third opinion En uiteindelijk moet je niet het resultaat ervan copy-pasten. Want dat doen wel veel mensen. Dan heb je inderdaad een vibe-coder, zou je dat dan kunnen noemen. Iemand die eigenlijk niet weet hoe het project werkt... en dan gewoon aan Claude vraagt, wat vind je ervan? En vervolgens copy-past wat Claude ervan vindt. Die niet kritisch daarnaar kijkt meer. Nee, en dan krijg je gewoon wat je slop noemt. Dus dan heb je gewoon een heel lang stuk tekst waar je niet zoveel aan hebt. Maar ik zelf als menselijke reviewer lees kilometers slop... en vervolgens blijven daar een paar regeltjes van over... die

Speaker 2ik dan als uiteindelijk commentaar lever... aan de programmeur. En dat zijn wel vaak dingen die ik zelf niet gezien zou hebben

Speaker 1We gaan het natuurlijk nu vandaag hebben over open source. Bitcoin Core is een voorbeeld van open source software. En de centrale vraag die ik eigenlijk wil beantwoorden, Sjors, is... zitten we nu in een soort mijnenveld van open source... waar ieder moment een nieuwe bom kan ontploffen... en dat er iets heel erg vervelends stuk gaat in Bitcoin... zoals we bijvoorbeeld bij Coldcard hebben gezien... zoals we bij het Liquid-netwerk hebben gezien... Of is het genuanceerder dan dat? Hoe kijk jij daarnaar op dit moment?

Speaker 2De optimistische kijk is dat het eigenlijk een soort van... Eerste Wereldoorlog-bommen zijn. Granaten zijn die je af en toe nog opgraaft. Alleen dan heel erg veel. Maar dat het dus wel echt een inhaalslag is. Voor een groot deel. Het soort fouten waar je mee weg kan komen. In het verleden kon je gewoon niet meer weg. En er is enorm veel software. En daar zitten enorm veel fouten in. En die zijn vaak best wel kritiek. En... We komen zo nog wel op specifieke voorbeelden toe. Maar die LLM's zijn heel erg goed in het vinden van al die fouten. Omdat ze gewoon overal kijken.

Speaker 1Ja, en dat is precies. Je kan honderden agents tegelijk overal in ieder hoekje laten kijken. Het is relatief goedkoop om dat te doen.

Speaker 2En de hoop is dus dat nadat het allemaal weg is gewerkt... en we wat voorzichtiger worden met het maken van nieuwe code... en daar dus ook LLM's voor gebruiken, dat het dan meevalt. Het kan zijn dat dat niet zo is en dat het inderdaad

Speaker 1echt een ellende blijft. Want om jouw metafoor maar even aan te houden. In Noord-Frankrijk zijn de meeste bommen en granaten inmiddels ook wel opgeruimd. Zuid-België.

Speaker 2Het is niet een oorlog die nog steeds gaande is, zeg maar. Ja, exact. Dus die analogie klopt niet helemaal. Want natuurlijk wordt er nog steeds code geschreven en zitten daar nog steeds bugs in. Maar wat je hoopt is je ruimte bestaan, de fouten op. En bij het maken van alle nieuwe code, zeker in open source... gebruik je die agents van tevoren om te zorgen dat er geen fouten in zitten. Voordat je live

Speaker 4gaat controleer je wat anders iemand met een hacking tool zou doen nadat

Speaker 2je live bent. Maar om dan toch weer pessimistisch te zijn, er komt natuurlijk elk half jaar weer een nieuwe net iets beter model uit. En het kan dus wel zijn dat dat net iets betere model weer echt een enorme reeks van fouten vindt, inclusief nieuwe fouten. Die door het vorige model niet gezien waren

Speaker 4Het is natuurlijk ook niet zo dat software helemaal stand-alone is. Je bouwt ook weer voort op allerlei bestaande libraries en onderliggende modules. Dus het is ook een opeenstapeling. En ergens in die onderste regionen kan natuurlijk ook weer een vreffende metelefout worden gevonden.

Speaker 2Nou ja, als het goed is zijn die dus ook allemaal open source en geldt daar hetzelfde proces.

Speaker 4Nee, klopt. Maar tenzij je die dus allemaal ook weer helemaal nieuw gaat bouwen... zit je toch nog best wel heel lang met oude code van voor het AI-tijdperk.

Speaker 2Ja, nou is het zo dat Bitcoin Core specifiek probeert zo min mogelijk dependencies te hebben. Dus zoveel mogelijk code waar het zelf weer van afhankelijk is, zo min mogelijk. Maar de meeste softwareprojecten trekken inderdaad tienduizenden dependencies binnen. Dat is ook gewoon een probleem

Speaker 1Goed, ik denk voor het grote publiek de eerste keer dat het echt duidelijk werd dat dit eventueel een probleem zou kunnen worden... is de grote hack bij Coldcard. Daar bleken die wallets veel kwetsbaarder te zijn dan gedacht. Tenminste, het genereren van de seed die die wallets dan beveiligde... dat was niet zo veilig als gedacht. Dat is een beetje hoe het zit. Sjors, was dat ook voor jou de eerste keer dat je dacht van... ding in combinatie met open source software, dat gaat een probleem worden

Speaker 2Nee, dat was al wat eerder duidelijk. Niet jaren eerder, maar wel maanden eerder. Ik weet dat bij de Linux kernel waren er ineens allemaal mededelingen van... je moet je Linux machine nu updaten of uitzetten. Want anders kan die gehackt worden. En dat was meerdere keren achter elkaar in dezelfde week. Daar zag je ook dat Responsible Disclosure niet meer werkte. Dus dat ze probeerden die dingen te fixen in het geheim onder embargo. Maar dat die embargo's gewoon doorbroken werden door mensen op Twitter. Die konden zien wat er gebeurde. Dus nee, dat zat er wel aan te komen. Dit was wel echt een niveau... echt katastrofale bug. Want

Speaker 2die kan je ook niet fixen. Dus als je jou ziet niet... jullie hebben dat volgens mij in eerdere afleveringen... al wel uitgebreid besproken. Maar het idee is... je moet 128 bit of 256 bit... aan entropy gebruiken. Dus het moet echt puur random zijn. En als dat maar 32 bit is... Dan is je... Je ziet gewoon te raden. Met enige brute kracht. En dan kan je ook niks aan doen met een software update. Want je software heb je al

Speaker 4gebruikt. Je hebt de software gebruikt om die key te genereren. Je kunt die software veranderen. Maar de key heb je al.

Speaker 2Dus je moet je coins verplaatsen. En probeer dan maar eens onopvallend... Iedereen te zeggen. Je moet even je coins verplaatsen. Ga niet uitleggen waarom.

Speaker 1Dus dat had ook niet coldcard. Had het misschien kunnen weten? De

Speaker 2timing is zodanig dat we denken dat AI deze bug gevonden heeft. Maar als deze bug door een mens gevonden was, dan had het best gekund. Eerder. Dan had het hetzelfde scenario gehad. Er was gewoon niks wat je kan doen. Want op het moment dat je iemand die bug ziet en uitbuit... Dan ben je klaar

Speaker 1Precies, ja. En wat was de andere optie geweest? Dat Coldcard dan iedereen... Dat

Speaker 2had Coldcard zelf moeten doen. Dus die had hun eigen klanten moeten beroven. En dan zeggen van... Jongens, sorry, maar kom maar even langs met je paspoort en we regelen. Want

Speaker 1als wij het niet doen, doet iemand anders het. Zoals we nu weten. Maar goed, wat dan opvalt, Sjors. Dit viel samen met de release van Kimi K3. Een Chinese open-weight model. Wat dan een nieuwe stap in wat dat kon mogelijk maakt. Een beetje een...

Speaker 2De kapelband met de Belgische

Speaker 1accent erbij. Ja, fantastische band. Maar deze fout heeft wel vijf jaar in publieke broncode gestaan. Menselijke auditors hebben dit nooit gezien. Dat is toch wel...

Speaker 2Ja,

Speaker 1dat roept natuurlijk

Speaker 2wel de vraag op hoeveel menselijke auditors er waren. Maar we weten wel dat ze het hebben laten controleren, hun hele code. En dat ze ook zelf met de AI aan de slag zijn geweest. In de maanden vooraf, en het toen niet zagen. Maar als je kijkt naar wat de bug inhoudelijk was... gewoon ergens een ifdef dat een if had moeten zijn... dat is wel iets wat een mens had kunnen zien... als een mens op het goede moment op de goede manier ernaar had gekeken.

Speaker 1Ja, het was niet een ongelooflijk ingewikkelde, sophisticated loophole.

Speaker 2Nee, dit was geen stuksnet, zeg maar. Dit was

Speaker 1een vrij triviale

Speaker 2fout. Een andere hint was geweest aan de menselijke reviewers... Hoe vijf jaar geleden die library omgewisseld is. Want dat was een beetje de reden dat ze deden. Ze wilden naar een niet open source licentie. En toen hebben ze die library omgewisseld. En dat is vrij stoordig gegaan. Dat kan je achteraf zien. Dat zijn duizenden regels die tegelijkertijd veranderd werden. Terwijl je normaal bij zo'n kritiekstukje software echt wel heel voorzichtig wil gaan. Dus dat had ook een hint aan een hacker kunnen zijn. Als ze zo stoordig waren hebben ze misschien een fout gemaakt.

Speaker 1Maar

Speaker 2goed, dat is niet gebeurd. En ik denk waar die AI echt om de hoek komt kijken is... dat je niet meer met een soort bluff wegkomt. Dus stel je bent een hacker, misschien Noord-Koreaans, misschien ergens anders. En je hebt een werkweek en je moet resultaat leveren aan je baas. Wat ga je dan doen? Ga je dan... een super slecht, hoe heet het? Een ontzettend scammy crypto project aanpak waarvan je weet, want dat zijn incompetente mensen. Of ga je naar een code kijken van een bedrijf wat echt een

Speaker 2hele goede reputatie had

Speaker 1Ja, Coldcard bijvoorbeeld.

Speaker 2Ja, en ook Liquid Dat kost toch tijd om je in zo'n project te verdiepen in de hoop dat je iets vindt. Maar als je het niet vindt, dan heb je je tijd verspild. Maar met die AIs nu, die agents, zeg je gewoon, ja kijk toch maar even. En dan zit je in het tientje en dan zegt hij, ja, er zit een bug. Dus je komt echt niet meer weg met goede reputatie. De

Speaker 4reputatie van security is niet meer voldoende. Want mensen gaan echt... Of niet mensen, juist niet mensen. De bots gaan gewoon echt alles controleren

Speaker 2Ze

Speaker 4gaan aan alle deuren rammelen. Ook als er een heel duur slot op zit.

Speaker 1Ja, precies. Is dat denk je ook, Sjors, wat je nu omschrijft... waarom bitcoinprojecten toch een beetje met rust werden gelaten? Dat

Speaker 2is mijn vermoeden inderdaad. Mijn vermoeden, en daar heb ik geen bewijs voor verder... Bitcoin een goede reputatie had. En dat dus de hackers voornamelijk... achter de crypto-projecten aan zaten. Maar dat dat niet meer werkt.

Speaker 1Ja, precies. En de coldcard... viel natuurlijk op doordat zij... het apparaatje was doorzichtig, dus je kon zien dat er niet mee getemperd was. Ze gingen zo ver en dan die bug die er dan in zit, relatief simpel. Dat is eigenlijk

Speaker 2Ja, en goed, één verklaring waarom het niet eerder gevonden is... kan misschien zijn dat de focus heel erg was in de... hardwarewallets vinden het ook altijd leuk om elkaar te hacken... want dat is gewoon voor de... als PR, zeg maar, dus er werd echt wel naar gekeken.

Speaker 1Precies

Speaker 2ja. Er was volgens mij een demonstratie van Trezzo ooit. Die Snake speelde op een ledger. En zo. En... Dus de precisie is wel, maar het ging vooral om het uithalen van een secret. En dat is niet gebeurd, de secret zelf was gewoon onveilig. En ik kan me voorstellen dat iemand dacht, dat is zo ondenkbaar, daar ga je niet eens naar kijken. Nee,

Speaker 4dus de fysieke chip, daar ga je dan op focussen en die is heel temper resistant. Maar de software, daar ga je dan vanuit dat dat wel klopt.

Speaker 2Ja, want daar werden echt de gekste aanvalstrategie gebruikt, ook die gewoon offline. Waar je dan de fees oneindig hoog maakt, waardoor de hardwarewallet weliswaar denkt dat die geld naar het goede adres stuurt, maar oneindig veel wisselgeld levert. En als je dan samen met een miner zou werken, dan zou je iemand kunnen beroven. Al dat soort best wel ingewikkelde aanvalscenario's. Maar niet zo

Speaker 4simpel als van, oh ja, maar eigenlijk zijn er minder seats. Ja

Speaker 1die seats zijn gewoon niet zo veilig, ja. Goed, het tweede incident wat we absoluut in dit rijtje moeten noemen... is dus inderdaad bij Liquid. Daar werden 4000 bitcoin weggehaald. Dat is twee weken geleden, nog best wel recent. Dat ging dan om white hat hackers. Tenminste, dat zeiden ze van zichzelf. Ja, een zelfbenoemde white hat. Kan je uitleggen, Sjors, wat daar gebeurd is? Want dit heeft ook weer een AI-randje, hè

Speaker 2Ja, daar was het eigenlijk... Een beetje andersom, want wat er waarschijnlijk gebeurd is, is dat aan de hand van Coldcard is toen het Red Team opgestart. En dat is een groep van mensen die erg schrokken van wat er bij Coldcard gebeurde en zagen dat die open source modellen gewoon best wel goed zijn in het vinden van bugs. Dus die zeiden, we gaan daarop vooruit lopen, we gaan zelf op zoek naar bugs. Die gaan we zo snel mogelijk op een verantwoorde manier melden bij al die bedrijven. En een van die bugs die ze vonden was bij Liquid, een bestaande bug. Ik weet niet of Liquid die zelf

Speaker 2al wist, maar in ieder geval die werd gemeld. En die werd gefixt in Liquid. Het probleem is alleen dat de fix de bug erger maakte in plaats van oplosten. En dan is de volgende vraag, wie daar dan weer achterkwam? Dat weet ik niet, dat kan ook een mens geweest zijn die gewoon kijkt van wat zijn ze allemaal aan het doen en zit er een fix tussen en wat betekent

Speaker 1die fix? Ja, want je kan dus als het open source is, kan je dus ook zien van er is iets gepatcht, er is een fix doorgevoerd en dan kan je natuurlijk ook heel nauwkeurig gaan kijken van wat is er precies gefixt?

Speaker 2Ja, en dat is klassiek, dat was voor AI ook al zo, er zijn altijd mensen die dat in de gaten houden en die daar misbruik van maken.

Speaker 4Ja, want als je weet dat ergens een pleister wordt geplakt... dan weet je dat daar een gat zat in ieder geval.

Speaker 2Ja, en dus nog zit. Omdat de updates niet automatisch en onmiddellijk zijn. Dan wordt het een race om die te gaan

Speaker 4misbruiken.

Speaker 2En dan vervolgens ook nog gezien hebben dat die fix gewoon niet zo goed was. Maar wederom, dit kan ook weer onze Kimica 3 of een andere band geweest zijn... die bijvoorbeeld specifiek alle projecten in de gaten hield en zei... hé, hier wordt een fout gemaakt. Als je 4000 bitcoin wilt, dan moet je even dit doen.

Speaker 1Ja, precies. En zo gebeurde het.

Speaker 2En even kijken, waar die bug op neerkwam, de nieuwe bug dus, is dat je in Liquid kan je de bedragen verbergen. Dus dat is net zo'n beetje als Monero. Een transactie heeft inputs en outputs. En als buitenstaander kan je zien dat de inputs en de outputs in balans zijn. Kloppen met elkaar. Dat heet de homomorphische encryptie. Niet heel ingewikkelde cryptografie. Alleen het probleem is dat als twee dingen in balans zijn, dan kan je bijvoorbeeld één bitcoin als

Speaker 2input nemen en 4000 bitcoin als output en dan min 3999 als de tweede output. Dus 4000 min 3999 is 1. Dus het is in balans, maar dat is niet wat je wil. Nu heb je dus ergens een negatieve coin gemaakt die je dan dus niet uitgeeft uiteraard. Dus dat wil je niet en daarom heeft Liquid een tweede beveiliging. En ik neem aan meneer wordt hetzelfde. Een zogenaamde range proof. En daarmee zeg je ik kan ook bewijzen dat die output ergens tussen de 0 en de plus oneindig zit. Dus niet negatief is. En die range proof werd overgeslagen

Speaker 2door de hacker. En dat ging weer door middel van een cache waar je die cache dan weer voor de gek houdt. Want het probleem bij dit soort systeem is. Het kost best wel veel CPU kracht om zo'n proof te verifiëren. Dus dat wil je niet vaker doen dan nodig. Want dan heb je weer een DOS vector. Zoals dat heet. Denial of Service. Dat je de node kan platleggen. Dus om die dosvector te voorkomen doe je een check één keer en daarna nooit meer Maar je moet wel zorgen dat je die check vervolgens alleen maar goed verklaart onder de juiste omstandigheden. En in

Speaker 2dit geval kon dus iemand zeggen, ja dit is al gecheckt, geen probleem. En daardoor kon hij dus dat geld uit het niks toveren en vervolgens gewoon standaard opnemen.

Speaker 1Ja, dus er zat ook zo'n 4000 bitcoin uit het niets gecreëerd... en die kon je dan opnemen uit de pool die de keys hadden. Hij kon

Speaker 4een negatieve coin creëren waardoor hij die 4000 weg kon halen.

Speaker 2Ja, dus de Liquid in het algemeen is eigenlijk gewoon... een multisig adres vanuit bitcoin gezien In dat multisig adres, of meerdere multisig adressen... worden allemaal coins gestort door mensen die naar Liquid toe gaan... die naar de sidechain toe gaan. En mensen die uit de sidechain gaan... die nemen eigenlijk geld op uit die multisig adres. En dat zijn er een aantal, ik geloof een stuk of 15 of zo... individuele apparaten die checken dat het inderdaad een toegestaande opname is uit Liquid. En die tekenen dan eigenlijk die autonome Bitcoin-transactie. Dus het is niet een

Speaker 2smart contract zoals op Ethereum, waarbij het helemaal automatisch is. Maar het zijn apparaten die je bij wijze van spreken in de muur metselt, zodat niemand ermee aan kan zitten. En die apparaten, die zagen geen probleem. Want die coins werden gewoon... Zodra die coins uit het niks aangemaakt worden, mocht je ze inderdaad opnemen. En dan krijg je stoelendans. Want dan is er dus meer in omloop dan er uiteindelijk in die bitcoinberg zit. Dus de eerste die het opneemt, die wint.

Speaker 1Ja en het was uiteraard de hacker. Ja, en dan ontstaat er dus die 4000 bitcoin die verdwijnen, iedereen slaat alarm en tegelijkertijd die hacker zoekt dan contact met Blockstream, het bedrijf achter Liquid. En dan ontstaat er een soort fascinerend heen en weer spel van de white hat hacker, zeg ik even tussen. De aanleidingstekens, de goedaardige hacker. De zelfbenoemde white hat. Ja, de zelfbenoemde white hat. En Liquid en Blockstream.

Speaker 2Ja, dat doen ze met upreturn berichten. Dus daar is natuurlijk altijd een hoop controversie over geweest. Omdat je met upreturn allerlei data,

Speaker 1allerlei spam of

Speaker 2hoe je het ook kan noemen... in de blockchain kan stoppen. En het blijkt dat je daar dus ook inderdaad berichten mee kan sturen... naar bijvoorbeeld de oorspronkelijke eigenaar van die coins. En dat deed de White Hat dus. En Blockstream reageerde daarop met versleutelde berichten voor het grootste deel Dus zij konden gewoon een soort retourbericht sturen... met de key waar het vandaan kwam als public key. Dus wat er openbaar zichtbaar was, was iets in de richting van... We willen het geld terugsturen, dus een klein beetje zelf houden.

Speaker 2Toen zei Blockstream, ja, dat is wel prima. Maar die berichten van Blockstream kunnen we dus niet lezen? In het begin wel, en daarna niet meer. Dus die waren inderdaad versleuteld. Volgens mij was het van beide kanten een tijdje versleuteld. En toen kwam er ineens een boos bericht van de White Hat. In de zin van... Hoe durven jullie, blablabla. Want de Whitehead heeft het grootste deel teruggestuurd. Maar een kleine fooi, 50 miljoen

Speaker 1dollar. 3400

Speaker 4teruggestuurd.

Speaker 2De

Speaker 4onderhandelingen waren een beetje mislukt, blijkbaar.

Speaker 2Ja, en dat vonden ze blijkbaar een redelijke bug bounty. Maar Blockstream vond dat waarschijnlijk niet. Dus ik neem aan dat ze in die versleutelde berichten... iets in de richting hebben gezegd van... als je wil dat we geen aangifte doen, dan zou ik toch echt wel meer terugsturen. En daar werd de Whitehead dan weer boos op.

Speaker 1En

Speaker 2die ging hele tirade houden, wederom allemaal op de blockchain. Dat is voor eeuwig terug te lezen

Speaker 1Maar goed, het is dus wel een rare situatie. Maar dus wel weer een bug die iets met de AI te maken heeft. Die wordt uitgebuit. En waar in dit geval Blockstream best wel veel geld mee verliest.

Speaker 2Ja, maar wederom geen ingewikkelde bug.

Speaker 1Greg

Speaker 2Maxwell bijvoorbeeld, die heeft ook zelf ooit bij Blockstream gewerkt. Allang niet meer. En die keek natuurlijk achteraf ook. En die zei, dat is al vrij obviously niet correct. Dus wederom, het is geen rocket science. Alleen, met AI kan je ze gewoon sneller vinden. Dus je komt er gewoon echt niet meer mee weg. Ja, en qua data dan. Ik denk dat het dan dus niet Noord-Korea was. Want die zouden helemaal niet het hele YZ-trade hebben gedaan. Dat doe je eigenlijk alleen maar als je denkt dat er een pakkans is. En je dus wil onderhandelen dat ze geen

Speaker 2aangifte doen... of dat ze het doen alsof het een bug bounty was.

Speaker 4Dat

Speaker 2je later bij de rechter kunt zeggen... ik heb het grootste gedeelte teruggegeven In Nederland heb je Responsible Disclosure. Daar voldoen je al vrij snel niet aan. Maar ik kan me voorstellen dat als jij als echte white hat zou zien... dat er 500 miljoen dollar... op het spel staat. En jij weet dat je niet de enige bent die dit doorheeft. Dat je snel moet handelen. Het liefst zou je natuurlijk nog contact opnemen met Blockstream. En ik denk dat dat ook echt wel had gekund. Dat je gewoon een mailtje stuurt naar hun securityadres. Maar goed, stel dat je dacht dat

Speaker 2daar geen tijd voor was... of dat ze niet reageren, dan neem je het zelf. Maar dan ga je niet zelf bedenken dat je 50 miljoen erachter houdt.

Speaker 4Maar degene die dit heeft gedaan, heeft ook in één keer dat hele bedrag gepakt. Het is niet alsof ze even getest hebben van... hé, werk deze bug met een klein bedrag. Nee, maar dat wil je ook

Speaker 2niet. Want iedereen kan natuurlijk zien dat er op de blockchain iets gebeurt wat niet klopt. Dat was ook nog eens een keer dat oude versies van de software... die transactie afkeurde, dus dan kreeg je een hard fork.

Speaker 1Dus dat was iedereen wel opgevallen. Ja, precies. Nou, ongelooflijk zootje. Hoe dit verder is gegaan weten we dus ook niet helemaal... maar het lijkt er dus nu op de zelfbenoemde white hats... die hebben 600 bitcoin voor zichzelf gehouden. 50 miljoen dollar ongeveer. Ja, tot zover dit verhaal. Je noemde net al dat bitcoin red team... Dus met funding van OpenStats, die jou ook funden, is dit opgericht. En die hebben toen onderzoek gedaan, lang met dezelfde AI-modellen als waar wij het over hebben. En

Speaker 1die kwamen tot duizenden bevindingen. Tientallen waren daarvan kritiek. Honderden waren ernstig. Had jij zoiets van, wow, dit is de grote schoonmaak die nodig is. Hoe reageerde jij daarop?

Speaker 2Ja, dat is inderdaad mijn indruk. Het is de grote schoonmaak die nodig is. Kijk, het probleem met die AI-reports is dat ze zelf niet altijd goed kunnen inschatten... of het wel of niet een serieus issue is. Dus je creëert een probleem voor de maintainers... dat ze een enorme zwerm van berichten gaan krijgen met slop. Maar er zaten genoeg echte vulnerabilities tussen, zoals we gezien hebben... dat het wel de moeite waard was. En volgens mij heeft het Red Team wel zoveel mogelijk zelf geprobeerd... om van tevoren te kijken of het echt is of niet echt is.

Speaker 2En je kan bijvoorbeeld tegen zo'n agent zeggen... nou, maak in ieder geval een test die het probleem reproduceert. Dat scheelt wel weer wat hallucinaties. Maar uiteindelijk, dat Red Team zijn natuurlijk mensen die niet... die wel verstand hebben van bitcoin, maar niet verstand hebben van elk individueel project. Dus ook zelf graag niet helemaal kunnen inschatten. Maar dan sturen ze ook gewoon mails in de richting van... sorry voor de slop, maar ik heb echt geen tijd om dit verder uit te werken... want ik heb nog 200 alerts. En u wilt ook niet dat de hackers dit eerder zien dan mij. Dus ja, ik denk dat dit wel prima is. Ik hoop alleen wel dat het daarna wat rustiger wordt

Speaker 1Ja, want je zit dus in een situatie dat er heel veel bitcoin hangt, bitcoin ecosystem... die allerlei belangrijke en minder belangrijke dingen doen. Dat wordt vaak onderhouden door één persoon, twee personen, drie personen... die het niet zo druk hadden voorheen. En die ineens misschien wel tientallen bugs voorgespiegeld krijgen... die ze dan moeten fixen, want er is urgentie bij, et cetera. Dat is best wel een lastige situatie, want je bent ook maar in je eentje. Jij moet ook... En onderscheiden

Speaker 1wat klopt wel, wat klopt niet. Dat is toch een heel lastige situatie.

Speaker 2Ik kan me voorstellen dat het voor sommige projecten vrij lastig is. Ik weet in ieder geval dat CoreLightning, die kunnen we eventueel ook nog zo meteen noemen. Die zeiden op een gegeven moment ook van ja, we krijgen zoveel meldingen binnen. En een aantal daarvan zijn echt serieus

Speaker 1Maar we kunnen het

Speaker 2niet in één klap allemaal oplossen. En toen hebben ze inderdaad ook gezegd van nou haal je het ook maar even offline. Want we hebben gewoon wat meer tijd nodig.

Speaker 1Dat zijn nucleaire opties, dat toch? Dat je zegt van, ja jongens, we gaan zoveel oplossingen doorvoeren... dat het beter is als je even

Speaker 2Ja, in dit geval was er ook echt een specifieke aanleiding... om offline te moeten gaan. Maar het was wel een beetje die combinatie van... we zouden het graag in één keer willen fixen, maar dat gaat gewoon niet lukken. Dus we gaan het toch eventjes iets meer uitspreiden. Maar ik kan me voorstellen dat kleinere projecten het helemaal niet aankunnen En je moet je ook voorstellen dat... Veel projecten beginnen met, oh cool, ik heb iets cools gebouwd. Meer als hobby. En ineens heb je 10.000 gebruikers. En dan krijg je ineens al die veiligheidsrapporten. En misschien blijkt wel dat het niet een simpele fix is. Maar dat je eigenlijk je

Speaker 2hele architectuur opnieuw moet doen. Omdat het gewoon niet robust is. Omdat je fixt één ding en je breekt voor

Speaker 4iets anders. Tuurlijk, dat hebben we natuurlijk heel veel gezien. Ook in de begintijd van crypto. Het is... heel snel heel veel meer waard geworden... waardoor allerlei hobbyprojecten in één keer miljoenen waard zijn... dan heb je een enorm target op je hoofd natuurlijk

Speaker 2Ja ik kan me voorstellen dat sommige projecten ook zeggen van... laat maar, als in van mensen stop gewoon met het gebruiken van dit product... want ik heb geen tijd om het te onderhouden en het is niet meer verantwoord. Maar ja, niet iedereen reageert op dezelfde manier op stress... dus ik kan me voorstellen dat andere mensen gewoon in hun bed gaan liggen... en niet meer op het middel reageren...

Speaker 4Ja, kan goed. En het niet meer onderhouden is op zichzelf alweer een risico.

Speaker 2Nou, als dat na reactie is... als je nadat je een mail krijgt dat het niet meer veilig is... het niet meer onderhoudt, dan is die bug dus niet te fixen. Dan is het sowieso onveilig, ja. En wat doe je dan als wetteam? Ga je dan op Twitter? Nee, want dan vertel je ook aan de hacker... dat

Speaker 1het een bug

Speaker 2is.

Speaker 1Dus

Speaker 2dat is best wel een dilemma.

Speaker 1Nou niet een peppie en kokkie partij of zo. Als je dan iets fixt. Dan komt dat natuurlijk ook op GitHub of GitLab. Of waar je dan ook publiceert. Komt dat te staan. En dan gaat natuurlijk iedereen ook weer kijken. Zit hier een kwetsbaarheid in?

Speaker 2Ja en dat is wel echt een nieuw probleem. Of in ieder geval het is een probleem dat erger geworden is. Het is altijd al zo geweest. Dat als je als open source project iets wil fixen. Dat je dat zeker als het echt een kritieke bug is. En je hebt geen automatische updates. Wat vaak niet zo is. Ja. dan moet je die bug fix dus eigenlijk verstoppen. En dat doe je dan door gewoon heel veel andere dingen te doen... en hopen dat mensen niet opletten En dan heb je een tijdje, de tijd dat mensen überhaupt vanzelf updaten. Soms kun je, maar dat is alweer een extra risico, aankondigen van mensen... het is belangrijk dat

Speaker 2je update. We gaan niet zeggen waarom, maar het is belangrijk dat je update. Maar ja, dat trekt natuurlijk nog meer aandacht. Dus dat was altijd al een beetje een balans tussen hoeveel aandacht wil je vestigen. Je wilt dat mensen updaten, maar je wilt niet dat hackers doorhebben dat jij wilt dat mensen updaten. En je hoopt dat mensen niet opletten

Speaker 4maar die e-bots letten natuurlijk altijd

Speaker 2op. Dus dat spelletje is nu helemaal afgelopen. En je moet er gewoon van uitgaan dat als jij een update uitbrengt, voordat je hem uitbrengt, zodra je de code publiceert die je denkt te gaan uitbrengen, dan kan al iemand... Dat

Speaker 1die ook

Speaker 2geanalyseerd gaat worden,

Speaker 1ja. Dus dat is een probleem. En met die open wage modellen... dus met name de Chinese modellen... want ik neem aan dat Red Team heeft volgens mij ook die modellen gebruikt... om die opsporing te doen. Want Entropic en ChatGPT of OpenAI modellen... willen niet met je meezoeken als je daar niet expliciet toestemming voor hebt van dat bedrijf.

Speaker 2Ja, het lijkt zelfs, ik weet niet in hoeverre dat helemaal waar is, maar soms zegt zo'n model gewoon, hé, je bent iets engs aan het doen en ik hang nu op. Maar het schijnt dat ze soms ook liegen. Dus dat ze gewoon zeggen, er is geen bug. Ik heb daar nog nooit bewijs van gezien, dus misschien is het niet zo. Hoe dan ook... Theorie kan het.

Speaker 3Ja

Speaker 2die Chinese modellen zijn nog minder verlegen. Die vertellen je gewoon wat het probleem is.

Speaker 4Je

Speaker 2hebt gewoon minder

Speaker 4guardrails geïnstalleerd.

Speaker 2Ja, en dan is een beetje de vraag van... die Chinese modellen, dan wordt er altijd van gezegd... die zijn gedestilleerd van Amerikaanse modellen. Dat is wat de Amerikanen zelf zeggen. Als dat zo is, dan moet je concluderen... dat die Amerikaanse modellen echt veel meer kunnen... dan ze zeggen dat ze kunnen... En dan kom je op het toch wel morele vraagstuk van... waarom help je de good guys niet? En ben je bugs gewoon bewust aan het verstoppen voor de good guys? Dus dat is het probleem. Maar je kan natuurlijk ook zeggen... misschien zijn die Amerikaanse modellen helemaal niet zo goed. En zijn die Chinese modellen gewoon beter?

Speaker 2Maar

Speaker 1George, we zitten toch ook in een soort rare pariteit... waar je normaal als verdediger een soort kennisvoorsprong had. Want jij weet hoe je je software inricht. En jij kan je verdedigingslinies inrichten. Maar nu gebruiken we, aanvaller en verdediger gebruiken allebei dezelfde software... om te controleren of er een kwetsbaarheid in zit. En het is natuurlijk ook min of meer dezelfde vraag die je dan stelt aan zo'n model. Dat is het dilemma

Speaker 2wat die bedrijven hebben. Jij weet niet of iemand een vraag stelt als hacker of als coder. En je kan dat heel erg voor de gek gaan houden. Dus zo'n model moet echt best wel paranoïa zijn. Want zelfs als ik zeg, dit is de code die ik nu geschreven heb, is die veilig... Ja, dan moet dat model dus weten of ik echt nu die code geschreven heb... of dat ik doe alsof ik die code net geschreven heb, maar die bestaat al... en ik probeer de kwetsbaarheid te vinden. En daar komt hij niet uit, dus daar hangt hij op.

Speaker 1En is het dan de oplossing, want je zegt heel terecht... de cutting-edge modellen, de fronteermodellen van Anthropic en OpenAI... zouden dit moeten kunnen? We hebben in de media uitgebreid over mythos gelezen... dat bepaalde bedrijven daar toegang toe krijgen. OpenAI heeft volgens mij Daybreak, zo heet dat model, die variant. Dat zijn dan modellen die voor cybersecurity worden ingezet... bij bepaalde geselecteerde groepen. Is dat dan een oplossing? Want er zijn best wel veel cryptobedrijven. Coinbase, Block, Bitco, de grote

Speaker 1gerenommeerde Amerikaanse partijen... die hebben gevraagd, kunnen wij dit gebruiken, vriendelijke AI-labs? Is dat dan de oplossing?

Speaker 2Maar ja, je kan het altijd vragen en het zou fijn zijn als ze eraan meewerken. Maar ik vind het wel een vrij zorgwekkende situatie dat je afhankelijk bent van de grillen van een CEO van een bedrijf. Of je wel of niet je product mag beveiligen. En zeker als het politiek geladen is. Je kan je best voorstellen dat een toch wat overwegend link Silicon Valley zegt van nou die bitcoiners dat vinden we maar scammers. Dus die krijgen geen toegang. Oké. Dus ik denk dat de echte oplossing toch is dat iedereen gelijke wapens heeft. Dus dat je met die openweight modellen gaat werken. En daar moet je

Speaker 2dan mee leren omgaan. Sowieso is het onvermijdelijk dat die modellen er komen. Dat is waar. Hoewel Anthropic er wel tegen lobbyt. Dus die lange blogpost van Dario. Als je er een beetje tussen leest wat er echt staat... dan zegt hij inderdaad dat hij wil dat die open weight models... tegengewerkt worden, volgens mij.

Speaker 1Google en Nvidia zeggen weer wat anders.

Speaker 4Het is een beetje weer terug naar de oude tijd... dat software als een soort wapens wordt beschouwd. En dat er allerlei exportrestricties op moeten gekomen. Ja, dat...

Speaker 2Is het

Speaker 4een eindige strijd die je daartegen kunt voeren uiteindelijk? Ja,

Speaker 2dat is heel fijn als je een oligopolie wil... of een kartel wil met de drie Amerikaanse bedrijven... en een beetje van het sentiment tegen China gebruik maakt. En ik denk dat die mensen ook echt oprecht die doembeelden geloven. Want ik ken wel een aantal van die AI-fans en dat is een kult.

Speaker 3Maar

Speaker 2een doomsdaykult kan alsnog... ook wel gedrag vertonen wat een monopolie veroorzaakt. Het kan allebei waar zijn. Ik heb niks tegen cult. Tegen de verkeerde cult. Het gaat erom wat voor effect ze uiteindelijk op de samenleving hebben. Maar goed, ik denk dat het onvermijdelijk is... dat die openweight modellen komen, hoe hard je ze ook censureert. Dus we moeten er gewoon van uitgaan dat de tegenstander die heeft... en dat

Speaker 1wij ze ook moeten hebben. En als ik dan doordenk over... Ik denk, ik ben het helemaal met je eens, die openweight modellen die gaan er komen. China die doet heel erg zijn best om dat zoveel mogelijk te verspreiden voor zo min mogelijk kosten voor iedereen. En als je dat dan gaat zitten tegenwerken of misschien gaat verbieden, dan gaat de hacker die toch al iets illegaals van plan was, die gaat dat model natuurlijk gewoon gebruiken. Maar de verdediger die niets illegaals van plan was en dat model dus niet officieel mag gebruiken, die kan er ineens niet meer bij. Dan heb je eigenlijk een nog groter probleem. Ja, precies. Ja. Dan heb je

Speaker 2natuurlijk ook nog een budgetprobleem. Nu zijn die AI-subscriptions relatief goedkoop. Maar afhankelijk van waar je in het westen woont... kan je best wel 100 euro per maand missen als open-source-ontwikkelaar. Maar iemand in India heeft daar misschien al meer moeite mee. Maar dat is allemaal gesubsidieerd nu. Dus straks heb je ook nog het probleem dat die topmodellen superduur zijn misschien En dat jouw tegenstander die wel heeft en jij die niet heeft. Maar goed, dat is weer

Speaker 1een ander probleem. De hacker heeft altijd een soort van de carrot... voor zijn neus hangen dat er 100 miljoen aan buit klaar ligt als hij iets weet te vinden.

Speaker 2Ja, bitcoin en crypto zijn ideaal daarvoor. Je kan het heel makkelijk monetizen. Je kan zoeken naar bugs en vervolgens... Dat is altijd het

Speaker 4dilemma met cybersecurity. Goede security wordt door de executives van je bedrijf altijd gezien als een soort van kostenpost. Want als het goed werkt, dan merk je er niks van.

Speaker 1Preventie paradox, ja. Sjors, jij bent al 127 jaar open source developer. Je bent heel belangrijk, je hebt heel veel ervaring in deze wereld. Misschien ben ik een beetje pathetisch hoor. Maar zitten we nu in een soort ander tijdperk voor open source software ontwikkeling? Want dit is wel, het speelveld is heel snel veranderd.

Speaker 2Nou, open source in het algemeen weet ik niet. Maar als het gaat om hoe je met... security omgaat. Vooral hoe je met responsible disclosure omgaat. Daar zitten we echt in een nieuw tijdwerk. Want het lukt gewoon die truc van we fixen het en hopelijk ziet niemand het. En tegen de tijd dat iedereen geüpdatet is vertellen we wat er gebeurd is. Dat werkt niet meer. CoreLightning heeft geprobeerd om te zeggen weet je wat we doen? We hebben een bugfix. We zeggen iedereen zet je node uit. En na een paar dagen zeggen ze hier is een nieuwe versie.

Speaker 2Daar is alles in gefixt. Maar je krijgt alleen de binary. Niet de code. En En dat was de hoop dus, over twee weken gaan we de code laten zien. De hoop was dus, dan heeft iedereen twee weken de tijd om te updaten... en dan ziet de attacker nog niet wat de fix is. Binnen een uur hadden mensen al die binary gedecompiled... en

Speaker 1wisten ze wat de opcode was

Speaker 2En ze hadden zelfs nog geprobeerd om zoveel mogelijk dingen... tegelijkertijd te fixen in die binary. Dus de echte fix te verstoppen onder andere fixen. Dat was geen enkel probleem. Dus je hebt hooguit een uur, waarschijnlijk minder... Om het op die manier te doen. Dus die aanpak werkt niet. Ik geloof dat ze nu als idee hebben om te zeggen... oké, we gaan een tijdstip kiezen. Middernacht Europese tijd of zo. 0 uur UTC En dan gaan we in één klap de broncode en de binary releasen. En dan heeft iedereen tien seconden om te updaten of zo. Dat is een beetje waar we

Speaker 2naartoe gaan. Dat is verre van ideaal. Dus ja, daar zitten we wel een nieuw tijdperk

Speaker 1in. En als ik dan, nou misschien een beetje advocaat van het duivel... maar dan zou je toch zeggen, we gaan lekker gewoon closed source met z'n allen. Heb je dat gedonder ook niet meer met die modellen die overal in kunnen kijken?

Speaker 2Kunnen we aan de deur kloppen, maar... Net laten zien dat dat dus niet werkt

Speaker 4Dus die closed source dingen kun je ook decompilen.

Speaker 2Ja, wat wel werkt, of werkt dus een beetje tussen aanhalingstekens... als jij code draait op je eigen server, SaaS-producten, dus heel veel dingen die je in de wereld hebt, Spotify of Moneybird of weet ik veel wat, dat zijn allemaal producten die closed-source zijn, maar niet alleen dat. Er is ook geen binary te zien. Je hebt alleen een server waar je tegen praat. Het

Speaker 4is gewoon een API waar

Speaker 2je tegenaan praat. En de enige manier hoe je dat kan hacken. Als je niet weet hoe de code werkt. Is gewoon aankloppen. En inderdaad een mogelijke methode aanroepen. En kijken wat de JavaScript. Want de JavaScript is aan de client kant. Wat die allemaal doet. Maar je... De database waar de juicy dingen in zitten, die zit verstopt op een server waar je ook de

Speaker 4broncode niet van weet. Dan kun je dingen als SQL injection en dat soort dingen gaan proberen. Maar als dat goed beveiligd is, dan zit het wel goed.

Speaker 2Het helpt wel als je de broncode niet weet voor je beveiliging. Maar wat nou als die broncode toch geëxfiltreerd wordt? En dat neem ik aan dat dat ook het volgende is wat er dan gaat gebeuren. Op het moment dat je dus op die manier probeert te verdedigen, bijvoorbeeld ook als overheid. En je hebt tienduizenden projecten die closed source zijn en op een server drijven zodat niemand de binary kan zien. Ja, dan gaat iemand gewoon proberen de developers te hacken. Want die hebben wel de broncode. En die trekt in een keer de broncode van tienduizend overheidssystemen binnen.

Speaker 2En omdat die code niet open source is, is die waarschijnlijk vrij slecht Want er is geen red team geweest die daarna gegeven heeft

Speaker 1Precies, dus niet die

Speaker 2robuustheid

Speaker 1die open source code

Speaker 2heeft En die kan het dan gewoon de hele boel open gooien eigenlijk Ja, het is niet zo moeilijk om één developer computer van een iemand, 100.000 mensen die voor de overheid werkt, leeg te trekken. Ik weet niet hoe gecompartmentaliseerd het allemaal is. Maar dat is een risico. Dus ja, dat lijkt mij ook geen goede strategie. En vooral ook omdat je niet weet wanneer het is misgegaan.

Speaker 3En

Speaker 2dan heb je ineens iets van, wow, waarom wisten die hackers precies hoe ze de SQL injection moesten doen, terwijl dat helemaal niet zo evident is van buitenaf.

Speaker 1En

Speaker 2er zijn ook

Speaker 4zeker voor overheidsprojecten, zijn er gewoon heel veel dingen die verplicht open source moeten zijn. Dus dan zou je al echt de wetten moeten gaan veranderen op Europees niveau om het closed source te maken. Ik denk dat de

Speaker 2juiste lange termijn

Speaker 1Klaar weer meer open source.

Speaker 2Ja, maar dat zijn niet alleen bitcoin. Je moet alles open source maken. Maar dan ook open source in de zin dat je niet alleen publiceert wat je doet. Maar ook op de een of andere manier de mensen erbij betrekt. Maar dat is echt niet makkelijk. Want heel veel open source, je kan het wel publiceren op GitHub... maar als niemand ernaar kijkt, behalve de hackers, dan heb je er nog niks aan. Plus, je hebt hetzelfde probleem met die achterstallige onderhoud. Als de overheid nu al hun 100.000 softwareprojecten of zo dat er zullen zijn... en als je alle overheden bij elkaar optelt, allemaal open source te maken op GitHub... Dat

Speaker 2zou een bloedbad worden. Dat wordt een bloedbad. Ik zou ook niet weten hoe je dat oplost.

Speaker 4Het is inderdaad nu een achterstallig onderhoud probleem eigenlijk.

Speaker 2Ja, met die verstand dat het is alsof je zegt... Rijkswaterstaat gaat nu besluiten dat we... Dat er een probleem is en alle bruggen ontploffen tegelijkertijd. We gaan tijdelijk even een paar

Speaker 4weken al het autoverkeer stilleggen.

Speaker 2Ja, je zou inderdaad alle overheids-ICT dan een maand lang uit moeten zetten. En één voor één weer aanzetten. Naarmate mensen zeggen, oké, dit is veilig nu.

Speaker 1Met die bruggen zijn we aardig onderweg volgens mij. Want daar gaat het niet heel goed mee.

Speaker 2Maar misschien is dat inderdaad de oplossing. Dat je langzamerhand dingen open source maakt. Waarbij je elke keer zegt, dat doen we even in de vakantie. We halen het offline, we maken het open source... en na twee weken zetten we het weer aan of zo. En je ziet dus

Speaker 4wel, de Duitse overheid heeft een heel ander soort project... maar voor hun digitale identiteitswallet hebben ze nu ook aangekondigd... dat ze daadwerkelijk daar een bug bounty programma voor op gaan zetten. Dat is wel vrij uniek, want overheden doen dat normaal gesproken niet zo.

Speaker 2Ik volg dat digitale wallet verhaal inderdaad ook. Dat is een Europese richtlijn en iemand heeft daar goed voor gelobbyd... dat het open source moet zijn. Precies. Tegelijkertijd is er ook voor gelobbyd dat alle data niet te correleren mag zijn. En als je kijkt naar hoe de wallets werken, in ieder geval die in Nederland, is het allemaal wel te correleren. Dus ze houden zich er niet aan, maar open source houden ze zich wel aan

Speaker 4Alles wat op je telefoon straks gaat draaien, moet open source zijn. Dat is niet

Speaker 2genoeg. Je moet ook je backends open source maken. Want hoe weet ik anders dat... Nou ja, nu weet

Speaker 1je dat zo. Andere podcast. Maar Sjors, jij werkt voor Bitcoin Core. Is Bitcoin Core dan ook gewoon kwetsbaar? Gewoon open source? Ja, in principe wel

Speaker 2Ik ben natuurlijk ook niet op de hoogte van alle bugs. Want het is een decentraal project. Dus niet iedereen weet alles. Maar goed, in het verleden hebben we vaak zat. Bugs gehad die gefixt zijn op de manier die ik beschreef. Dat je het verstopt in een cool feature bijvoorbeeld. Dat hebben we wel eens gedaan. Dat is Dat je gewoon een heel nieuw stukje functionaliteit toevoegt. En daar heb je wat refactors voor nodig. En daarmee fix je eigenlijk een oorspronkelijk probleem.

Speaker 1Ja

Speaker 2Ja, kom je daar nog

Speaker 1mee weg? Iedereen met die nieuwe features vindt het gaaf. En dan wordt er ook nog wat gefixt onder de motorkap.

Speaker 2Ja, daar kom je dus niet meer mee weg. Dus als er weer een nieuwe... Als er een Red Team melding blijkt te zijn. Niet dat ik weet. Dan... Ja, dan hebben we een probleem.

Speaker 1Maar

Speaker 2goed, wat je dan deels kan doen is zeggen... wat gaat er nou fout? Dus bij Bitcoin Core is wat wij kritiek beschouwen... is als jij vanaf het internet een bericht naar een node kan sturen... of een set van berichten naar een node kan sturen die hem crasht. En dat is indirect een probleem. Want jouw node crasht. En daardoor. Als jij bijvoorbeeld een lightning ding draait. Dan crasht dat misschien ook. In ieder geval krijg je geen nieuwe blocks. En dan kan je aangevallen worden. Dus de aanval is altijd indirect. Maar we beschouwen in principe een remote crash als een probleem. Of nog erger. Remote code execution. Dus dat jij iemand's node kan overnemen. En via die node

Speaker 2de computer kan overnemen. Dat is volgens mij tien jaar geleden al eens gebeurd. Of in ieder geval was er een zwakke plek waarmee dat kon. Net op tijd gefixt. Maar. De vraag is dus hoe je dan als gebruiker je schade beperkt. Nou ja, als jij dus bijvoorbeeld een hardware wallet gebruikt... dan is het feit dat jouw node gecrashed kan worden... of zelfs overgenomen kan worden... nog niet een onmiddellijke diefstal van je data. En dat zou dus kunnen betekenen dat je tegen mensen zegt van... nou ja, zet je node even uit of zo.

Speaker 1Ja, precies. Maar is het dan veranderd, bijvoorbeeld de manier waarop jij nu aan het programmeren bent? We hebben het helemaal in het begin gehad dat het hartstikke leuk is, Cloud Code. Je hoeft allemaal stomme dingetjes niet meer zelf te doen. Maar ik kan me ook voorstellen, je bent gewoon voorzichtiger met alles wat je nu moet doen. Bitcoin Core is zo essentieel voor het Bitcoin-ecosysteem.

Speaker 2Bitcoin Core heeft altijd al een vrij conservatieve stijl gehad daarin. Dus iedereen die een podcast opent... Die zal zich er maatloos aan geërgerd hebben hoeveel gemierenneuk er toegepast wordt op echt letterlijk elke regel die je schrijft. Als jij tien regels toevoegt, dan gaat het er maar vanuit dat je minimaal tien verschillende comments krijgt over heel veel regels. Dus dat was al vrij minutieus. En je hebt ook meerdere reviewers die LLMs gebruiken. Deels dus als slop, wat ik zei, dus dat iemand gewoon... Alleen maar een cloud vraagt, wat vind je ervan? En de hele output paste, dat is

Speaker 2echt irritant. Want dat kan ik zelf ook. Maar er zijn ook echt wel ervaren ontwikkelaars... die precies weten hoe de code werkt... en die ook die LLM's er al honderd manieren op loslaten. En die zeggen van, oké, neem die nieuwe functie die hij schrijft... en doe het op tien andere manieren. En leg mij uit waarom zijn aanpak dan de beste manier is. En dan krijg je dus een goed comment in de zin van... waarom heb je dit niet op een van deze acht andere manieren gedaan? Ja. Dus de review is gewoon inderdaad van een nog hoger niveau. Tegelijkertijd,

Speaker 2als ik die feedback krijg van mensen, dan kan ik ook weer tegen Claude zeggen, of chattyptie zeggen

Speaker 1van... Snijd dit hout

Speaker 2Doe alle suggesties maar, implementeren, en dan ga ik daarna kijken of ik het ermee eens

Speaker 3ben

Speaker 2Dus je wordt er in die zin productiever van, maar wel in de zin dat je ook gewoon meer gaat doen. Uiteindelijk wordt er niet meer gemerged of zo.

Speaker 1Ja, precies.

Speaker 2Dat is ook het ding met politiviteitstoename altijd. Dus mensen zeggen altijd, oh, als we, dat dacht Keens al, we kunnen allemaal drie uur per week werken. Nee, we gaan gewoon tien keer zoveel doen. Jij denkt, ik heb genoeg aan drie uur per week werk. Maar jouw buurman denkt, ja, maar ik kan ook meer werken en een groter huis kopen. En voor je het weet ben je toch weer zo hard aan het werken als je fysiek

Speaker 1kan. Want er is altijd competitie. Ik ben van de AI niet minder gaan werken, dat kan ik wel zeggen. Het is ook

Speaker 2ontzettend verslavend,

Speaker 1dat is het andere ding.

Speaker 4Kun je ook echt bewijsbaar bugloze code creëren?

Speaker 2Er is zoiets als... Wat is dat? Proofable code? Je hebt soms voor wiskundige cryptografische code... Formal

Speaker 4proofs

Speaker 2Kan je inderdaad laten zien dat bepaalde wiskundige properties... of cryptografische properties waar zijn voor alle code... Onder nog steeds aannames dat je compiler werkt en dergelijke. Maar dat is vooral voor C. Dus dat wordt wel gebruikt in de SecP library. Dus de library waarmee de cryptografische handelingen verricht worden. Maar als je het hebt over of je node kan crashen... dat krijg je volgens mij niet bewezen. Dat wordt te ingewikkeld. Te veel verschillende states.

Speaker 1Wat wel langer

Speaker 2bestaat is fuzzing. Wat fuzzing doet is dat je... Eigenlijk een onderdeel van de code neemt of de hele code. En er alles tegenaan gooit dat je hem daar kan verzinnen. Dus als een soort monkey op het toetsenbord gaat rammen... maar dan miljoenen keer per seconde met alle computers van Google. En daar zijn natuurlijk ook al in het verleden heel veel fouten mee opgespoord. Door gewoon echt met brute kracht alles er tegenaan

Speaker 1te gooien. En neem aan dat dat met AI, met agents die op miljoen miljard verschillende manieren... allerlei gekste dingen uit de kast halen om... Agents zijn langzamer, dus een

Speaker 2fuzzer kan echt miljoenen verschillende... Wel agents die denken, je kan zien hoe snel zo'n chat ongeveer gaat. Maar die kunnen misschien wel zo'n fuzzer strategisch begeleiden. Dus die kunnen zeggen van, ga daar eens zoeken. Ga eens op die manier zoeken. Oh, ik zie dat je hier vastloopt. Dus je kunt dat soort tools

Speaker 4weer met elkaar... combineren eigenlijk

Speaker 2Ja, dus met de LLMs maak je betere fuzzers. En met die betere fuzzers ga je meer fouten vinden. Dus het versterkt elkaar wel. Maar wederom ook voor de good guys dus. Ja,

Speaker 1precies. Ben jij nog een gelukkige open source ontwikkelaar, Sjors? Of is het toch wat minder leuk geworden de afgelopen tijd? Juist interessanter. Ik vermaak me prima. Ja, oké. Maar er is wel een fundamentele verandering gaande, volgens mij

Speaker 2Nou, in ieder geval, wat betreft die security disclosure... daar hebben we echt wel een probleem

Speaker 1Nou, dat zijn een prachtige afsluiting. We hebben een probleem. Dat... Maar het is een oplosbaar probleem. Maar er zijn wel dingen spannend. En die zijn de afgelopen maanden, jaren veranderd. Dankzij generatieve AI. Dankjewel, Sjors Provoost, voor dit prachtige verhaal. Ontwikkeler bij Bitcoin Core en host van Bitcoin Explained. We hebben allemaal dingen niet genoemd die ik wel in de show notes ga zetten. Zoals jullie aflevering over coldcard en alle dingen die je zelf... Hebt gemaakt bijvoorbeeld wat betreft Liquid. Ook bedankt co-host Jacob Boersma die naar de garage gaat racen.

Speaker 1Onafhankelijk payments expert. En vergeet deze Cryptocast niet te delen met je volgers op X. Gebruik dan een mention at CryptocastNL. Laat een mooie review en reactie achter op Spotify. En like, comment en subscribe op YouTube. Tot volgende week. Cryptocast wordt mede mogelijk gemaakt door Bitfavo. De crypto exchange van Nederland.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Crypto Update: cryptomarkten voorspellen openingskoers Anthropic

    Nov 19, 20265 minAudio

    Bitcoin staat op 63.500 dollar, zo’n 15 procent lager dan vorige week. Vooral in het weekend ging het hard: zonder duidelijke aanleiding leken bitcoinbezitters te kapituleren, met een dieptepunt van 61.000 dollar....

    Credit the people on this episode

  2. Goud en bitcoin dalen, maar de trein van de geldontwaarding rijdt door | 456 B

    Nov 17, 20261 hr 2 minAudio

    In deze aflevering staat de debasement trade centraal: het idee dat overheden met oplopende schulden uiteindelijk geld bijdrukken, waardoor dat geld minder waard wordt en beleggers uitwijken naar schaarse bezittingen...

    Credit the people on this episode

  3. Bitcoin keldert, maar een duidelijke reden ontbreekt | 456 A

    Nov 17, 202622 minAudio

    Bitcoin kreeg de afgelopen week flinke klappen. In een week tijd daalde de koers bijna 14 procent, tot zo'n 64.000 dollar. Een duidelijke aanleiding lijkt er niet te zijn. Op sociale media reageerden veel beleggers...

    Credit the people on this episode

  4. Crypto Update: Strategy en Metaplanet verdwijnen uit index van MSCI

    Nov 12, 20265 minAudio

    Bitcoin staat er deze week een stuk minder goed voor dan de aandelenmarkten. Vorige week, net na de Amerikaanse midterms, stond de koers nog rond 80.000 dollar. Nu is dat zo’n 73.500 dollar, omgerekend ruim 66.000 euro...

    Credit the people on this episode

  5. Tijdens Bitcoin Amsterdam werd opnieuw duidelijk hoe belangrijk veiligheid is | 454 B

    Nov 10, 202646 minAudio

    Over de aflevering Vorige week was het weer tijd voor Bitcoin Amsterdam, het jaarlijkse bitcoinevenement in de Sugar Factory in Halfweg. Jos Lazet van Blockrise was erbij en hostte twee panels. Ondanks de bearmarkt was...

    Credit the people on this episode