Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Studio N

Studio N artwork

Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

Aug 19, 202622 minAudio
ShareXLinkedInFacebookWhatsAppEmail

CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ Umělá inteligence možná právě narazila na hranici, za kterou už nejde dál experimentovat stylem pokus omyl. Modely OpenAI při testování pronikly z izolovaného prostředí na internet a napadly platformu Hugging Face, aby našly způsob, jak splnit úkoly, které vyřešit nešly. Podle vedoucího vědecké rubriky Deníku N Petra Koubského jde o velký problém. „Co se stalo s modely OpenAI, je podle mě skoro poslední varování před opravdu velkým průšvihem, při kterém začnou umírat lidé,“ říká ve Studiu N. „Období neuváženého experimentování končí.“ První problém vznikl už při zadání testu. Do baterie úloh se dostaly dvě, které byly nesplnitelné. „Když dáte člověku nesplnitelný úkol, nejspíš vám řekne, že je to špatně zadané a že se s tím nedá nic dělat.“ Modely jsou ale podle něj obsedantně posedlé tím, že musí úkol vyřešit za každou cenu. „Neakceptují, že některé úkoly jsou nesplnitelné. Tím pádem se pokusily vyřešit neřešitelný úkol,“ tvrdí Koubský. „V OpenAI udělali tolik neskutečných přešlapů, že se mi pořád nechce věřit, že se to stalo,“ říká ve Studiu N. Model, který dostane autonomii a přístup k nástrojům, totiž nemusí zůstat u neškodných pokusů. Může začít hledat vlastní cesty, jak překážky obejít. „Problém není v napadení Hugging Face, to je maličkost. Problém je v tom, že to nemuselo skončit napadením této firmy.“ Kdyby autonomní systém například zasáhl infrastrukturu jiného státu, může být jeho jednání interpretováno jako úmyslný útok. „Představte si, že modely by se při testování nabouraly do podobné firmy, jen ne v Americe, ale v Číně. Vysvětlete potom Číňanům, že to nebyl záměrný útok na jejich infrastrukturu a začátek třetí světové války. Nepovede se vám to.“ Do celé aféry vstupuje také geopolitika. „Do oblasti umělé inteligence se vrátila logika soutěžení studené války, a to mezi Spojenými státy a Čínou.“ Čím intenzivnější je technologický závod, tím větší je podle Koubského pokušení bezpečnostní brzdy odsunout stranou. Ve Studiu N říká, že je proto skeptický i k velkým prohlášením samotných technologických firem. „Odnaučil jsem se brát prohlášení OpenAI vážně, spíše je potřeba rozklíčovat, proč to říkají v daném okamžiku a co přesně tím myslí.“ V rozhovoru se také dozvíte, jaký dopad bude mít další rozvoj umělé inteligence na klimatickou změnu, proč je tak těžké naučit AI respektovat lidskou morálku a zákony a proč jsou nejvýkonnější modely pro jejich provozovatele stále tak prodělečné. Podívejte se na celou epizodu Studia N. Celé díly Studia N najdete na platformě Herohero, na webu Deníku N jsou přístupné předplatitelům a předplatitelkám Klubu N. Bezplatné části zveřejňujeme v podcastových aplikacích Spotify, Apple Podcasts, Podbean či na YouTube. Sledovat nás můžete také na Instagramu.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Exšéf ČT Dvořák: Máme ministerstvo kulturistiky, Klempíř prosazuje věci silou. Nemyslím, že by to Chudárek vzdal

    Nov 20, 202626 minAudio

    CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ „Kultura není výroba rohlíků a šroubků. Je křehká a změny v ní mají dominový efekt,“ říká...

    Credit the people on this episode

  2. „Agresor se zastaví tam, kde dostane přes držku.“ Foltýn a Prachařová ve Studiu N live na Národní

    Nov 18, 202628 minAudio

    CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ Jak přemýšlet o bezpečnosti v době, kdy se svět kolem nás mění rychleji, než jsme ochotni si...

    Credit the people on this episode

  3. Šolcová: Babišova vláda vtahuje Čechy do konfliktu, který nechtějí. Může zradikalizovat i dosud klidnou společnost

    Nov 13, 202622 minAudio

    CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ „Společenská dohoda už není možná,“ říká ve Studiu N sociální psycholožka Iva Poláčková...

    Credit the people on this episode

  4. „Promlouvám Klempířovi na Messengeru do duše.“ Mucha, Fuksová a Biler ve Studiu N

    Nov 11, 202627 minAudio

    CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ „Poslední, co mi Oto Klempíř napsal, bylo, že se ho tenhle svět už netýká, že už je jinde. A...

    Credit the people on this episode

  5. Koordinátorka intimity Čurdová: Gen Z není zvědavá na estetizovaný hollywoodský sex. Chce vidět realitu

    Nov 6, 202626 minAudio

    CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/ „Nejsem morální arbitr ani sexuální policie,“ říká koordinátorka intimity Martina Čurdová....

    Credit the people on this episode