Konference: Technologie a dlouhodobá budoucnost lidstva

Sobota, 29. června

09:00 - 23:00

KDE

Fixed Point

Koperníkova 6, 120 00 Praha, Česká Republika

JAZYK

Česky

organizátor

Efektivní altruismus Česko

Přihlásit se

Jednodenní konference o transformačních technologiích a dlouhodobé budoucnosti lidstva. Technologie mohou znamenat zářnou budoucnost pro lidstvo, ale přináší také existenční rizika. Jak mohou zásadní pokroky na poli umělé inteligence, biotechnologií nebo nanotechnologií ovlivnit vývoj civilizace? Co můžeme udělat, abychom zajistili, že tyto technologie budou mít na svět pozitivní vliv? Jaká z nich plynou rizika a jak těmto rizikům můžeme předcházet?

Čekají vás přednášky z oborů technického výzkumu bezpečnosti AI, AI governance, biosafety a nanotechnologií. V paralelním tracku pak workshopy, diskuze a lightning talks. Podrobný program bude upřesněn. Přednášející budeme postupně doplňovat a představovat si je v detailu události na Facebooku.

V případě, že máte o některý z představovaných oborů zájem i profesně, vybraní výzkumníci a koordinátoři budou k dispozici pro sdílení svých zkušeností. Mohou vám doporučit konkrétní kroky k proražení v klíčových oborech nebo si jen můžete udělat přehled, co můžete udělat sami, a jaké pozice mohou mít výjimečný vliv na vývoj technologií správným směrem.

Konference se uskuteční 29. června v prostorách Fixed Point na adrese Koperníkova 6 v Praze.

Otázky, na které budeme na konferenci hledat odpověď zahrnují mimo jiné:

Jaké jsou aktuální agendy v technickém výzkumu bezpečnosti AI?
Jaký je stav mezinárodní koordinace v otázce bezpečného vývoje pokročilých AI systémů? Vznikne k tomu mezinárodní instituce?
Jaké technologie nám mohou systémově pomoci ke zvýšení odolnosti proti biologickým hrozbám?
Jaké pracovní pozice mohou mít výjimečný vliv na vývoj technologií správným směrem a jak tyto pozice získat?

Pro účast na konferenci je nutné se registrovat: https://forms.gle/RyByGLmLCuH9JkTx8

Přednášející

Jan Michelfeit

Jan Michelfeit je šéf bezpečnosti a infrastruktury v menším londýnském AI safety labu. Před rokem 2023 softwarový vývojář pracující převážně na produktech postavených na cybersecurity R&D.

David Janků

David je výzkumník v týmu pokročilé umělé inteligence v Mezinárodním centru pro budoucí generace (ICFG), kde se věnuje snižování katastrofických rizik AI skrze podporu mezinárodní spolupráce a tvorby mezinárodních institucí pro regulaci a vývoj pokročilé AI.

Štěpán Los

Štěpán je MA studentem Filosofie a Psychologie na University of St Andrews ve Skotsku. Zabývá se především výzkumem, v minulosti pracoval na tématech od forecastingu po systémová a strukturální rizika pokročilých AI systémů. V současnosti pracuje s Future Impact Group v Oxfordu na filosofickém výzkumu vědomí v pokročilých AI systémech.

Prokop Hapala

Prokop Hapala pomohl teoreticky objasnit základní principy ultravysokého rozlišení v mikroskopii atomových sil a skenovací tunelovací mikroskopii. Podílel se také na vývoji metod pro automatickou rekonstrukci 3D molekulárních struktur z mikroskopických snímků pomocí neurální sítě. Tyto práce jsou vědeckou komunitou uznávány jako zásadní pro zobrazení atomů, vazeb a elektrických polí v jednotlivých molekulách.

Aleš Flídr

Aleš Flídr řídí agendu biologické bezpečnosti v Convergent Research, kde se zabývá programem, který si klade za cíl revoluci ve veřejném zdraví tím, že transformuje schopnost budov eliminovat hrozby vnitřního ovzduší. Dříve působil jako výzkumný asistent ve společnosti DeepMind, u Erica Drexlera ve Future of Humanity Institute a u Jasona Crawforda v Roots of Progress. Během pandemie COVID-19 pracoval jako výzkumný analytik v českém expertním týmu COVID MeSES.

Blanka Havlíčková

Blanka Havlíčková je ředitelkou výzkumného ústavu Confido, který zkoumá, proč se nám jako lidem nedaří dobře rozhodovat v nejistých a riskantních situacích a vytváří softwarové nástroje a materiály pro lepší skupinové rozhodování.

Jan Kleňha

Jan Kleňha je spoluzakladatel a ředitel Českých priorit, organizace, která propaguje policymaking založený na důkazech, provádí aplikovaný výzkum v oblasti forecastingu a radí částem státní správy při efektivním rozdělování veřejných prostředků.

Sofya Lebedeva

Sofya dělá doktorát z klinické medicíny na univerzitě v Oxfordu. Spolu-založila Alliance for Reducing Microbial Resistance (ARMoR) a organizuje Oxford Biosecurity Group, která má za cíl vytvořit pracovní příležitosti pro ty, kteří o biosecuritu zajímají.

Program

9:00 – 10:00

Uvítání, volný networking [2.patro]

10:00 – 10:30

Hana Kalivodová – Úvodní slovo [2.patro]

10:30 – 11:30

Jan Kleňha a Blanka Havlíčková: Jak pracovat s tím, co o budoucnosti nevíme a forecasting jako povolání budoucnosti [2.patro]

Blanka Havlíčková nám ukáže, jak prakticky pracovat s tím, co u budoucnosti nevíme. Po teoretickém úvodu využije i gamifikovaného kalibračního cvičení z dílny Confido Institutu, díky kterému se ukáže, jak dobří jsme ve vyjadřování toho, co nevíme, oproti ostatním. Cílem tohoto prakticky laděného miniworkshopu bude, aby si účastníci vyzkoušeli, jak se jim daří vyrovnávat s tím, co neví, a motivovalo je to zlepšovat se v rozhodování a řešení riskantních situací. Miniworkshop je vhodný i pro účastníky s nulovým technickým backgroundem. Pro interaktivní část workshopu doporučujeme vzít si mobilní telefon. Jan Kleňha naváže přednáškou, kde nám představí, jak lze dobrou kalibraci využít ve forecastingu a proč je forecasting oborem budoucnosti.

Přehled kariér s dopadem [1.patro]

V této části nejprve proběhne krátké představení několika oblastí, kde můžete mít velký dopad. Následně budete mít příležitost prodiskutovat s jednotlivými řečníky otázky týkající se oblastí, které vás zajímají.

Jakub Sechter – Charity entrepreneurship, Operations
Hana Kalivodová – AI safety – technický výzkum a governance
Vojtěch Brynych – Biosecurity

11:30 – 12:30

Prokop Hapala: Jak vyrobit grey goo? [2.patro]

Představy výrobních linek sestavující složité stroje atom-po-atomu a samoreplikujících se diamantových nanorobotů formulované Erikem Drexlerem inspirovaly nejednu apokalyptickou sci-fi. Nicméně ani 40 let vývoje skenovacích mikroskopů schopných manipulovat atomy s pikometrovou přesností nás k realizaci Drexlerova “diamantového věku” příliš nepřiblížilo. Zdaleka nejvyspělejšími molekulárními stroji tak stále zůstávají měkké proteiny chaoticky se tetelící v živých buňkách. V této přednášce si vysvětlíme fundamentální fyzikální principy které komplikují fungování a efektivní masovou výrobu sofistikované nanotechnologie, ale i možnosti jak tyto problémy obejít. V závěrečné části pak načrtnu praktičtější hybridní přístup kombinující biologií inspirovanou samoskladbu s lidskou litografií k dosažení ultimátní miniaturizace výpočetních strojů, jejímuž vývoji se věnuji.

Speedmeeting [1.patro]

Připojte se k rychlému seznamování s ostatními účastníky. Každý rozhovor bude trvat pár minut, pak se přesunete k dalšímu. Můžete zůstat, jak dlouho chcete, nebo přijít a odejít, kdykoli budete chtít.

12:30 – 13:30

Oběd

13:30 – 14:30

Štěpán Los: Globální přístupy k regulaci a hodnocení pokročilé AI [2.patro]

Štěpán Los nám představí návrh na mezinárodní konsorcium pro hodnocení rizik spojených s pokročilou AI a návrh na vytvoření regulační autority pro AI (AIRA) pro stanovení standardů a certifikačních požadavků. Součástí prezentace budou aktuální nedostatky v hodnocení a regulaci rizik, konkrétní kroky pro založení konsorcia a AIRA, jako je sběr zpětné vazby, dodatečný výzkum a organizace workshopů.

Jakub Sechter: Impact Game + intro do efektivního altruismu [1.patro]

Přijďte si s námi zahrát investigativní hru, kde společně vytvoříte tým výzkumníků. Skrze rozhovory s klíčovými osobami budete hledat jádro důležitého problému a následně testovat vámi vymyšlená řešení. Výsledky vašich experimentů porovnáte a vyberete řešení s co největším dopadem. Hra je doplněna přednáškou, kde se dozvíte, jaké jsou nejpalčivější aktuální problémy světa a co můžete udělat, abyste pomohli s jejich řešením.

14:30 – 15:30

David Janků: Regulace AI na mezinárodní úrovni [2.patro]

V současné době postrádáme závaznou mezinárodní regulaci umělé inteligence. Jednotlivé státy si vytvářejí vlastní legislativu a pravidla pro regulaci AI na svém území. David nám představí argumenty, proč by měla být AI regulována na mezinárodní úrovni. Dále nám nabídne přehled některých návrhů, jak by mohly vypadat mezinárodní instituce zaměřené na regulaci AI.

Lightning talks [1.patro]

Krátké, rychlé prezentace trvající 3 minuty, zaměřené na sdílení klíčových myšlenek a informací od účastníků konference. Chcete něco sdělit ostatním? Připravte si lightning talk a ozvěte se Vojtěchu Brynychovi.

15:30 – 16:00

Coffee break

16:00 – 17:00

Sofya Lebedeva: Navigating the Space of Biosecurity (Anglicky) [2.patro]

Navzdory naší zkušenosti s pandemií a rostoucím biologickým rizikům pramenícím z nedávných vědeckých průlomů v editaci genů, stále čelíme problémům se zásobováním a relativně pomalému vývoji vakcín. Sofya nám představí klíčové oblasti, kde je nyní potřeba více projektů a investic jako odpověď na tyto problémy. Dále zmíní talent, jaký je k tomuto úsilí potřeba. Nakonec představí i své vlastní projekty: Jeden se zaměřuje na snížení rezistence mikrobů na antibiotika a druhý se týká obecnější snahy o podporu a popularizaci biosecurity jako kariérní dráhy. V souvislosti s ním nám nasdílí nám svůj vhled, jak k biosecuritě přistupovat a jaké udělat první kroky.

Office hours [1.patro]

Přijďte si popovídat s jednotlivými přednášejícími:

David Janků
Štěpán Los
Prokop Hapala

17:00 – 18:00

Aleš Flídr: Metavěda a diferencovaný vývoj technologií pro globální katastrofická biologická rizika [2.patro]

Budoucí pandemie mohou být výrazně horší než COVID-19. Čekat na vakcínu více než 100 dní není dobrý plán. Mohli bychom vyvíjet a nasazovat technologie pro včasnou detekci i potlačení patogenu, které by fungovaly od prvního dne pro ±každý patogen, který by mohl způsobit pandemii. V této přednášce bude Aleš hovořit o některých nejslibnějších technologiích, o problémech s pobídkami a koordinací na soukromých trzích a v akademickém prostředí, které brání technologickému pokroku, a o současných směrech práce na řešení těchto problémů.

Jak si najít práci v EA/AI [1.patro]

Diskuze o tom jak si najít práci AI safety a ostatních oblastech s impaktem, panelisté:

Jan Michelfeit
David Janků
Jakub Sechter

18:00 – 19:00

Večeře

19:00 – 20:00

Jan Michelfeit: Agendy v technické AI safety 2023-24 [2.patro]

O nápady jak vylepšit vyhlídky na bezpečnější AI není nouze, ale na čem se opravdu nejvíc pracuje? Kdo na tom pracuje? A na co přišli? Přehled výzkumu od roku 2023.

Office hours [1.patro]

Přijďte si popovídat s jednotlivými přednášejícími:

Sofya Lebedeva
Aleš Flídr
Jan Kleňha
Blanka Havlíčková

20:00 – 21:00

Petr Salaba: Zábavný večer s AI [2.patro]

Pustíme si ukázky zajímavých AI generovaných výtvorů, včetně zpívajícího stochastického papouška. A také nahlédneme pod pokličku, jak takové věci vznikají a zahrajeme si hru „can you guess the promt.“ Plynule naváže party s AI generovanou hudbou.

21:00 – 23:00

Volný networking

Organizátorský tým

Hana Kalivodová

Předsedkyně Spolku pro efektivní altruismus od prosince 2021. Vystudovala filozofii a pracovala jako datová analytička.

Vojtěch Brynych

Místopředseda Spolku pro efektivní altruismus od konce roku 2021. Dříve pracoval v oblasti jaderné chemie a na forecastingovém turnaji organizovaném Českými Prioritami.

Jakub Sechter

Director of Outreach ve Spolku pro efektivní altruismus. Založil úspěšnou aplikaci Spendee. V roce 2019 se dostal do výběru 30 pod 30 od časopisu Forbes.