Konference: Technologie a dlouhodobá budoucnost lidstva

Sobota, 29. června
09:00 - 23:00
KDE
Fixed Point
JAZYK
Česky
organizátor

Efektivní altruismus Česko

Jednodenní konference o transformačních technologiích a dlouhodobé budoucnosti lidstva. Technologie mohou znamenat zářnou budoucnost pro lidstvo, ale přináší také existenční rizika. Jak mohou zásadní pokroky na poli umělé inteligence, biotechnologií nebo nanotechnologií ovlivnit vývoj civilizace? Co můžeme udělat, abychom zajistili, že tyto technologie budou mít na svět pozitivní vliv? Jaká z nich plynou rizika a jak těmto rizikům můžeme předcházet?

Čekají vás přednášky z oborů technického výzkumu bezpečnosti AI, AI governance, biosafety a nanotechnologií. V paralelním tracku pak workshopy, diskuze a lightning talks. Podrobný program bude upřesněn. Přednášející budeme postupně doplňovat a představovat si je v detailu události na Facebooku.

V případě, že máte o některý z představovaných oborů zájem i profesně, vybraní výzkumníci a koordinátoři budou k dispozici pro sdílení svých zkušeností. Mohou vám doporučit konkrétní kroky k proražení v klíčových oborech nebo si jen můžete udělat přehled, co můžete udělat sami, a jaké pozice mohou mít výjimečný vliv na vývoj technologií správným směrem.

Konference se uskuteční 29. června v prostorách Fixed Point na adrese Koperníkova 6 v Praze.

Otázky, na které budeme na konferenci hledat odpověď zahrnují mimo jiné:

  • Jaké jsou aktuální agendy v technickém výzkumu bezpečnosti AI?
  • Jaký je stav mezinárodní koordinace v otázce bezpečného vývoje pokročilých AI systémů? Vznikne k tomu mezinárodní instituce?
  • Jaké technologie nám mohou systémově pomoci ke zvýšení odolnosti proti biologickým hrozbám?
  • Jaké pracovní pozice mohou mít výjimečný vliv na vývoj technologií správným směrem a jak tyto pozice získat?

Pro účast na konferenci je nutné se registrovat: https://forms.gle/RyByGLmLCuH9JkTx8

Přednášející a program

 

Jan Michelfeit: Agendy v technické AI safety 2023-24

O nápady jak vylepšit vyhlídky na bezpečnější AI není nouze, ale na čem se opravdu nejvíc pracuje? Kdo na tom pracuje? A na co přišli? Přehled výzkumu od roku 2023.

Jan Michelfeit je šéf bezpečnosti a infrastruktury v menším londýnském AI safety labu. Před rokem 2023 softwarový vývojář pracující převážně na produktech postavených na cybersecurity R&D.

David Janků: Regulace AI na mezinárodní úrovni

V současné době postrádáme závaznou mezinárodní regulaci umělé inteligence. Jednotlivé státy si vytvářejí vlastní legislativu a pravidla pro regulaci AI na svém území. David nám představí argumenty, proč by měla být AI regulována na mezinárodní úrovni. Dále nám nabídne přehled některých návrhů, jak by mohly vypadat mezinárodní instituce zaměřené na regulaci AI.

David je výzkumník v týmu pokročilé umělé inteligence v Mezinárodním centru pro budoucí generace (ICFG), kde se věnuje snižování katastrofických rizik AI skrze podporu mezinárodní spolupráce a tvorby mezinárodních institucí pro regulaci a vývoj pokročilé AI.

Štěpán Los: Globální přístupy k regulaci a hodnocení pokročilé AI

Štěpán Los nám představí návrh na mezinárodní konsorcium pro hodnocení rizik spojených s pokročilou AI a návrh na vytvoření regulační autority pro AI (AIRA) pro stanovení standardů a certifikačních požadavků. Součástí prezentace budou aktuální nedostatky v hodnocení a regulaci rizik, konkrétní kroky pro založení konsorcia a AIRA, jako je sběr zpětné vazby, dodatečný výzkum a organizace workshopů.

Štěpán je MA studentem Filosofie a Psychologie na University of St Andrews ve Skotsku. Zabývá se především výzkumem, v minulosti pracoval na tématech od forecastingu po systémová a strukturální rizika pokročilých AI systémů. V současnosti pracuje s Future Impact Group v Oxfordu na filosofickém výzkumu vědomí v pokročilých AI systémech.

Prokop Hapala: Jak vyrobit grey goo?

Představy výrobních linek sestavující složité stroje atom-po-atomu a samoreplikujících se diamantových nanorobotů formulované Erikem Drexlerem inspirovaly nejednu apokalyptickou sci-fi. Nicméně ani 40 let vývoje skenovacích mikroskopů schopných manipulovat atomy s pikometrovou přesností nás k realizaci Drexlerova “diamantového věku” příliš nepřiblížilo. Zdaleka nejvyspělejšími molekulárními stroji tak stále zůstávají měkké proteiny chaoticky se tetelící v živých buňkách. V této přednášce si vysvětlíme fundamentální fyzikální principy které komplikují fungování a efektivní masovou výrobu sofistikované nanotechnologie, ale i možnosti jak tyto problémy obejít. V závěrečné části pak načrtnu praktičtější hybridní přístup kombinující biologií inspirovanou samoskladbu s lidskou litografií k dosažení ultimátní miniaturizace výpočetních strojů, jejímuž vývoji se věnuji.

Prokop Hapala pomohl teoreticky objasnit základní principy ultravysokého rozlišení v mikroskopii atomových sil a skenovací tunelovací mikroskopii. Podílel se také na vývoji metod pro automatickou rekonstrukci 3D molekulárních struktur z mikroskopických snímků pomocí neurální sítě. Tyto práce jsou vědeckou komunitou uznávány jako zásadní pro zobrazení atomů, vazeb a elektrických polí v jednotlivých molekulách.

Sofya Lebedeva: Navigating the Space of Biosecurity (Anglicky)

Navzdory naší zkušenosti s pandemií a predikcím upozorňujícím na zvýšení biologických rizik v návaznosti na současné vědecké průlomy v editaci genů, není oblast biosecurity příliš pevně ustanovena. Sofya nám představí klíčové oblasti, které nyní potřebují více projektů a investic a zmíní i talent, jaký je k tomu potřeba. Dále pak představí své vlastní projekty: Jeden se zaměřuje na snížení rezistence mikrobů na antibiotika a druhý se týká obecnější snahy o podporu a popularizaci biosecurity jako kariérní dráhy . Nasdílí nám také své myšlenky, jak o biosecuritě přemýšlet a jaké udělat první kroky.

Sofya nyní dělá doktorát z klinické medicíny na univerzitě v Oxfordu. Spolu-založila Alliance for Reducing Microbial Resistance (ARMoR) a organizuje Oxford Biosecurity Group, která má za cíl vytvořit pracovní příležitosti pro ty, kteří se chtějí začít biosecuritě věnovat.

Aleš Flídr: Metavěda a diferencovaný vývoj technologií pro globální katastrofická biologická rizika

Budoucí pandemie mohou být výrazně horší než COVID-19. Čekat na vakcínu více než 100 dní není dobrý plán. Mohli bychom vyvíjet a nasazovat technologie pro včasnou detekci i potlačení patogenu, které by fungovaly od prvního dne pro ±každý patogen, který by mohl způsobit pandemii. V této přednášce bude Aleš hovořit o některých nejslibnějších technologiích, o problémech s pobídkami a koordinací na soukromých trzích a v akademickém prostředí, které brání technologickému pokroku, a o současných směrech práce na řešení těchto problémů.

Aleš Flídr řídí agendu biologické bezpečnosti v Convergent Research, kde se zabývá programem, program si klade za cíl revoluci ve veřejném zdraví tím, že transformuje schopnost budov eliminovat hrozby vnitřního ovzduší. Dříve působil jako výzkumný asistent ve společnosti DeepMind, u Erica Drexlera ve Future of Humanity Institute a u Jasona Crawforda v Roots of Progress. Během pandemie COVID-19 pracoval jako výzkumný analytik v českém expertním týmu COVID MeSES.

Jan Kleňha a Blanka Havlíčková: Jak pracovat s tím, co o budoucnosti nevíme a forecasting jako povolání budoucnosti

Blanka Havlíčková nám ukáže, jak prakticky pracovat s tím, co u budoucnosti nevíme. Po teoretickém úvodu využije i gamifikovaného kalibračního cvičení z dílny Confido Institutu, díky kterému se ukáže, jak dobří jsme ve vyjadřování toho, co nevíme, oproti ostatním. Cílem tohoto prakticky laděného miniworkshopu bude, aby si účastníci vyzkoušeli, jak se jim daří vyrovnávat s tím, co neví, a motivovalo je to zlepšovat se v rozhodování a řešení riskantních situací. Miniworkshop je vhodný i pro účastníky s nulovým technickým backgroundem. Pro interaktivní část workshopu doporučujeme vzít si mobilní telefon. Jan Kleňha naváže přednáškou, kde nám představí, jak lze dobrou kalibraci využít ve forecastingu a proč je forecasting oborem budoucnosti.

Blanka Havlíčková je ředitelkou výzkumného ústavu Confido, který zkoumá, proč se nám jako lidem nedaří dobře rozhodovat v nejistých a riskantních situacích a vytváří softwarové nástroje a materiály pro lepší skupinové rozhodování.

Jan Kleňha je spoluzakladatel a ředitel Českých priorit, organizace, která propaguje policymaking založený na důkazech, provádí aplikovaný výzkum v oblasti forecastingu  a radí částem státní správy při efektivním rozdělování veřejných prostředků.

Další přednášející a témata:

  • Sofya Lebedeva: Biosecurity – proč je důležitá připravenost na budoucí pandemie a přehled oboru (anglicky)
  • Přehled oblastí, aktuálně poptávaných profesí a výzkumu, kde lze mít významný pozitivní dopad.