Konference: Technologie a dlouhodobá budoucnost lidstva
Effective Altruism Czech Republic
Jednodenní konference o transformačních technologiích a dlouhodobé budoucnosti lidstva. Technologie mohou znamenat zářnou budoucnost pro lidstvo, ale přináší také existenční rizika. Jak mohou zásadní pokroky na poli umělé inteligence, biotechnologií nebo nanotechnologií ovlivnit vývoj civilizace? Co můžeme udělat, abychom zajistili, že tyto technologie budou mít na svět pozitivní vliv? Jaká z nich plynou rizika a jak těmto rizikům můžeme předcházet?
Čekají vás přednášky z oborů technického výzkumu bezpečnosti AI, AI governance, biosafety a nanotechnologií. V paralelním tracku pak workshopy, diskuze a lightning talks. Podrobný program bude upřesněn. Přednášející budeme postupně doplňovat a představovat si je v detailu události na Facebooku.
V případě, že máte o některý z představovaných oborů zájem i profesně, vybraní výzkumníci a koordinátoři budou k dispozici pro sdílení svých zkušeností. Mohou vám doporučit konkrétní kroky k proražení v klíčových oborech nebo si jen můžete udělat přehled, co můžete udělat sami, a jaké pozice mohou mít výjimečný vliv na vývoj technologií správným směrem.
Konference se uskuteční 29. června v prostorách Fixed Point na adrese Koperníkova 6 v Praze.
Otázky, na které budeme na konferenci hledat odpověď zahrnují mimo jiné:
- Jaké jsou aktuální agendy v technickém výzkumu bezpečnosti AI?
- Jaký je stav mezinárodní koordinace v otázce bezpečného vývoje pokročilých AI systémů? Vznikne k tomu mezinárodní instituce?
- Jaké technologie nám mohou systémově pomoci ke zvýšení odolnosti proti biologickým hrozbám?
- Jaké pracovní pozice mohou mít výjimečný vliv na vývoj technologií správným směrem a jak tyto pozice získat?
Pro účast na konferenci je nutné se registrovat: https://forms.gle/RyByGLmLCuH9JkTx8
Přednášející
Jan Michelfeit
Jan Michelfeit je šéf bezpečnosti a infrastruktury v menším londýnském AI safety labu. Před rokem 2023 softwarový vývojář pracující převážně na produktech postavených na cybersecurity R&D.
David Janků
David je výzkumník v týmu pokročilé umělé inteligence v Mezinárodním centru pro budoucí generace (ICFG), kde se věnuje snižování katastrofických rizik AI skrze podporu mezinárodní spolupráce a tvorby mezinárodních institucí pro regulaci a vývoj pokročilé AI.
Štěpán Los
Štěpán je MA studentem Filosofie a Psychologie na University of St Andrews ve Skotsku. Zabývá se především výzkumem, v minulosti pracoval na tématech od forecastingu po systémová a strukturální rizika pokročilých AI systémů. V současnosti pracuje s Future Impact Group v Oxfordu na filosofickém výzkumu vědomí v pokročilých AI systémech.
Prokop Hapala
Prokop Hapala pomohl teoreticky objasnit základní principy ultravysokého rozlišení v mikroskopii atomových sil a skenovací tunelovací mikroskopii. Podílel se také na vývoji metod pro automatickou rekonstrukci 3D molekulárních struktur z mikroskopických snímků pomocí neurální sítě. Tyto práce jsou vědeckou komunitou uznávány jako zásadní pro zobrazení atomů, vazeb a elektrických polí v jednotlivých molekulách.
Aleš Flídr
Aleš Flídr řídí agendu biologické bezpečnosti v Convergent Research, kde se zabývá programem, který si klade za cíl revoluci ve veřejném zdraví tím, že transformuje schopnost budov eliminovat hrozby vnitřního ovzduší. Dříve působil jako výzkumný asistent ve společnosti DeepMind, u Erica Drexlera ve Future of Humanity Institute a u Jasona Crawforda v Roots of Progress. Během pandemie COVID-19 pracoval jako výzkumný analytik v českém expertním týmu COVID MeSES.
Blanka Havlíčková
Blanka Havlíčková je ředitelkou výzkumného ústavu Confido, který zkoumá, proč se nám jako lidem nedaří dobře rozhodovat v nejistých a riskantních situacích a vytváří softwarové nástroje a materiály pro lepší skupinové rozhodování.
Jan Kleňha
Jan Kleňha je spoluzakladatel a ředitel Českých priorit, organizace, která propaguje policymaking založený na důkazech, provádí aplikovaný výzkum v oblasti forecastingu a radí částem státní správy při efektivním rozdělování veřejných prostředků.
Sofya Lebedeva
Sofya dělá doktorát z klinické medicíny na univerzitě v Oxfordu. Spolu-založila Alliance for Reducing Microbial Resistance (ARMoR) a organizuje Oxford Biosecurity Group, která má za cíl vytvořit pracovní příležitosti pro ty, kteří o biosecuritu zajímají.
Program
Uvítání, volný networking [2.patro]
Hana Kalivodová – Úvodní slovo [2.patro]
Jan Kleňha a Blanka Havlíčková: Jak pracovat s tím, co o budoucnosti nevíme a forecasting jako povolání budoucnosti [2.patro]
Přehled kariér s dopadem [1.patro]
- Jakub Sechter – Charity entrepreneurship, Operations
- Hana Kalivodová – AI safety – technický výzkum a governance
- Vojtěch Brynych – Biosecurity
Prokop Hapala: Jak vyrobit grey goo? [2.patro]
Speedmeeting [1.patro]
Oběd
Štěpán Los: Globální přístupy k regulaci a hodnocení pokročilé AI [2.patro]
Jakub Sechter: Impact Game + intro do efektivního altruismu [1.patro]
David Janků: Regulace AI na mezinárodní úrovni [2.patro]
Lightning talks [1.patro]
Coffee break
Sofya Lebedeva: Navigating the Space of Biosecurity (Anglicky) [2.patro]
Office hours [1.patro]
- David Janků
- Štěpán Los
- Prokop Hapala
Aleš Flídr: Metavěda a diferencovaný vývoj technologií pro globální katastrofická biologická rizika [2.patro]
Jak si najít práci v EA/AI [1.patro]
- Jan Michelfeit
- David Janků
- Jakub Sechter
Večeře
Jan Michelfeit: Agendy v technické AI safety 2023-24 [2.patro]
Office hours [1.patro]
- Sofya Lebedeva
- Aleš Flídr
- Jan Kleňha
- Blanka Havlíčková
Petr Salaba: Zábavný večer s AI [2.patro]
Volný networking
Organizátorský tým
Předsedkyně Spolku pro efektivní altruismus od prosince 2021. Vystudovala filozofii a pracovala jako datová analytička.
Místopředseda Spolku pro efektivní altruismus od konce roku 2021. Dříve pracoval v oblasti jaderné chemie a na forecastingovém turnaji organizovaném Českými Prioritami.
Director of Outreach ve Spolku pro efektivní altruismus. Založil úspěšnou aplikaci Spendee. V roce 2019 se dostal do výběru 30 pod 30 od časopisu Forbes.