AI Safety seminář

Jak pojistit, aby budoucí transformativní systémy umělé inteligence proměnily svět výrazně k lepšímu, a ne naopak? Jaký charakter mají rizika, která jsou z dlouhodobé perspektivy nejdůležitější?

Účastníci AI safety semináře se seznámí se současnými základními poznatky a přístupy souvisejícími se zkoumáním těchto otázek.

Obsah semináře tvoří široce používaný sylabus AGI Safety Fundamentals, který původně vznikl v EA Cambridge.

👉 Přihlásit se

Kdy? Následující běh české verze tohoto programu začne koncem září 2023. Konkrétní termíny setkání, kterých proběhne celkem 7 nebo 8, budou domluveny podle časových možností účastníků v jednotlivých skupinách.

Kde? Osobně v Praze či Brně, nebo online.

Formát: Každotýdenní facilitovaná diskuze (1 hodina či déle podle domluvy) nad přečtenými texty ve skupinkách přibližně o 3 až 6 členech. (Diskuze v češtině, texty v angličtině, četba zabere každý týden přibližně 4 hodiny.)

Cena: zdarma

Pro koho: Program není určen pouze pro lidi se znalostí ML či zájmem o technickou stránku problematiky, ale např. i pro zájemce o společensko-politické aspekty tématu. Skupiny budou rozděleny podle míry technického zaměření a budou pracovat s odlišnými sadami materiálů.

Obsah

Můžete si vybrat mezi verzí semináře zaměřenou více technicky (Alignment Curriculum), nebo více politicky (Governance Curriculum). Ani technické zaměření nevyžaduje předchozí znalost ML, ale počítá se s orientací v základní statistice a matematickém zápisu.

Sylaby:

• Technical Alignment Curriculum
• AI governance Curriculum

První týden (v anglickém sylabu pro Technical Alignment uvedený jako týden 0) je věnován základům ML. Pokročilí účastníci (nebo celá skupinka složená z pokročilejších účastníků) mohou tento týden vynechat. V anglickém sylabu je zahrnut i závěrečný projekt. Ten není standardní součástí programu našeho semináře, ale kdokoliv bude chtít, může se pustit i do něj.

Jak to bude probíhat?

Individuálně:

• Účastníci během domácí přípravy každý týden studují materiály v angličtině. AGI safety sylabus uvádí požadovanou dobu přípravy 2 hodiny týdně, ale na základě zkušenosti lze říci, že se hodí spíše dvojnásobek.

Ve skupině:

• Konkrétní termíny setkání jednotlivých skupin se sestaví s ohledem na časové preference účastníků v dané skupině.
• Účastníci se schází jednou týdně (defaultně na 1 či 1,5 hod) a mají tak možnost diskutovat s ostatními o nově získaných myšlenkách.
• Diskuzi bude facilitovat člen české komunity příznivců efektivního altruismu, který má s AI oblastí zkušenost a který bude pečovat o strukturu diskuze a o příjemné a podnětné prostředí.

Jaké jsou podmínky účasti?

• Schopnost číst texty v angličtině.
• Chuť účastnit se celého semináře a pečlivě se zamýšlet nad diskutovanými myšlenkami.
• Prostor věnovat každý týden čas individuální přípravě (minimálně 2 hodiny, ideálně i výrazně více).
• Znalost ML není podmínkou účasti.

Co dál?

Přihlaste se vyplněním tohoto formuláře.

Pokud máte jakékoli dotazy ohledně semináře, napište nám, obratem se Vám ozveme zpátky. Pokud nechcete, aby Vám utekl příští seminář, přihlaste se k odběru měsíčního spolkového newsletteru.

Těšíme se na viděnou na semináři!

Bonus: navazující víkendová akce

Na seminář navazuje víkendovka, které se absolventi semináře mohou volitelně zúčastnit. Podzimní víkendovku chystáme na 24.-26.11. 2023. Jde o skvělou příležitost seznámit se v příjemném prostředí i s účastníky z jiných skupin a s dalšími lidmi z České republiky, kteří se zajímají o témata probíraná v semináři.