Jak pojistit, aby budoucí transformativní systémy umělé inteligence proměnily svět výrazně k lepšímu, a ne naopak? Jaký charakter mají rizika, která jsou z dlouhodobé perspektivy nejdůležitější?

Účastníci AI safety semináře se seznámí se základními současnými poznatky a přístupy souvisejícími se zkoumáním těchto otázek.

Seminář jsme pro vás připravili podle již osvědčeného programu AGI Safety Fundamentals, který vytvořili efektivní altruisté z EA Cambridge.

👉 Přihláška

Kdy? První běh české verze tohoto programu chystáme na říjen a listopad 2022. Konkrétní termíny setkávání budou domluveny podle časových možností účastníků v jednotlivých skupinách.

Kde? První běh plánujeme organizovat především v online formě. Pokud se budete chtít vidět i osobně, doporučujeme účast na vybraných akcích Prague Fall Season – některé budou souviset právě s oblastí AI safety.

Formát: Každotýdenní facilitovaná diskuze (1,5 hodiny) nad přečtenými texty ve skupinkách o 3 až 6 členech. (Diskuze v češtině, texty v angličtině, četba zabere každý týden přibližně 3 hodiny.)

Cena: zdarma

Pro koho: Program není určen pouze pro lidi se znalostí ML či zájmem o technickou stránku problematiky, ale např. i pro zájemce o společensko-politické aspekty tématu. Skupiny budou rozděleny podle míry technického zaměření a budou pracovat s odlišnými sadami materiálů.

Obsah

Můžete si vybrat mezi verzí semináře zaměřenou více technicky (Alignment Curriculum), nebo více politicky (Governance Curriculum). Ani technické zaměření nevyžaduje předchozí znalost ML, ale počítá se s orientací v základní statistice a matematickém zápisu.

Sylaby:

Jak to bude probíhat?

  • Individuálně účastníci během domácí přípravy každý týden studují materiály v angličtině. Je dobré vyhradit si na četbu minimálně 2, ale spíše 3-4 hodiny času týdně.
  • Ve skupině:
    • Konkrétní termíny setkání jednotlivých skupin se sestaví s ohledem na časové preference účastníků v dané skupině. Minimalizuje se tím možnost, že byste se na seminář přihlásili, a pak se ho nemohli zúčastnit.
    • Účastníci se schází jednou týdně (na 1,5hod) a mají tak možnost diskutovat s ostatními o nově získaných myšlenkách. Defaultně tento podzim počítáme s online setkáními, na případných úpravách/doplnění se však mohou účastníci domluvit v rámci své skupinky. Jste-li v Praze, doporučujeme účast na vybraných akcích Prague Fall Season – některé budou souviset právě s oblastí AI safety.
    • Diskuzi bude facilitovat člen české komunity příznivců efektivního altruismu, který má s AI oblastí zkušenost a který bude pečovat o strukturu diskuze a o příjemné a podnětné prostředí. 

Jaké jsou podmínky účasti?

  • Schopnost číst texty v angličtině. 
  • Chuť účastnit se celého semináře a pečlivě se zamýšlet nad diskutovanými myšlenkami. 
  • Prostor věnovat každý týden čas individuální přípravě (minimálně 2 hodiny). 
  • Znalost ML není podmínkou účasti.

Co dál? 

Přihlaste se vyplněním tohoto formuláře.

Pokud máte jakékoli dotazy ohledně semináře, nebo i spolku jako takového, napište nám, obratem se Vám ozveme zpátky. Pokud nechcete, aby Vám utekl příští seminář, přihlaste se k odběru měsíčního spolkového newsletteru.

Těšíme se na viděnou na semináři!