Job Location: Prague

A search of relevant researchers and laboratories for research on mitigation of existential risks

A search of relevant researchers and laboratories for research on mitigation of existential risks

Research on the issue of existential risks to humanity is not as widespread in the academy as it could be. Allfed, within its area of focus - food security in the event of a global disaster - has developed a broad list of topics that can be the subject of a grant application if a grant call is appropriate. The volunteer will choose a topic and then search for suitable laboratories, [...]

Vývoj evaluací velkých jazykových modelů

Vývoj evaluací velkých jazykových modelů

Na základě komunikace s odborníky na bezpečnost umělé inteligence se snažíme přispět k vývoji evaluací (tzv. evalů) velkých jazykových modelů (LLMs). Naše pracovní skupina se věnuje testování modelů z hlediska jejich tendence či schopnosti manipulovat. Jak to vypadá? Více podrobností najdete v tomto dokumentu. Pro koho to je? Hlavní částí je vymýšlení smysluplných sérií promptů, […]

Specialist(k)a in risk management and planning in public administration

Specialist(k)a in risk management and planning in public administration

For the project "Enhancing State Preparedness for Biorisk" we are looking for experts with experience in government planning or risk management to consult and supervise our project. The aim of the project is to map the current state of biorisk prevention in the country. We are interested in foresight, prevention mechanisms and decision-making mechanisms during crises, as the speed of response of state apparatuses can save millions of lives. [...]