EA Brno: Je AI (ekonomická) bublina?

aneb ideological Turing Test informovaného AI skeptika

Na setkání probereme v třech blocích následující hlavní témata:

– zda je AI průmysl nesmyslně nadhodnocen netransparentními finančními toky
– zda existuje dostatečná konkurenční výhoda předních AI firem oproti menším firmám či open-weight komunitám
– a hlavně, zda není provoz výpočetních clusterů pro inferenci a trénink AI modelů inherentně tak nákladný, že se nemůže vyplatit

Z argumentů AI skeptiků jsem vybral ty, které mi dávají aspoň nějaký smysl. První dva jsou starší, tak lze vyhodnotit, zda je následný vývoj spíše potvrzuje, či vyvrací. Hlavní crux všech tří argumentů spočívá v tom, že nedojde k technologickému průlomu, který by je invalidoval. Předpokládají tedy, že vývoj bude pokračovat as usual, nebo narazí na limity (exponenciála vs s-křivka). Cílem akce je dát skeptikům benefit of doubt, mít relativně konzervativní očekávání budoucího vývoje a při těchto předpokladech posoudit, zda tu ekonomická AI bublina je, či není. Pokud si myslíte, že například Anthropic za tři roky představí economically viable AGI, tak se není o čem bavit a jeho hodnota je naopak extrémně vysoká. Proto s AGI v úvahách nebudeme počítat.

Tři hlavní témata podrobněji:

1. Cirkulární financování
Mnoho analýz poukazuje na to, že hodnota AI firem je uměle nafouknutá. Že odhady jejich hodnoty spočívají v tom, že si mezi sebou navzájem netransparentně posílají stovky milionů či miliardy dolarů. Pak všechny předstírají, jak velkou hodnotu mají, protože do nich jiná (podobně nafouknutá) firma byla ochotná investovat tuto částku.
zdroj například: https://clfi.co.uk/insights/ai-economy-circular-investment-energy-demand/
2. There is no MOAT
Tento několik let starý argument tvrdí, že přední komerční AI firmy nemají a realisticky nebudou mít dostatečný technologický náskok nad levnějšími/menšími/open-weight modely. Uvádí poměrně technické důvody a nezestárl (podle mě) dobře. Ale o jeho hlavní tezi debatovat lze. Jak moc jsou open-weight modely schopny držet krok s SoTA a jak moc velký tlak to na firmy vytváří? Může se vyplatit investovat astronomické části do (nepřetržitého) tréninku nových modelů, pokud vás levné modely rychle doženou?
původní text: https://newsletter.semianalysis.com/p/google-we-have-no-moat-and-neither
3. Datacenters have no ROI / are economically not viable
Poslední argument, který probereme, se věnuje ceně výstavby a údržby datacenter. Jednoduché výpočty možná ukazují, že provoz velkých frontier modelů není ziskový, a za reálnou (odhadnutou) cenu za token by tyto modely nikdo nepoužíval. Skeptici také tvrdí, že pokud se kriticky podíváme na těch málo čísel, kterými se AI společnosti chlubí (cynicky před IPOs), tak najdeme cvičení z kreativního účetnictví a ne solidní známky ziskovosti.
zdroje: zejména články a analýzy Eda Zitrona. Rozcestník zde: https://www.wheresyoured.at/the-ai-industry-is-losing/