Z OpenAI pro 50 miliard korun: Miles Wang chce s vLLM a SkyPilotem vyrobit léky, na které lidstvo čeká staletí

Představte si, že pracujete v nejhodnotnější AI firmě planety, máte přístup k nejvýkonnějším clusterům na světě a váš šéf se jmenuje Sam Altman. Většina lidí by si v takové situaci gratulovala a užívala si své opce. Miles Wang, elitní vědec z OpenAI, to ale vidí jinak. Sbalil si svůj digitální batoh a vyrazil do světa s ambicí, která zní jako z filmu od Christophera Nolana: chce "hacknout" lidskou biologii a zkrátit vývoj léků z deseti let na pár měsíců. A investoři mu na to chtějí dát dvě miliardy dolarů, aniž by viděli první krabičku s tabletkami.

Proč ta šílená suma? Protože Wang neřeší jen "co" vyrábět, ale hlavně "jak" to počítat. Jeho tajnou zbraní není jen znalost proteinů, ale především brutálně efektivní technický stack postavený na vLLM, Hugging Face Foundry a SkyPilotu. Tohle není článek o medicíně, tohle je článek o tom, jak se dnes staví nejvýkonnější výpočetní systémy světa, které musí běžet bez přestávky, efektivně a s minimálními náklady na přenos dat. Je to o údržbě budoucnosti, kde místo šroubováku ladíte YAML soubory a monitorujete latenci v mikroisekundách.

Když se event-loop potká s genetikou: Proč vLLM mění pravidla hry

Většina lidí zná vLLM jako ten rychlý engine, co jim pohání ChatGPT klony na lokálním počítači. Pro Milese Wanga je to ale páteř celého podniku. Když simulujete skládání proteinů nebo hledáte vazby mezi miliardami chemických sloučenin, narazíte na jeden zásadní problém: propustnost (throughput). Standardní implementace transformerů jsou pro tyhle účely zoufale neefektivní. Plýtvají pamětí GPU, čekají na I/O operace a v podstatě pálí peníze investorů v digitálním krbu.

vLLM přišel s revoluční technologií PagedAttention. Představte si to jako virtuální paměť v operačních systémech, ale pro klíče a hodnoty (KV cache) v AI modelech. Místo aby model zabral souvislý blok drahocenné paměti na kartě NVIDIA H100, rozseká si ho na malé kousky a dynamicky je alokuje. Výsledek? Až 24krát vyšší propustnost než u standardních knihoven.

Pro startup v oblasti "AI Drug Discovery" to znamená rozdíl mezi tím, jestli za noc prozkoumáte milion molekul, nebo dvacet milionů. Údržba takového systému vyžaduje precizní monitoring. Stejně jako energetická platforma SES využívá IoT monitoring pro sledování stavu sítě, Wangův tým musí sledovat využití vRAM a pádové stavy workerů v reálném čase. Pokud vám jeden uzel v clusteru vypadne kvůli špatně nakonfigurovanému vLLM backendu, simulace se zastaví a vy přicházíte o statisíce korun za každou hodinu prostoje.

SkyPilot a umění cloudové akrobacie: Jak neplatit za vzduch

Provozovat AI startup s hodnotou 2 miliardy dolarů znamená, že pálíte GPU čas jako zběsilí. Ale kde ty karty vzít? AWS je drahé a často vyprodané, Google Cloud má své mouchy a specializovaní provideři jako Lambda nebo CoreWeave jsou sice levnější, ale nemají všechno. Miles Wang proto sází na SkyPilot.

SkyPilot je v podstatě orchestrátor, který vám dovolí spustit AI workload na jakémkoliv cloudu. Chcete trénovat na A100 v Azure, ale checkpointy ukládat na Hugging Face? Žádný problém. SkyPilot automaticky najde nejlevnější dostupnou instanci, nastaví prostředí a spustí kód. Co je ale naprosto klíčové, je koncept "zero-egress storage".

V cloudu platíte za všechno, ale nejvíc vás bolí "egress" – tedy poplatky za to, že data odněkud vyvádíte. Když model vygeneruje terabajty dat o genetických mutacích, nechcete platit Amazonu výpalné za to, že si ta data chcete stáhnout k sobě nebo je poslat jinam. SkyPilot ve spojení s Hugging Face Foundry umožňuje držet data tam, kde se počítá, a přitom k nim mít přístup z libovolného výpočetního uzlu bez nesmyslných poplatků. Je to podobné, jako když se řeší sdílení elektřiny – taky chcete energii spotřebovat co nejblíže místu výroby, abyste neplatili zbytečné poplatky za distribuci přes půl republiky. Více o tomto tématu najdete na smartenergyshare.info.

Hugging Face Foundry: Když spravovaný výpočet dává smysl

Proč by si startup s miliardami na účtě nepostavil vlastní serverovnu? Protože údržba hardwaru je peklo. Miles Wang to ví. Foundry Managed Compute od Hugging Face je řešení, které mu umožňuje soustředit se na vědu, ne na to, proč v racku číslo 4 odešel ventilátor.

Foundry funguje jako vrstva nad holým železem. Dostanete optimalizované image, kde je všechno od ovladačů CUDA až po PyTorch vyladěno na maximum. Údržba se zde přesouvá z roviny "vyměňuji disk" do roviny "optimalizuji pipeline". Pokud Wangův tým zjistí, že jejich nový model pro predikci toxicity léků potřebuje víc paměti, jednoduše v konfiguraci Foundry změní typ instance.

Tento přístup k infrastruktuře připomíná to, jak dnes funguje moderní energetika pro velké hráče. Místo aby si každá firma stavěla vlastní malou elektrárnu se vším všudy, raději využije služby výkonnostní rovnováhy a chytrou síť, která se postará o stabilitu. Pro firmy je to mnohem bezpečnější a levnější cesta.

Strategie údržby v éře AI: Od logů k predikci

V klasickém IT údržba znamená, že když se něco rozbije, opravíte to. V AI drug discovery startupu je to jinak. Tady je údržba součástí vývojového cyklu. Pokud váš model začne produkovat nesmyslné výsledky (tzv. drift), musíte mít systémy, které to okamžitě zachytí.

Wangův stack využívá automatizované testování nejen kódu, ale i kvality dat. Každý nový model projde sadou testů na známých molekulách, než dostane šanci simulovat něco nového. Údržba výpočetních clusterů se zde provádí pomocí "blue-green" deploymentů – nikdy nevypínáte celý systém, prostě jen přesměrujete provoz na novou, vyladěnou verzi.

Tento důraz na kontinuitu a prevenci je přesně to, co odlišuje amatéry od projektů za miliardy dolarů. Je to stejné jako v energetice – pro výrobce FVE je klíčové vědět, že jejich systém poběží i za pět let stejně efektivně jako dnes. Bez pravidelné softwarové údržby a monitoringu flexibility se prostě neobejdete. Podobné postřehy najdete i na shareelectric.cz.

Budoucnost: Bude Miles Wang novým farmaceutickým králem?

Všichni se ptají, jestli Miles Wang skutečně dokáže najít lék na rakovinu nebo Alzheimera jen pomocí algoritmů. Skeptici říkají, že biologie je moc složitá na to, aby ji pochopil transformer, byť běžící na vLLM. Ale Wang má jednu výhodu: čas. Díky extrémně efektivní infrastruktuře může dělat chyby rychleji než kdokoli jiný.

Jeho startup není jen o chemii, je to laboratoř na efektivitu. Pokud dokáže srazit cenu za jeden výpočetní cyklus o 90 %, může si dovolit o 900 % více pokusů. A v tom je ta magie. Údržba nízkých provozních nákladů a vysoké dostupnosti systému je v tomto případě důležitější než samotný vědecký objev, protože ten objev je jen statistickým důsledkem počtu pokusů.

Miles Wang možná neuspěje hned, ale cesta, kterou prošlapává v oblasti infrastruktury (vLLM, SkyPilot, Hugging Face Foundry), se stane standardem pro všechny ostatní. Stejně jako se sdílení elektřiny stává standardem pro moderní domácnosti.

Ať už to dopadne jakkoliv, jedno je jisté: éra, kdy se léky vyvíjely v bílých pláštích s pipetou v ruce, pomalu končí. Nastupuje éra inženýrů v mikinách, kteří rozumí tomu, jak udržet v chodu cluster s tisíci GPU a jak vyždímat poslední kapku výkonu z vLLM backendu. A pokud na to máte dvě miliardy dolarů, je to zatraceně napínavá jízda.

Zdroje

- OpenAI Miles Wang profile (pokud by byl veřejný) - vLLM Project Homepage - SkyPilot: Run AI workloads on any cloud - Hugging Face Foundry - Hugging Face Models - Energetický regulační úřad - OTE - Operátor trhu s elektřinou - TZB-info: Energetika a AI

Obchodujete s batteriovými úložišti nebo hledáte partnera pro flexibilitu a day trading elektřiny? SmartEnergyShare nabízí kompletní řešení pro BESS projekty od 50 do 250 kW — obchodování flexibility, SVR služby a IoT monitoring. Zjistěte víc →

Další články na toto téma najdete na: SdileniEnergie.info SmartEnergyShare není dodavatel elektřiny: Jak funguje el... Vice o run ai