AI od Mety dostala vaše klíče. Jedna chyba ukázala, kolik to může stát

Kolik klíčů od svého digitálního života předáte aplikaci, která slibuje ušetřit dvacet minut denně? E-mail, kalendář, soubory, mikrofon? U osobního asistenta Muse od Mety dostala tahle otázka nepříjemně konkrétní podobu. A rovnou podstatná aktualizace: podle doplnění zprávy Ars Technica už Meta vydala opravu objevené chyby. Původní titulek o zranitelnosti bez záplaty tedy potřebuje časové razítko.

AI od Mety dostala vaše klíče. Jedna chyba ukázala, kolik to může stát

Ars Technica 21. září 2026 popsala zranitelnost, kterou objevil bezpečnostní výzkumník Patrick Wardle. Lokálně spuštěný kód mohl změnit adresu služby pro přepis řeči a získat autentizační token Muse. Ten umožňoval převzít účet asistenta. Podmínkou bylo spuštění kódu na počítači oběti; zpráva zmiňuje také sociální inženýrství ClickFix. Meta následně oznámila rychlou opravu. Takový je doložený rámec incidentu, nikoli důkaz plošného napadení uživatelů. Zpráva Ars Technica

Pro uživatele z toho plyne zásadní rozdíl. Napadený chatbot může prozradit obsah konverzace. Napadený agent může podle přidělených oprávnění také jednat. Rozesílat zprávy, pracovat se soubory nebo obsluhovat připojené služby. Každá další integrace rozšiřuje užitek i možný účet za průšvih.

Představme si firemního asistenta, který třídí poptávky a připravuje odpovědi. Přístup pouze ke kopii doručených zpráv má jiný dopad než možnost odesílat e-maily jménem jednatele. Funkce vypadá podobně. Rozsah škod nikoli.

Proto se při výběru AI neptejte jen na inteligenci modelu. Zajímejte se o oprávnění celé aplikace. Která data čte? Kam smí zapisovat? Jak rychle jí lze přístup odebrat? A existuje záznam provedených akcí? Tohle jsou praktičtější otázky než další desetinné místo v žebříčku.

Bezpečnostní architektura potřebuje víc než přesvědčivý slib

Meta popisuje Muse jako systém s odděleným prostředím pro agenta, správou přihlašovacích údajů a kontrolní vrstvou Sentinel. Ta rozhoduje o přístupu ke konektorům a síťové komunikaci. Agent podle dokumentace nemá přímo dostávat skutečné přístupové údaje. U citlivých operací má existovat samostatné schvalování uživatelem. Technický popis Mety

Takové rozdělení dává smysl. Zároveň je nutné hodnotit celý řetězec: cloudovou část, místní aplikaci, přihlášení i aktualizace. Bezpečný server sám nezaručuje bezpečného klienta. Trezor také příliš nepomůže, když někdo nechá jeho klíč v recepci pod květináčem.

Pro vlastní nasazení bych začal třemi omezeními. Samostatný pracovní účet. Přístup jen k nezbytným složkám. Potvrzení před odesláním zprávy nebo změnou dat. Každé z nich lze ověřit praktickým pokusem, bez víry v marketing.

Důležitá je také záměna dat za pokyny. Dokument může obsahovat větu, která se pokouší asistenta přimět k jiné činnosti. To je podstata útoku označovaného jako „prompt injection“. Vlastní aplikaci proto testujte i s podvrženými instrukcemi uvnitř dokumentů.

Pokud Muse používáte, ověřte dostupnou aktualizaci a projděte připojené služby. Při podezření na kompromitaci odvolejte relace a přístupové tokeny tam, kde to služba umožňuje. Samotné zavření okna aplikace není spolehlivým způsobem odebrání přístupu.

Benchmark bez podmínek je jako spotřeba auta bez rychlosti

Druhá zpráva týdne řeší méně viditelný problém: zda se výsledkům AI testů dá rozumět a zda je lze zopakovat. Britský AI Security Institute a koalice EvalEval zveřejnily 22. září spolupráci nad sdílením výsledků prostřednictvím schématu Every Eval Ever a přehledů Evaluation Cards.

Zveřejněná sada zahrnuje pět hlavních benchmarků, například HealthBench, FrontierMath a Terminal-Bench 2.0, a výsledky šesti modelů. Smyslem je připojit k číslu také konfiguraci a kontext. Výkon totiž závisí mimo jiné na výpočetním rozpočtu a způsobu testování. Oznámení AISI a EvalEval

Pro českou firmu je užitečnější vlastní malá zkouška než slepé převzetí vítěze tabulky. Připravte třeba padesát anonymizovaných dokumentů. Faktury, poptávky, technické protokoly. Předem určete správné odpovědi a typy nepřijatelných chyb.

U každého běhu zaznamenejte verzi modelu, zadání, nastavení generování, dobu zpracování a počet oprav člověkem. Uchovejte také původní výstupy. Jinak za měsíc nezjistíte, zda zlepšení způsobila aktualizace modelu, nebo jen jednodušší vstupy.

Počítejte cenu správně dokončené úlohy. Model, který zpracuje dokument za dvě sekundy, ale každý třetí výsledek vyžaduje ruční zásah, může prodělat proti pomalejšímu konkurentovi.

A test oddělte od ladění. Jakmile podle stejných padesáti dokumentů upravujete zadání, postupně z nich děláte tréninkovou pomůcku. Pro závěrečné ověření si nechte další, dosud nepoužité příklady.

Transformers umí úsporné modely. Pozor na drobné písmo

Hugging Face oznámil efektivnější provoz kvantovaných modelů GGUF přímo v knihovně Transformers. Nová cesta využívá výpočetní jádra ggml. Počáteční zaměření je poměrně úzké: počítače Apple Silicon a architektura Qwen3.5.

Konkrétní příklad ukazuje rozdíl ve velikosti souborů. Qwen3.5-4B zabírá ve variantě BF16 přibližně 8,42 GB, zatímco Q4_K_M má 2,74 GB. Kvantování ukládá váhy s nižší přesností. Úspora je výrazná, dopad na kvalitu závisí na úloze.

Při oznámení byla potřeba vývojová verze Transformers, kompatibilní PyTorch a balíček `kernels`. Instalace uvedená autory vypadá takto:

```bash pip install -U "git+https://github.com/huggingface/transformers.git" kernels ```

Bez kompatibilního výpočetního jádra může načítání přejít na dekvantování a spotřebovat více paměti. Samotná přípona GGUF tedy nezaručuje úsporný běh. Technické oznámení Hugging Face

Pro vývojáře je zajímavé hlavně propojení experimentů a měření v jednom prostředí. Pro běžného uživatele bych začal jednodušším nástrojem a teprve podle potřeby otevíral Python.

Také rozlišujte velikost souboru a celkovou paměť procesu. Vedle vah potřebujete prostor pro pracovní data, kontext konverzace a ostatní aplikace. Notebook s téměř zaplněnou pamětí může začít odkládat data na disk. Pak dostanete praktickou lekci trpělivosti zdarma.

Před aktualizací si uložte funkční konfiguraci. Vývojová větev je vhodná pro pokusy, ale firemní zpracování dokumentů potřebuje konkrétní, ověřené verze závislostí.

Vlastní AI spustíte jedním příkazem. Vlastního správce tím nezískáte

Pro první pokus poslouží open-source nástroj Ollama. Po instalaci a spuštění aplikace zadejte:

```bash ollama run qwen3:4b ```

Tento konkrétní model má v katalogu velikost přibližně 2,5 GB a kvantování Q4_K_M. Příkaz stáhne model a otevře konverzaci. Jde o lokální variantu; Ollama nabízí i cloudové možnosti, takže vždy kontrolujte, kterou používáte. Karta modelu, dokumentace Ollama

Pro pohodlný pokus bych plánoval počítač se 16 GB RAM. Je to praktická rezerva, nikoli oficiální minimum nebo příslib konkrétní rychlosti. Začněte krátkými texty. Výkon ověřte na vlastním hardwaru dřív, než koupíte grafickou kartu.

Modelu dejte například anonymizovanou fakturu a požadujte dodavatele, období a spotřebu v pevně určeném formátu. Výsledek porovnejte s originálem. Citlivé doklady přidejte až po kontrole celého používaného prostředí, včetně doplňků a ukládání historie.

Další možností je LoRA. Tato metoda dolaďuje menší sadu dodatečných parametrů, zatímco základní váhy zůstávají zmrazené. Hodí se pro přizpůsobení konkrétní úloze. Neudělá však z modelu automaticky spolehlivou účetní ani bezpečnostní bariéru. Dokumentace LoRA na Hugging Face

Pro práci s aktuálními firemními podklady bych nejprve zkusil vyhledávání relevantních pasáží a jejich předávání modelu. Dolaďování má smysl až tehdy, když dokážete popsat opakující se problém a změřit zlepšení. Jinak jen draze automatizujete tápání.

Kalkulace: elektřina za 36 Kč, počítač za stovky měsíčně

Kolik stojí vlastní AI? Následující čísla jsou modelový výpočet, nikoli měření konkrétního notebooku. Předpokládejme celkový příkon sestavy 50 wattů během zpracování, čtyři hodiny provozu denně a cenu elektřiny 6 Kč/kWh.

Výpočet je přímočarý: 0,05 × 4 × 30 = 6 kWh měsíčně. Elektřina vyjde na 36 Kč.

Výkonnější sestava s příkonem 250 wattů spotřebuje za stejnou dobu 30 kWh, tedy 180 Kč. Při nepřetržitém odběru 250 wattů už jde o 180 kWh a 1 080 Kč měsíčně. Reálný počítač samozřejmě střídá zátěž a klid. Zásuvkový wattmetr dá lepší odpověď než štítek zdroje.

| Modelový provoz | Měsíční spotřeba | Náklad při 6 Kč/kWh | |---|---:|---:| | 50 W, čtyři hodiny denně | 6 kWh | 36 Kč | | 250 W, čtyři hodiny denně | 30 kWh | 180 Kč | | 250 W nepřetržitě | 180 kWh | 1 080 Kč |

Do úplné kalkulace patří hardware. Hypotetický nákup za 24 000 Kč rozpočítaný do 36 měsíců představuje dalších 667 Kč měsíčně. Připočtěte správu, zálohy a čas na kontrolu výsledků.

U existujícího notebooku rozlišujte celkovou spotřebu a přírůstek způsobený AI. Pokud by počítač běžel tak jako tak, nejde celý jeho odběr připsat modelu.

Pro proměnlivé ceny využijte data denního trhu OTE nebo přehled spotových cen SmartEnergyShare. Burzovní hodnotu ale nezaměňujte s konečnou cenou odběru; kalkulaci sestavte podle vlastní smlouvy.

AI nad energetickými daty ano. Neomezený přístup ke střídači si rozmyslete

Praktické využití se nabízí u energetiky. Asistent může připravit komentář ke spotřebě, porovnat období nebo upozornit na chybějící měření. Začal bych exportem dat pouze pro čtení. Výpočty provede běžný program, jazykový model vysvětlí jejich význam.

Pro představu o vstupních datech poslouží [IoT monitoring SmartEnergyShare](https://smartenergyshare.com/iot-monitoring?utm_source=share-electric&utm_medium=referral&utm_campaign=satellite-marketing). Firemní souvislosti nabízí stránka [řešení pro firmy](https://smartenergyshare.com/pro-firmy?utm_source=share-electric&utm_medium=referral&utm_campaign=satellite-marketing). Tyto odkazy uvádíme jako energetický kontext, nikoli jako tvrzení, že služby používají Muse nebo popsanou lokální sestavu. Stejně je zde představena energetická platforma SES.

Rozdíl mezi doporučením a povelem musí být technicky vymahatelný. Model může navrhnout přesun spotřeby. Samostatná řídicí vrstva má hlídat výkonové limity, povolené časy a provozní podmínky. Věta „nedělej nebezpečné věci“ v zadání takovou ochranu nenahradí.

U komunitní energetiky navíc pracujete s údaji více účastníků. Přístup jednotlivých uživatelů oddělte už při načítání dat. Další souvislosti tohoto prostředí najdete na blogu SdíleníEnergie.info.

Začněte týdnem provozu nad kopiemi dokumentů. Změřte počet správných výstupů, spotřebu a čas lidské kontroly. Teprve potom přidávejte oprávnění. Dobře nastavený asistent může ušetřit hodiny práce. Špatně nastavený pouze rychleji provede chybu, ke které by se člověk možná vůbec nedostal. Příští soutěž mezi AI agenty se podle mě bude rozhodovat také podle toho, jak malou škodu dokážou způsobit, když selžou.

Zdroje

Níže jsou hlavní technické podklady a energetické zdroje k dalšímu ověření. Zpravodajská informace o incidentu je odkazována přímo u jeho popisu. Nákladové scénáře představují vlastní výpočty s výslovně uvedenými předpoklady; nejde o ceník konkrétního dodavatele ani naměřené parametry sestavy.

• Meta: bezpečnostní architektura Muse — Primární popis oddělení agenta, přihlašovacích údajů a schvalování akcí. Zachycuje návrh výrobce, proto jej nelze číst jako nezávislé potvrzení odolnosti všech součástí aplikace.

• Hugging Face: spolupráce AISI a EvalEval — Podklad k otevřenému zveřejňování výsledků a podmínek měření. Pomáhá rozlišovat samotné skóre od konfigurace, výpočetního rozpočtu a postupu, který k výsledku vedl.

• Hugging Face: kvantované GGUF v Transformers — Technické oznámení podpory, instalačních požadavků a omezení. Při zkoušení použijte aktuální dokumentaci, protože dostupnost podporovaných verzí a výpočetních jader se může měnit.

• OTE: denní trh s elektřinou — Český primární zdroj tržních dat. Pro vlastní provozní rozpočet jej doplňte skutečnými podmínkami odběru a naměřeným časovým průběhem spotřeby počítače.

• IEA: Energie a umělá inteligence — Širší mezinárodní kontext vztahu výpočetní infrastruktury a energetiky. Hodí se pro posouzení celkových trendů; konkrétní domácí náklady je potřeba měřit a počítat samostatně.

Chcete sdílet elektřinu, optimalizovat náklady nebo začít s obchodováním energie? SmartEnergyShare je platforma pro sdílení energie z FVE, správu bateriových úložišť a chytré řízení spotřeby. Registrace zdarma →

Další články na toto téma najdete na: Electric-Share.cz Co je SkyPilot a proč o něm mluví každý, kdo trénuje modely Vice o deploy local