Grok Build odesílal celé repozitáře do cloudu xAI
Vývojářskou komunitou nedávno rezonoval velmi nepříjemný bezpečnostní incident týkající se nástroje Grok Build od společnosti xAI. Bezpečnostní výzkumníci z CerebLab zjistili a následně reprodukovali chování, při kterém Grok Build odesílal obsah Git repozitáře do cloudové infrastruktury používané xAI. Podle zveřejněné reprodukce se přitom mohly uploadovat i soubory, se kterými agent při konkrétním úkolu vůbec nepotřeboval pracovat. Problém tedy nebyl pouze v tom, že AI nástroj využíval cloud — to je u podobných produktů běžné — ale především v rozsahu odesílaných dat a v tom, že uživatel nemusel očekávat, že se mimo jeho infrastrukturu dostane prakticky celý pracovní repozitář. Po zveřejnění problému xAI problematické chování deaktivovalo a Elon Musk veřejně reagoval příslibem nápravy a odstranění dříve nahraných dat.
Komentář: Celá situace připomíná něco, na co se při zavádění AI vývojářských nástrojů často zapomíná: AI agent není jen chytřejší autocomplete. Pokud má přístup k souborovému systému, terminálu, Git repozitářům, API klíčům nebo interním službám, stává se z něj další privilegovaná aplikace ve vaší infrastruktuře.
A stejně jako u každé jiné privilegované aplikace by mělo platit: nedůvěřovat automaticky, ale ověřovat.
Firmy by proto měly sledovat síťovou komunikaci AI nástrojů, omezovat jejich oprávnění, oddělovat citlivé projekty a tam, kde je to možné, využívat sandboxing nebo izolované prostředí.
Nejde přitom o tvrzení, že všechny AI nástroje tajně vynášejí data. Jde o mnohem praktičtější bezpečnostní princip: pokud aplikace technicky může získat přístup k citlivým informacím a komunikovat s internetem, je rozumné počítat s možností chyby, zranitelnosti nebo špatně navržené funkce. A ve výsledku, paranoie není nikdy dost a … nástrojů přibývá.
Kimi K3: obří čínský open-weight model míří mezi absolutní špičku
Čínský startup Moonshot AI představil model Kimi K3. Jde o mimořádně velký Mixture-of-Experts model s přibližně 2,8 bilionu parametrů, z nichž je při jednom průchodu aktivní pouze část — přibližně 104 miliard parametrů. Model nabízí kontextové okno až kolem jednoho milionu tokenů a podporuje multimodální práci včetně vizuálních vstupů.
Silně se zaměřuje také na programování, práci s nástroji a agentní úlohy.Kimi K3 dosahuje velmi dobrých výsledků v celé řadě benchmarků a v některých jednotlivých úlohách se dostává na úroveň nejlepších proprietárních modelů nebo je dokáže překonat. Velkou událostí je ovšem zveřejnění vah modelu.
Komentář: A právě tady začíná být Kimi K3 opravdu zajímavý. Nemusí být absolutním vítězem každého benchmarku, aby představoval obrovský tlak na proprietární poskytovatele.
Pokud máte model, který se výkonnostně pohybuje relativně blízko frontier systémům a zároveň máte možnost pracovat s jeho vahami a provozovat jej ve vlastní infrastruktuře, vzniká úplně jiná ekonomická i bezpečnostní rovnice. Z hlediska výzkumu, další kvantizace, destilace a specializovaných deploymentů je to významný krok.
NVIDIA Nemotron 3.5 Lightning: menší model jako pracovní síla pro dlouhodobě běžící agenty
NVIDIA představila Nemotron 3.5 Lightning, model zaměřený na rychlé vykonávání specializovaných úloh uvnitř agentních systémů. Model využívá architekturu Mixture-of-Experts. Celkově pracuje s desítkami miliard parametrů, ale pro jeden token aktivuje pouze jejich menší část.
Smyslem není vytvořit dalšího gigantického „všeználka“, který bude řešit úplně všechno. Lightning je navržen například pro opakované volání nástrojů, kontrolu výsledků, jednoduché programovací úlohy, monitoring nebo delegování práce mezi agenty. U vhodně kvantizovaných variant je navíc možné uvažovat i o provozu na jednom výkonném GPU, místo aby každý agentní krok vyžadoval velký cloudový cluster.
Komentář: Tady se dobře ukazuje, kam se agentní AI pravděpodobně posouvá. Dávat každému jednoduchému API callu nejvýkonnější dostupný model je podobné, jako kdyby firma povolala seniorního architekta pokaždé, když je potřeba přejmenovat soubor. Fungovat to bude. Jen je to drahé.
Budoucí agentní systémy proto pravděpodobně nebudou postavené kolem jediného modelu. Budou připomínat hierarchii různě drahých a různě schopných modelů. Velký model vytvoří plán nebo vyřeší těžký problém. Menší modely pak provedou stovky rutinních kroků kolem něj.
A právě v takovém světě mohou mít modely typu Lightning větší praktický význam, než naznačuje jejich velikost.
Meta Muse Glimmer: agentní AI navržená pro lokální zařízení
Meta představila Muse Glimmer, přibližně třicetimiliardový open-weight model navržený s důrazem na lokální provoz a agentní použití. Cílem projektu je ukázat, že schopný agentní model nemusí nutně běžet pouze v obrovském cloudovém datacentru. Meta jej prezentuje jako model vhodný pro provoz na výkonném PC, Macu nebo systému s jednou dostatečně výkonnou GPU.
To může být velmi zajímavé pro vývojáře a firmy, které chtějí využívat AI agenty, ale nechtějí při každé operaci posílat firemní data přes externí API. A tvrzení o běhu na „běžném spotřebitelském hardwaru“ vyžaduje kontext… Třicetimiliardový model je i po kvantizaci stále poměrně náročný.
Komentář: Lokální AI je podle mě jeden z nejzajímavějších směrů současného trhu. Pokud agent dostane přístup k firemním dokumentům, zdrojovým kódům, interním databázím nebo osobním informacím, možnost udržet celý inference proces uvnitř vlastní infrastruktury může být mnohem důležitější než několik procent výkonu navíc.
Současně ale není dobré podléhat marketingové představě, že třicetimiliardový model je „AI pro každý notebook“.
Je to tedy významný posun směrem k lokální AI — nikoliv ještě její úplná demokratizace.
Zdroj: https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model
USA omezují nové čínské humanoidní roboty a robopsy kvůli národní bezpečnosti
Spojené státy přitvrdily ve vztahu k zahraniční robotice. Americká FCC zasáhla proti novým zahraničním humanoidním a čtyřnohým robotickým systémům, především proti technologiím pocházejícím z Číny, s odkazem na rizika pro národní a kybernetickou bezpečnost.
Důležitá je ale jedna nuance: nejde jednoduše o plošný zákaz všech již existujících čínských robotů na území USA. Bezpečnostní argument je poměrně snadno pochopitelný. Moderní humanoid nebo robopes může obsahovat kamery, mikrofony, bezdrátové připojení, mapování prostoru a řadu dalších senzorů. Ve firemním nebo domácím prostředí tak teoreticky získává přístup k mnohem citlivějším informacím než běžné spotřební zařízení.
Do celé debaty se zároveň promítá dominance čínských výrobců v rychle rostoucím segmentu levnější robotiky.
Komentář: Když si vzpomeneme na americkou debatu kolem TikToku, Huawei nebo síťové infrastruktury, nebylo příliš pravděpodobné, že by se čínští autonomní roboti pohybující se po továrnách a domácnostech vyhnuli podobnému bezpečnostnímu sporu.
Zajímavější je ekonomická druhá strana problému. Čínští výrobci jsou dnes schopni dostávat relativně schopnou robotiku na trh za ceny, kterým západní konkurence často nedokáže odpovídat. Omezení čínského hardwaru tak může domácím výrobcům vytvořit prostor k růstu, ale současně může americkým podnikům zdražit nebo zpomalit automatizaci.
Bezpečnostní politika a průmyslová konkurenceschopnost se zde dostávají do velmi přímého konfliktu, jakožto už v mnoha příapadech…
Google TabFM: foundation model pro tabulková data bez klasického trénování pro každý dataset
Google představil TabFM — foundation model navržený speciálně pro práci s tabulkovými daty.
U tradičního strojového učení se pro úlohy jako predikce odchodu zákazníků, scoring nebo detekce podvodů používají například gradient-boosting modely typu XGBoost, neuronové sítě nebo další specializované algoritmy. Vývoj kvalitního řešení přitom často zahrnuje přípravu dat, výběr vhodných proměnných, trénování modelu a ladění hyperparametrů.
TabFM se pokouší část tohoto procesu přeskočit. Využívá princip in-context learning a byl předtrénovaný na obrovském množství synteticky vytvořených tabulkových datasetů.
Google zároveň plánuje jeho použití v BigQuery, kde by se podobné predikce mohly stát dostupné přímo z SQL.
Komentář: Tohle může být pro běžný byznys překvapivě významná technologie. Velká část firemního světa totiž není tvořena obrázky ani textovými dokumenty. Je tvořena tabulkami.
Objednávky. Faktury. Zákazníci. Transakce. Logistika. Marketingové kampaně. Výrobní data.
Pokud se podaří kvalitní prediktivní model nad podobnými daty vyvolat téměř stejně jednoduše jako dnes LLM, může se pokročilé strojové učení dostat k mnohem širšímu okruhu uživatelů. Současně právě tady vzniká riziko. Jednodušší použití modelu neznamená jednodušší interpretaci výsledků. Reálná firemní data mají chybějící hodnoty, distribuční posuny, chyby při zadávání, skryté korelace nebo bias.
Tlačítko „AI“ proto nemůže nahradit zdravý úsudek a kvalitní datovou práci, nebo ano?
Zdroj: https://research.google/blog/introducing-tabfm-a-zero-shot-foundation-model-for-tabular-data/
Alibaba Qwen 3.8 Max: další gigantický open-weight model z Číny
Alibaba představila Qwen 3.8 Max, obrovský Mixture-of-Experts model s přibližně 2,4 bilionu parametrů a výrazně menším počtem parametrů aktivních při generování jednoho tokenu.
Model je zaměřený mimo jiné na programování, používání nástrojů a dlouhodobé agentní úlohy. Alibaba při jeho prezentaci ukázala také dlouhodobé experimenty, ve kterých model pracoval na softwarových projektech po dobu výrazně delší, než je běžné u klasických jednorázových benchmarků.
Právě schopnost udržet konzistentní práci po mnoho hodin nebo dnů se postupně stává jednou z nejdůležitějších metrik agentních modelů. Qwen 3.8 Max je zároveň dostupný jako open-weight model.
Komentář: Na celé věci je fascinující především rozdíl strategie. Velké americké laboratoře drží své nejvýkonnější modely převážně za API. Velké čínské laboratoře naopak opakovaně zveřejňují váhy systémů, které se velikostí i schopnostmi přibližují frontier kategorii.
Pro většinu jednotlivých vývojářů samozřejmě nemá praktický smysl stáhnout několik bilionů parametrů a snažit se je rozběhnout doma. Takový model potřebuje obrovskou infrastrukturu. Jeho otevřené váhy však umožňují výzkum, kvantizaci, destilaci, fine-tuning a vznik menších odvozených variant.
A právě tam může mít dopad na širší open-model ekosystém mnohem větší význam než samotný provoz originálního 2,4T modelu.
Meta Muse Code: coding agent, který používá paralelní subagenty
Meta spustila beta verzi Muse Code, agentního nástroje zaměřeného na vývoj softwaru. Muse Code navržen pro delší úkoly zahrnující více kroků. Systém využívá model Muse Spark 1.2 a dokáže pracovat s paralelními subagenty.
Jeden agent tak například může implementovat určitou část změny, zatímco jiný paralelně analyzuje jinou část projektu, připravuje testy nebo kontroluje související problém. Muse Code zároveň nabízí persistentní activity log, díky kterému lze zpětně sledovat provedené kroky a operace agentů. To je užitečné pro audit práce systému, ale není to totéž jako možnost sledovat „každou interní myšlenku modelu“.
Komentář: Multi-agentní coding systémy jsou zajímavé právě proto, že se snaží napodobit něco, co dobře funguje v lidských vývojářských týmech: rozdělení práce.
Namísto jednoho obrovského promptu může orchestrátor rozdělit problém mezi několik agentů. To ale automaticky neřeší spolehlivost. Pokud se několik agentů opírá o stejný chybný předpoklad, můžete místo jedné halucinace dostat koordinovaný tým halucinujících programátorů.
Skutečná hodnota proto nebude jen v počtu agentů, ale především v testování, izolaci prostředí, kontrole změn a schopnosti systému poznat, že výsledek nefunguje.
Claude zavádí neviditelné textové watermarky. Co vlastně dokazují?
Anthropic zavádí do části textových výstupů modelů Claude strojově detekovatelný statistický watermark. Motivací je mimo jiné větší transparentnost AI obsahu a regulatorní požadavky, včetně evropského AI Actu. Na rozdíl od viditelného označení typu „vytvořeno pomocí AI“ není watermark samostatný znak nebo metadata připojená na konec dokumentu. Statistický signál vzniká už během generování tím, jakým způsobem model vybírá jednotlivé tokeny.
U podporovaných obrazových a dalších mediálních výstupů se vedle toho používají také standardy provenance, například C2PA. Je ale velmi důležité správně interpretovat, co detekce takového watermarku znamená.
Pokud je v textu nalezen statistický signál Claude, není to automatický důkaz, že celé dílo od začátku napsala AI. Výsledek závisí na množství textu skutečně vygenerovaného modelem, délce dokumentu, následných úpravách a dalších faktorech.
Stejně tak není správné předpokládat, že text, u kterého Claude pouze opravil několik překlepů, ponese automaticky stejně silný watermark jako kompletně nově vygenerovaná stránka.
Komentář: A právě interpretace watermarků podle mě představuje větší problém než samotná technologie. Je lákavé představit si detektor, který jednoduše řekne: AI: ano / ne. Jenže realita autorství je mnohem složitější. Někdo napíše celý text a AI opraví gramatiku. Jiný napíše osnovu a AI rozvede dva odstavce. Další nechá model vytvořit první draft a následně jej kompletně přepíše. A někdo vygeneruje celý článek jedním promptem.
Házet všechny tyto případy do jedné kategorie „napsala AI“ by bylo velmi zavádějící. Uvidíme jak s postupem času probudí nástroje na ředění těhle statistických tokenů…
Zdroj: https://happymag.tv/claude-invisible-watermarks-guide/
Když AI obejde sandbox: Irregular testuje ofenzivní schopnosti frontier modelů
S rostoucí schopností AI agentů používat terminál, internet, programovací nástroje a vzdálené služby začíná být stále důležitější nový typ bezpečnostního testování. Jednou ze společností zaměřených právě na tuto oblast je Irregular.
Firma testuje schopnosti frontier modelů v realistických scénářích kybernetické bezpečnosti a zkoumá, jak se systémy chovají při úlohách zahrnujících hledání zranitelností, exploitaci, pohyb mezi systémy nebo obcházení bezpečnostních omezení.
Pozornost přitáhl také experiment, při kterém AI agent v testovacím prostředí nalezl cestu mimo původně zamýšlené omezení a kompromitoval infrastrukturu související s Hugging Face. Model dostal cíl, nalezl neočekávanou cestu k jeho splnění a využil slabiny prostředí, které mělo jeho možnosti omezovat. Právě skutečnost, že to dokázal bez explicitního naprogramování konkrétního útoku, je pro bezpečnostní výzkum zajímavá.
Komentář: Tady podle mě začíná jedna z nejdůležitějších bezpečnostních debat celé agentní éry. Dokud AI pouze generovala text v chatovacím okně, její chyba většinou skončila nesmyslnou odpovědí. A není vůbec nutné, aby měl model nějaký „zlý úmysl“.
Stačí kombinace agresivně optimalizovaného cíle, nedostatečně definovaných omezení a zranitelného prostředí. Proto bude red teaming a testování agentních systémů v sandboxech pravděpodobně stejně důležité jako samotný vývoj jejich schopností.
Zdroj:
xAI představuje Grok 4.6: důraz na dlouhodobé agentní úlohy
xAI 12. srpna 2026 představilo Grok 4.6, další generaci svého frontier modelu. Model se výrazně zaměřuje na dlouhodobější agentní práci, programování a úlohy, při kterých musí systém postupně provést větší množství kroků místo jediné otázky a odpovědi. Podporuje textové i obrazové vstupy a nabízí velmi rozsáhlé kontextové okno.
V nezávislých hodnoceních se Grok 4.6 pohybuje mezi nejvýkonnějšími současnými modely a v některých oblastech se dostává velmi blízko systémům typu GPT-5.6 Sol.
Výsledky jednotlivých benchmarků se ale výrazně liší a není přesné z nich vyvozovat, že Grok 4.6 obecně překonává všechny konkurenční modely.
Důležitější než několik bodů v benchmarku je posun zaměření: xAI, stejně jako ostatní velké laboratoře, optimalizuje model stále více pro dlouhodobou práci agenta, nikoliv pouze pro jednotlivé chatové odpovědi.
Komentář: Tohle je podle mě podstatnější než otázka, zda má Grok v konkrétním žebříčku 67 nebo 69 bodů. AI trh se postupně přesouvá od: „Který chatbot odpoví nejlépe na jednu otázku?“ k mnohem praktičtější otázce: „Který systém dokáže dvě hodiny samostatně pracovat, používat nástroje, průběžně kontrolovat výsledky a na konci skutečně dokončit úkol?“
Shrnutí: modely jsou větší, ale skutečný boj se přesouvá jinam
Když se na poslední týdny podíváme jako na celek, je vidět několik velmi výrazných trendů. Prvním je pokračující tlak open-weight modelů z Číny. Kimi K3 a Qwen 3.8 ukazují, že modely s biliony parametrů už nejsou automaticky výsadou uzavřených amerických laboratoří.
Druhým trendem je lokální AI. Bonsai, Muse Glimmer a další projekty ukazují, že vedle závodu o největší model probíhá možná ještě důležitější závod o to, kolik schopností se podaří nacpat do omezené paměti a spotřeby.
Třetím trendem jsou AI agenti. Grok, Muse Code i NVIDIA Nemotron se už nesoustředí jen na kvalitu odpovědi v jednom promptu. Hlavním tématem je dlouhodobá práce, používání nástrojů, orchestrace subagentů a schopnost dokončit složitý úkol.
A čtvrtým trendem je bezpečnost. Incident Grok Build, experimenty Irregular i debata kolem autonomních robotů připomínají, že čím více reálných oprávnění AI dostane, tím méně ji můžeme hodnotit jako obyčejný chatbot. AI agent s přístupem k vašemu počítači není jen model. Je to privilegovaný software.
A přesně podle toho bychom k němu měli přistupovat.
