GitHub nasazuje dlouho očekávanou funkci pro svého bota Dependabot. Nově lze aktualizace závislostí seskupovat do jednoho pull requestu, což výrazně snižuje zahlcení...
Proč je menší AI model od Microsoftu chytřejší než dvakrát větší konkurence
Microsoft s modelem Phi-4-Mini-Reasoning otřásá zavedeným pravidlem, že větší je vždy lepší. Tento kompaktní model s pouhými 3,8 miliardami parametrů totiž v matematických testech drtí i modely s dvojnásobnou velikostí. Klíčem není hrubá síla, ale architektura a především kvalita dat.
V éře, kdy se výrobci předhánějí v počtu bilionů parametrů, působí přístup Microsoftu skoro kacířsky. Přichází s modelem Phi-4-Mini-Reasoning, který jde naprosto proti proudu. A funguje to. Jak je to možné?
Odpověď leží v trénovacích datech. Místo toho, aby do modelu nasypali celý internet i s jeho balastem, v Microsoftu se zaměřili na extrémně pečlivý výběr a generování syntetických dat. Je to jako učit dítě matematiku. Můžete ho nechat číst tisíce nesouvisejících textů, nebo mu dát kvalitní učebnici příkladů. Phi-4 dostal tu učebnici.
Výsledek? Na benchmarku MATH-500, což je sada opravdu zapeklitých matematických problémů, dosáhl model přesnosti 94,6 %. To je teritorium, kde selhávají i podstatně větší a výpočetně náročnější modely. Ukazuje se, že architektura a data jsou víc než jen slepé navyšování parametrů.
Pro praxi to znamená obrovský posun. Menší, ale chytřejší modely nepotřebují pro inferenci obří farmy GPU. Jejich provoz je levnější, rychlejší a mají potenciál běžet na lokálním hardwaru. Latence se stává zvládnutelnější a energetická náročnost klesá.
Phi-4-Mini-Reasoning tak není jen zajímavým experimentem. Je to důkaz, že inteligentní design architektury a datové strategie může překonat hrubou sílu. Tohle je směr, který dává smysl. Nejde o to postavit co největší monstrum, ale co nejefektivnější nástroj.
Další novinky

Dependabot, nástroj pro automatickou aktualizaci závislostí, nově umí seskupit updaty jedné knihovny napříč celým projektem do jediného pull requestu. Pro týmy...

Řešíte podobnou věc?
Článek shrnuje, co se děje. Pokud řešíte něco podobného u vás, nechte kontakt. Ozveme se s konkrétním postupem.