Úvod do TensorFlow
V tomto článku uvidíme nástin architektury TensorFlow. TensorFlow je knihovna napříč platformami a existují některé běžné pojmy, jako jsou operace, relace a výpočtové grafy. TensorFlow Serving usnadňuje nasazení nových algoritmů a experimentů při zachování stejné architektury databází a API.
Co je architektura Tensorflow?
Tensorflow je běžně používaná knihovna pro hluboké učení, která je vytvořena týmem mozků Google, který pracoval na umělé inteligenci. Byl vyvinut tak, aby mohl být použit na více procesorech, GPU a také může běžet na mobilních zařízeních a podporuje různé třídy obalů, jako jsou python, C ++ nebo Java a tenzory, což jsou objekty, které popisují lineární vztah mezi vektory, skalárem a jinými tenzory. .
Tenzory nejsou nic jiného než vícerozměrná pole. Abychom pochopili architekturu a funkce TensorFlow, musíme nejprve porozumět některým pojmům.
- Tensorflow Servables
- Dostupné verze
- Servable Streams
- Model Tensorflow
- Tensorflow nakladače
- Zdroje Tensorflow
- Manažer Tensorflow
- Tensorflow Core
- Life of Servable
- Batcher V architektuře Tensorflow
1. Tensorflow Servables
- Tensorflow Servables jsou běžné objekty, které se používají hlavně k výpočtu. Velikost obslužného zařízení TensorFlow je velmi flexibilní. Servables jsou centrální nedokončené jednotky sloužící TensorFlow.
- Obslužná jednotka může obsahovat cokoli, jako může obsahovat n-tice, vyhledávací tabulky. Spravovatelné objekty mohou být jakéhokoli typu a jakéhokoli rozhraní, protože z těchto funkcí je velmi flexibilní a snadné provádět budoucí vylepšení, jako jsou asynchronní provozní režimy, výsledky streamování a experimentální API.
2. Dostupné verze
- Servisní verze se používají pro údržbu verzí TensorFlow. Může zpracovat jednu nebo více verzí Servables. Může pomoci konfigurovat nové algoritmy, zpracovat hmotnosti a provést další změny, načíst data.
- Může také měnit a spravovat verze, povolit více obslužných verzí najednou.
3. Servable Streams
Je to kolekce různých verzí Servables. Ukládá je ve stále větší řadě verzí.
4. Modely Tensorflow
- Model TensorFlow může obsahovat jeden nebo více TensorFlow Servables. Používá se hlavně v úlohách strojového učení, které mohou obsahovat více než jeden algoritmus, který obsahuje různé hmotnosti podle modelu, vyhledávacích tabulek, metrik a vkládání tabulek.
- Může být obsluhována mnoha různými způsoby tak, že existují různé způsoby, jak obsluhovat vyhledávací tabulku.
5. Tensorflow nakladače
- Zavaděč Tensorflow je API, které řídí životní cyklus TensorFlow Servables. Poskytuje společnou infrastrukturu pro některé algoritmy učení.
- Hlavním využitím zavaděče TensorFlow je načítání a uvolňování obslužných souborů pomocí standardizovaných zaváděcích API.
6. Zdroje Tensorflow
- Zdroje fungují jako modul pluginu. Zdroj Tensorflow provádí základní manipulaci se servisním materiálem, jako je nalezení servisního, na vyžádání poskytuje servis.
- Každá reference může poskytovat jeden nebo více obslužných toků současně. Každý zdroj poskytuje instanci zavaděče pro zpracování verze proudu. A každý opravitelný tok je načten na základě verze.
- Zdroj má různé stavy, které lze sdílet s různými verzemi a více servery. Zvládá také aktualizaci nebo změnu mezi verzemi.
7. Tensorflow Managers
- Manažer Tensorflow zpracovává životní cyklus od konce do konce servisu.
- Načítání Servable, Serving Servable, Unloading Servable.
- Manažer získá odezvu ze všech obslužných zdrojů a také sleduje veškerou jeho verzi. Správce také může odmítnout nebo odložit nahrávání.
- Funkce GetServableHandle () poskytuje rozhraní, které pomáhá zvládat manažerské záležitosti týkající se TensorFlow Servables.
8. Tensorflow Core
Tensorflow Core obsahuje:
- Životní cyklus, metriky.
- Jádro obsluhy Tensorflow bere obsluhovatelné objekty a nakladače jako objekt.
9. Život služby
Celá procedura je vysvětlena o tom, jak se používá servis a celý jeho životní cyklus:
- Zdroj vytváří zavaděče pro různé verze s možností obsluhy. Klientský požadavek na manažera a manažera poslal nakladače aspirovanou verzi, načíst a sloužit zpět klientovi.
- Loader obsahuje metadata, která lze použít k načtení Servables. Zpětné volání se používá k informování správce o zdrojových verzích, které lze spravovat. Správce se řídí zásadami verzí, které pomáhají konfigurovat a rozhodnout, jaká akce bude třeba dále.
- Správce také kontroluje zabezpečení zavaděčů, pokud je to bezpečné, pak pouze poskytne potřebné prostředky zavaděči a udělí oprávnění k načtení nové verze. Manažer poskytuje Severable na žádost klienta, nebo si vyžádá konkrétní verzi explicitně, nebo může požádat o nasměrování nejnovější verze poté, co manažer vrátí popisovač pro přístup k servable.
- Dynamický správce zpracovává obsluhovatelné verze, uplatňuje zásady verzí a rozhoduje, že je třeba načíst verzi nebo nejnovější verzi. Dynamický správce přiděluje paměť zavaděči. Zavaděč iniciuje graf TensorFlow a aktualizuje hmotnosti grafu TensorFlow.
- Když klient požádá obsluhovatelný produkt a zkontroluje verzi, kterou požaduje, pak dynamický správce vrátí obslužný program s požadovanou verzí obslužného programu.
10. Batcher v architektuře Tensorflow
- Dávkování je postup zpracování více požadavků do jedné žádosti.
- Pomocí tohoto postupu můžeme snížit náklady na provádění závěrů, zejména zrychlení hardwaru, jako je GPU, TPU.
- Služba Tensorflow obsahuje widget Batcher. Pomocí tohoto widgetu mohou klienti snadno rozdělit své více specifických požadavků na odvození do jediné šarže. Takže mohou tento postup provádět efektivně.
Závěr - TensorFlow Architecture
Architektura Tensorflow představuje decentralizovaný systém. Ukazuje, jak různé komponenty fungují a plní své role v decentralizovaném systému. Poskytování na žádost klienta a paralelní dávkování více operací. Mezi nejlepší funkce v architektuře TensorFlow patří dávkování operací, hardwarová akcelerace a možnosti dynamického správce, zavaděče, zdroje, obslužné toky.
Doporučené články
Toto je průvodce architekturou TensorFlow. Zde diskutujeme, co je TensorFlow a některé z nejlepších funkcí v TensorFlow Architecture. Další informace naleznete také v dalších navrhovaných článcích -
- Úvod do Tensorflow s charakteristikou
- TensorFlow vs Spark | Top 5 Porovnání
- Theano vs Tensorflow - hlavní rozdíly
- TensorFlow Alternativy Top 11