Lokální jazykový model
AI běžící na vlastním serveru bez posílání dat do cloudu.
Nástroje jako Ollama nebo LM Studio spustí otevřené modely (Llama, Mistral, Qwen) na vlastním hardwaru. Data neopouštějí firmu, což řeší citlivé dokumenty a regulaci.
Cenou je hardware: pro rozumnou rychlost je potřeba GPU s 16–24 GB VRAM. Kvalita menších modelů je nižší než u velkých cloudových, pro interní hledání a shrnutí ale často dostačuje.
Související pojmy
- RAG – AI nad vlastními dokumenty
Model odpovídá z vašich podkladů, ne z obecných znalostí.
- GPU server
Servery pro AI, ML, rendering a HPC s NVIDIA nebo AMD GPU.
- AI a ochrana osobních údajů
Kam data putují, jak dlouho se drží a zda se na nich model učí.
Podobné pojmy
Výrazy z jiných kategorií, které s tématem „Lokální jazykový model“ souvisí.
- OpenStackCloud, Microsoft 365 a Workspace
Opensource sada projektů pro vybudování vlastního cloudu typu IaaS na vlastním hardwaru.
- BYOL – Bring Your Own LicenseCloud, Microsoft 365 a Workspace
Model, kdy si firma do cloudu přináší vlastní zakoupenou licenci software.
Kdy zvolit cloudovou správu AP a kdy vlastní kontrolér na serveru.
- Cloudové vs. lokální smart home řešeníSmart Home
Zásadní rozhodnutí mezi závislostí na cloudu výrobce a plně lokálním provozem bez internetu.
- iSCSIVirtualizace a servery
Blokové úložiště přes IP síť – disk NASu připojený jako lokální disk serveru.
- Loxone MiniserverVýrobci a ekosystémy
Řídicí jednotka chytré domácnosti Loxone běžící lokálně bez cloudu.
- Migrace síťových disků do clouduCloud, Microsoft 365 a Workspace
Přesun sdílených složek ze serveru do SharePointu nebo na Disk.
- Model sdílené odpovědnosti v clouduBezpečnost
Rozdělení bezpečnostních povinností mezi poskytovatele cloudu a zákazníka.
Další z kategorie AI a automatizace v IT
Potřebujete s tím pomoct?
Řešíme ai a automatizace v it v praxi – od návrhu a měření až po realizaci a následnou správu.