Tvrtka

Upravljana privatna inferencija, izgrađena u Europi

Hrvatski tehnički tim koji konfigurira, održava, nadzire, ažurira i optimizira privatnu inferenciju unutar infrastrukture klijenta. Otvoren izbor modela povezujemo s distributerskom nabavom Supermicro infrastrukture i dokumentiranim API-jem.

01 — Čime upravljamo

Misija i vizija.

Dvije rečenice koje oblikuju svaku odluku.

Misija

Učiniti suverenu AI praktičnom kroz infrastrukturu koju klijenti kontroliraju i privatnu inferencijsku uslugu kojom mogu pouzdano upravljati.

Vizija

Europa čija se konkurentska prednost u AI-ju gradi na infrastrukturi pod kontrolom klijenta, otvorenom izboru modela i lokalnom operativnom znanju. Taj operativni model činimo održivim.

02 — Gdje smo

Sjedište u Hrvatskoj.

LLM Machines ima sjedište u državi članici EU-a. Vaši modeli, podaci i operativni sustavi ostaju u infrastrukturi koju vi kontrolirate.

Sjedište

Hrvatska · Europska unija Država članica od srpnja 2013. · Eurozona od siječnja 2023.

Europski startup

Customer-premises

Upravljano unutar vaše infrastrukture.

Inferencijsko okruženje radi unutar okruženja koje kontrolirate. Aplikacije Klijenta povezuju se kroz dokumentirani API i ostaju izvan podržane granice Producta. Ništa ne napušta vašu infrastrukturu.

03 — Kako smo došli ovdje

Bootstrapped i usmjeren na proizvod.

Disciplina bez vanjskog kapitala drži fokus na pouzdanoj privatnoj inferenciji, jasnim operativnim granicama i stvarnim potrebama europskih poduzeća.

Osnivači

Tri tehnička suosnivača.

Sistemsko inženjerstvo, razvoj softvera i infrastrukturne operacije u jednom timu. Dimenzioniramo okruženje, koordiniramo distributersku nabavu Supermicro infrastrukture i podržavamo uslugu od početka do kraja.

Disciplina

Svaka komponenta mora opravdati svoje mjesto.

Ta disciplina oblikuje naš operativni temelj: lokalna inferencija, Console, identitet, Activity & Audit, observability sloj, lifecycle kontrole i dokumentirani API. Integracija aplikacija Klijenta ugovara se zasebno.

04 — Operativno načelo

Ništa ne napušta vašu infrastrukturu.

To je najvažnija rečenica našeg operativnog modela i određuje granicu svake customer-premises implementacije.

Što pratimo

Operativni metapodaci, bez sadržaja.

Observability sloj prati zdravlje GPU-a, pohrane, mreže, modela i servisa. Activity & Audit bilježi administrativne događaje i metapodatke korištenja, ali ne sadržaj zahtjeva ili odgovora.

Što nikad ne vidimo

Sadržaj ostaje unutar vašeg perimetra.

Komponente kojima upravlja LLM Machines ne zadržavaju promptove, odgovore modela, argumente ili rezultate alata ni request/response bodyje. Vaše aplikacije i napredne integracije ostaju pod vašom kontrolom.

Pristup podrške

Udaljeni pristup zadano je isključen.

Ako je potreban za podršku, omogućujete ga izričito, vremenski ograničeno i auditirano. Vi određujete prozor, opseg i trenutak opoziva.

05 — Suverenost

Dizajnirano u Hrvatskoj.
Za europska poduzeća.

Suverenost je temelj arhitekture. Zadane postavke, komponente i implementacijski proces podržavaju regulirane operacije u EU-u, uz dokaze i provjere specifične za svaku implementaciju.

EU AI ACT — Auditabilnost kroz implementaciju

Operativni tragovi, transparentnost, ljudski nadzor.

On-prem implementacija daje vam Activity & Audit zapise administrativnih događaja, Application usage metapodatke i kontrole uloga unutar vašeg perimetra. To pruža provjerljive operativne dokaze bez pohrane sadržaja promptova i odgovora.

GDPR — Minimizacija podataka po dizajnu

Osobni podaci ostaju u vašem okruženju.

Poslovne tajne, osobni podaci i povjerljivi zapisi obrađuju se lokalno, pod vašim pravilima pristupa i zadržavanja. Ništa ne napušta vašu infrastrukturu.

NIS2 — Rizik supply chaina, smanjen

Uklonite cloud-AI poveznicu iz vašeg sigurnosnog perimetra.

NIS2 je proširio cybersigurnosne obveze na bitne i važne subjekte i stavio rizik supply chaina na dnevni red uprave. Customer-premises inferencija smanjuje ovisnost o vanjskim AI API-jima te zadržava identitet, observability i operativnu kontrolu lokalno.

EU DATA ACT — Prenosivost, prema zadanim postavkama

Vaš stack. Vaša prava. Dizajnirano za prenosivost.

Data Act izričito cilja cloud lock-in i prava prenosivosti. Komponente trećih strana pod upstream licencama, prenosivi modeli i dokumentirani API ugovor čine Appliance preglednim, a aplikacijsku granicu poznatom.

Europski tim, implementacija pod kontrolom klijenta. Dizajnirano u Hrvatskoj za europska poduzeća i operirano unutar vaše infrastrukture.

SRC

Source-available izvorni kod Producta koji je razvio LLM Machines. Izvorni kod Producta koji je razvio LLM Machines dostupan je kao source-available kod pod neizmijenjenom licencom PolyForm Internal Use License 1.0.0. Komponente trećih strana zadržavaju svoje upstream licence.

⌂

Implementirano unutar vašeg perimetra. Vaša infrastruktura, vaš hardver, vaša pravila. Ništa ne napušta vašu infrastrukturu.

06 — Iznad rezidentnosti

Suverenost je više od mjesta gdje podaci sjede.

Za AI radna opterećenja, suverenost ovisi o tome tko kontrolira data plane, operativni model i tehnološki stack.

Suverenost podataka

Inferencijski sadržaj ostaje lokalni.

Core Appliance izvršava se u infrastrukturi klijenta. Promptovi i odgovori obrađuju se lokalno, a LLM Machines-managed komponente ne zadržavaju njihov sadržaj.

Operativna suverenost

Vi odlučujete tko može pristupiti sustavu.

Identitet, Admin i Operator uloge te pristup podrške ostaju pod vašom kontrolom. Udaljeni pristup zadano je isključen i uključujete ga samo izričito, vremenski ograničeno i auditirano.

Tehnološka suverenost

Komponente pod upstream licencama olakšavaju promjenu.

Chat Completions je dokumentirani API protokol kojim vaše omiljene aplikacije i harness alati pristupaju odobrenim lokalnim modelima. Komponente trećih strana pod upstream licencama i prenosivost modela čuvaju vaš izbor.

Što slijedi

Donesite upravljanu privatnu inferenciju in-house.

Privatnu inferenciju operativno održavamo unutar vaše infrastrukture. Vaše aplikacije i harness alati povezuju se putem dokumentiranog API-ja.

Pogledajte tehnologiju Pogledajte cijene Razgovarajte s prodajom →