Copilot zůstává pro lidi
Zaměstnanci ho používají dál. Agenti vyřizují procesy, které nikdo nechce dělat ručně, a výsledky ukládají tam, kde je lidé i Copilot najdou.
Úvod / Pro IT
Nejdřív vaše pravidla, potom naši agenti.
IT odpovídá za bezpečnost, ne za to, že se o AI rozhodlo jinde. Proto začínáme tím, co smíte a co ne. Agenti pak běží uvnitř těchto hranic, ne vedle nich.
Máte jen Copilota? Je to rozumný základ. Jak na něj navázat.
Tři pravidla, která nedáváme z ruky
Vaše pravidla jsou vstup
Hosting, modely, identita i oprávnění určuje IT. Agent se přizpůsobí, ne naopak.
Nic s dopadem bez schválení
Platby, zápisy a odeslání mimo firmu čekají na člověka, dokud výslovně nerozhodnete jinak.
Všechno je dohledatelné
Každý krok agenta je v záznamu, který čtete vy. Kdykoli můžete agenta vypnout.
Máte schváleného jen Copilota?
Je to běžný a rozumný stav. Jeden dodavatel, jedna správa oprávnění, jasná pravidla. Copilot ale pomáhá jednotlivci s jeho prací. Nehlídá fronty dokladů, nepřepisuje data mezi systémy a nepředává výjimky dalšímu člověku. Tam obvykle narazíte na strop.
Agent zapadne do vašeho prostředí
Pokud je Microsoft váš standard, navrhneme agenty tak, aby využili stejnou identitu, uložení dat a dohled jako zbytek vaší platformy.
Když stačí Copilot, řekneme to
Některé úlohy zvládnete s Copilotem nebo jeho nástrojem pro tvorbu agentů sami. Pokud je to váš případ, doporučíme to a nic neprodáme.
Čím se agent liší od toho, co už máte
| Vlastnost | Chatbot | Asistent typu Copilot | Automatizace (RPA) | AI agent |
|---|---|---|---|---|
| Kdo ho spouští | Člověk otázkou. | Člověk, uvnitř aplikace, kterou právě používá. | Plán nebo událost. | Událost, plán nebo člověk. |
| Jak pracuje | Odpovídá textem. | Navrhne text, shrnutí nebo tabulku. Použije je člověk. | Opakuje pevně zapsané kroky. | Sám zvolí kroky k cíli a používá vaše systémy jako nástroje. |
| Zvládne e-mail, sken a PDF | Ano, když je do něj člověk vloží. | Ano, v rámci dokumentů a pošty daného uživatele. | Bez doplňků obvykle ne. Volný text a proměnlivé formáty dělají potíže. | Ano, a výsledek zapíše do systému. |
| Zapisuje do firemních systémů | Obvykle ne. | Omezeně. Zápis typicky dělá člověk. | Ano, ale jen podle pevných pravidel. | Ano, v mezích oprávnění a se schvalováním. |
| Co dělá s výjimkou | Nic, nezná ji. | Zůstává na člověku. | Obvykle se zastaví nebo ji odloží do fronty. | Předá ji člověku i s podkladem. |
| Typické použití | Dotazy na znalosti. | Osobní práce: pošta, schůzky, dokumenty. | Stabilní, přesně popsané přenosy dat. | Opakované procesy s doklady a rozhodováním podle pravidel. |
Nejde o soupeření. Copilot pomáhá člověku, agent odvádí proces. Podrobnosti najdete na stránce AI agenti.
Od Copilota k agentům ve čtyřech krocích
- 1
Copilot pro jednotlivce
Výchozí bod
Lidé ho používají při své práci.
- 2
Společná pravidla
Dohodnete, co se smí zadávat a jak se kontrolují výstupy.
- 3
První agent v souběhu
Jedna činnost, zkušební prostředí, žádný zápis do ostrých systémů.
- 4
Agenti v řízeném provozu
Schvalování, záznamy a vypínač jsou součástí provozu.
Nemusíte nic přeskakovat. O dalším kroku rozhodujete podle naměřených čísel.
Architektura a hranice důvěry
Co agent potřebuje, běží uvnitř hranice vámi zvoleného prostředí. Model se volá jen přes jednu bránu a každý krok má svůj záznam.
Hranice vaší organizace
1VstupyE-maily, doklady, formuláře. Považujeme je za nedůvěryhodné a omezujeme, co z nich může agent spustit.
2AgentMá jen nástroje, které potřebuje pro svůj úkol.
3Přístup k modeluJediné místo, odkud se volá model. Určuje, co smí k modelu odejít, a každý krok zaznamenává.
4KonektoryServisní účty s minimem oprávnění. Čtení odděleně od zápisu.
5Jazykový modelPodle vašeho výběru:
- ve vaší infrastruktuře
- v datacentru v EU
- jiný schválený
6Vaše systémyERP, účetnictví, e-mail, disky, datová schránka, interní aplikace.
- Schválení člověkemKroky s dopadem čekají na validátora.
- Záznam všech krokůLze předávat do vašeho SIEM.
- Nouzové vypnutíPod vaší kontrolou, ne přes dodavatele.
NetVoice vyvíjí a provozuje agenty přes přístup, který určíte vy a který můžete kdykoli odebrat.
Rizika a jak je ošetřujeme
Přehled vychází z okruhů, které popisuje OWASP Top 10 pro aplikace s velkými jazykovými modely, a z praxe nasazení.
| Riziko | Co se může stát | Jak to ošetřujeme |
|---|---|---|
| Škodlivý příkaz ve vstupu | Text v e-mailu nebo PDF se snaží agentovi zadat jiný úkol (prompt injection). | Vstup považujeme za nedůvěryhodný. Riziko snižujeme omezením nástrojů agenta a schvalováním kroků s dopadem; zcela ho vyloučit nelze. Neobvyklé chování se zapisuje a předává člověku. |
| Únik dat | Citlivý údaj odejde k modelu nebo mimo firmu. | Model volá jen brána v prostředí, které zvolíte. Co smí k modelu odejít, určujete vy. Odeslání mimo firmu je ve výchozím nastavení zakázané. |
| Příliš široká oprávnění | Agent má víc práv, než potřebuje, a chyba má velký dopad. | Servisní účet na každý úkol, minimum oprávnění, čtení odděleně od zápisu. Ostrý zápis se zapíná až po souběhu. |
| Chybný výstup | Agent sebejistě navrhne nesprávný údaj. | Prahy jistoty, kontrola validátorem a vzorkování. Přesnost se měří na reálném provozu a vykazuje. |
| Nedohledatelnost | Nikdo neví, proč agent něco udělal. | Záznam každého kroku: vstup, použité nástroje, výstup, kdo schválil. Záznam lze předávat do vašeho SIEM. |
| Změna modelu | Dodavatel modelu změní chování a výsledky se zhorší. | Verzi modelu pevně určíme, pokud to poskytovatel umožňuje. Změna prochází stejným souběhem jako první nasazení. |
| Stínová AI | Lidé používají neschválené nástroje, protože ty schválené nestačí. | Řízená alternativa, která pokryje skutečné potřeby, snižuje důvod pravidla obcházet. |
| Výpadek nebo chyba agenta | Proces se zastaví a nikdo neví, co dál. | Nouzové vypnutí a postup návratu na ruční zpracování, který se předem vyzkouší. |
Kde poběží data a modely
Dvě varianty podle toho, co vaše IT dovolí a zvládne. Vaše data nepoužíváme k trénování modelů a totéž ošetříme smluvně s poskytovatelem modelu.
Ve vaší infrastruktuře
Agenti, brána modelu i záznamy běží u vás: ve vlastním datacentru nebo ve vašem cloudovém prostředí. Data neopouštějí vaši organizaci, pokud u vás běží i model.
V datacentru v EU
Pro firmy bez vlastní infrastruktury pro AI. Zpracování probíhá v EU, poskytovatele uvedeme předem. Přístupy, role a záznamy řídíte vy.
Model určuje vaše IT ze schváleného seznamu. Návrh nezávisí na jednom modelu, takže změna dodavatele modelu neznamená stavět znovu celý systém.
Podklady pro soulad s předpisy
- GDPR: záznam o činnostech zpracování a podklady pro posouzení vlivu.
- AI Act: popis systému, lidského dohledu a vedení záznamů, jaké vyžadují zejména vysoce rizikové systémy.
- Kybernetická bezpečnost: popis dodavatelského vztahu, přístupů a záznamů pro řízení dodavatelů, pokud se na vás zákon o kybernetické bezpečnosti vztahuje.
Podklady připravíme. Závěrečné posouzení a odpovědnost zůstávají u vás jako správce údajů. Závazky podle AI Actu se liší podle role a rizikové kategorie systému, určíme je v analýze.
Co od IT potřebujeme
- Jmenovanou kontaktní osobu.
- Zkušební prostředí nebo účet jen pro čtení.
- Rozhodnutí, kde smí běžet data a které modely jsou schválené.
- Vaše bezpečnostní požadavky, nejlépe před první schůzkou.
A co nepotřebujeme
- Administrátorská oprávnění.
- Zápis do ostrých systémů v prvních fázích.
- Trvalý přístup do sítě bez vašeho dohledu.
Dvanáct otázek pro každého dodavatele AI
Pokládejte je nám i komukoli jinému. U každé otázky je, jak vypadá dobrá odpověď. Naše odpovědi dostanete písemně.
- Kde přesně se zpracovávají naše data a kdo k nim má přístup?Dobrá odpověď: Konkrétní místo a seznam rolí. Ne „někde v cloudu“.
- Používají se naše data k trénování modelů?Dobrá odpověď: Ne. Vyžadujte to písemně ve smlouvě.
- Jaká oprávnění agent v našich systémech potřebuje a proč?Dobrá odpověď: Seznam podle úkolu, minimum, čtení odděleně od zápisu.
- Co se stane, když vstup obsahuje škodlivý příkaz?Dobrá odpověď: Popsaná obrana a to, že kroky s dopadem schvaluje člověk.
- Které kroky agent nikdy neudělá sám?Dobrá odpověď: Vyjmenované: platby, mazání, odeslání mimo firmu.
- Jak poznáme, co agent udělal a proč?Dobrá odpověď: Záznam každého kroku, který můžeme číst a předat do SIEM.
- Jak agenta okamžitě zastavíme?Dobrá odpověď: Vypínač pod naší kontrolou, ne přes dodavatele.
- Jaký model používáte a co když se změní?Dobrá odpověď: Pevně určená verze, změna přes testování, možnost modelu vyměnit.
- Kdo z dodavatele má přístup do našeho prostředí?Dobrá odpověď: Jmenovité osoby, časově omezený přístup, záznam přístupů.
- Jak měříte chybovost a jak ji uvidíme?Dobrá odpověď: Čísla z reálného provozu, ne z ukázky.
- Co se stane, když spolupráci ukončíme?Dobrá odpověď: Export dat, konfigurace a dokumentace. Smazání dat s potvrzením.
- Kdo odpovídá za škodu způsobenou chybou?Dobrá odpověď: Jednoznačně ve smlouvě.
Na co se IT ptá nejčastěji
Používáme jen Copilota. Neporušíme tím naše pravidla?
Ne, Copilot zůstává nástrojem pro vaše lidi. Agenta navrhujeme tak, aby zapadl do pravidel, která vaše IT už má: identita, oprávnění, uložení dat a dohled. Jak přesně, určíme s vámi před prvním nasazením.
Může NetVoice přistupovat do našich ostrých systémů?
Jen s oprávněními, která určíte, a se záznamem přístupů. První fáze běží jen se čtením nebo na kopii dat. Přístup můžete kdykoli odebrat.
Kdo vidí vstupy a výstupy agentů?
Záznamy jsou ve vašem prostředí a čtete je vy. Přístup NetVoice k nim určíte vy.
Co když chceme agenty zastavit?
Nouzové vypnutí máte pod vlastní kontrolou. Agent se zastaví a práce se vrací na ruční zpracování podle postupu, který si předem vyzkoušíme.
Jak řešíte GDPR a AI Act?
Připravíme podklady: záznam o zpracování, popis systému a lidského dohledu a schéma toků dat. Závěrečné posouzení a odpovědnost zůstávají u vás jako správce údajů. Závazky podle AI Actu se liší podle role a rizikové kategorie systému, určíme je v analýze.
Máte vlastní bezpečnostní dotazník dodavatele?
Pošlete nám ten váš před schůzkou. Odpovíme písemně a co nedokážeme splnit, řekneme předem.
Potřebujeme kvůli tomu další licence?
Záleží na zvoleném modelu a hostingu. Určíme to v analýze a vždy před tím, než se rozhodnete.
Probereme to s vaším IT.
Pošlete nám vaše bezpečnostní požadavky nebo dotazník dodavatele. Na schůzce projdeme architekturu a odpovíme na otázky písemně. Co nedokážeme splnit, řekneme předem.
Radši telefonicky? +420 724 557 139 nebo netvoice@netvoice.cz.