Co neposílat do ChatGPT a dalších AI nástrojů

Je to až podezřele pohodlné.

Máme dlouhý e-mail od zákazníka?

Shrň mi ho a navrhni odpověď.

Smlouvu?

Najdi v ní problematická místa.

Excelovou tabulku?

Udělej mi z těchto dat přehled.

Zdrojový kód?

Najdi chybu.

AI během několika sekund pomůže s prací, která by nám jinak zabrala půl hodiny.

A právě proto je velmi snadné zapomenout na jednu drobnost:

Co všechno jsme jí spolu se zadáním právě poslali?

Nejdřív jednoduché pravidlo

Než něco vložíte do AI chatu, položte si otázku:

Poslal bych stejná data bez přemýšlení také externímu dodavateli?

Pokud ne, je dobré se zastavit.

AI chat není soukromý poznámkový blok uložený pouze ve vašem počítači.

Používáte službu provozovanou určitou společností, s konkrétními podmínkami, způsobem zpracování dat, nastavením účtu a technickou infrastrukturou.

To samo o sobě neznamená, že je služba nebezpečná.

Znamená to pouze, že odesíláte data do dalšího systému.

A měli byste vědět jaká.

Chat není AI samotná

Při běžném používání snadno vznikne pocit, že ChatGPT nebo podobné okno v prohlížeči je umělá inteligence.

Přesnější je představit si ho jako službu a rozhraní, přes které s AI pracujeme.

Mezi vaším textem a výslednou odpovědí může být celý systém: uživatelský účet, servery provozovatele, zvolený model, ukládání historie, bezpečnostní mechanismy, případně připojené nástroje nebo další služby.

Různé produkty navíc mohou s daty zacházet rozdílně.

Proto nedává příliš smysl říkat:

AI moje data určitě ukládá.

Stejně jako není správné tvrdit:

AI si nic nepamatuje, takže je to bezpečné.

Správná otázka zní:

Jak s mými daty zachází konkrétní služba, kterou právě používám?

Hesla patří mezi nejjednodušší příklady

Máte problém s přihlášením do databáze a pošlete AI konfiguraci:

DB_HOST=db.firma.cz
DB_USER=administrator
DB_PASSWORD=MojeSuperHeslo123

AI má teď skvělý kontext.

Bohužel až příliš skvělý.

Do běžného AI chatu bychom neměli vkládat například:

• hesla,
• API klíče,
• přístupové tokeny,
• privátní klíče,
• recovery kódy,
• přihlašovací cookies,
• kompletní konfigurační soubory obsahující přístupové údaje.

Pro analýzu většinou skutečnou hodnotu vůbec nepotřebujeme.

Stačí:

DB_PASSWORD=<PASSWORD>

AI pochopí strukturu úplně stejně.

A skutečné heslo nikam neposíláme.

Pozor na zdrojový kód

Programátoři patří mezi lidi, kterým AI dokáže ušetřit obrovské množství času.

A zároveň mají velmi snadný přístup k věcem, které by se ven dostat neměly.

Nestačí proto před vložením kódu jen rychle zkontrolovat, jestli někde není napsáno password.

Ve zdrojových souborech nebo konfiguraci mohou být:

• přístupové údaje,
• interní adresy serverů,
• API endpointy,
• zákaznická data,
• interní názvy systémů,
• bezpečnostní mechanismy,
• obchodně citlivá logika aplikace.

Navíc může být problémem samotný zdrojový kód.

Pokud jde o neveřejný software firmy nebo zákazníka, nemusíte mít právo jej libovolně předávat externí službě.

To, že k souboru máte přístup, ještě neznamená, že jej můžete poslat kamkoliv.

Celá databáze opravdu není potřeba

Typický problém:

Potřebuji zjistit, proč mi nefunguje tento SQL dotaz.

K řešení pravděpodobně nepotřebujeme export databáze se jmény, adresami, telefony a historií objednávek skutečných zákazníků.

Často stačí struktura tabulek a několik smyšlených záznamů.

Místo:

Jan Novák, jan.novak@example.cz, +420 123 456 789, objednávka...

můžeme použít:

Zakaznik A, zakaznik@example.test, 000000000, objednávka...

Technický problém zůstane stejný.

Osobní údaje zmizí.

Osobní údaje nejsou jen rodné číslo

Když se řekne citlivá data, lidé si často představí rodné číslo nebo číslo platební karty.

Jenže člověka lze identifikovat mnoha dalšími informacemi.

Jméno, e-mail, telefon, adresa, zákaznické číslo, IP adresa nebo kombinace několika údajů mohou představovat osobní údaje.

Ještě opatrnější bychom měli být u informací, které se týkají například zdraví, intimního života, náboženství nebo dalších zvlášť chráněných oblastí osobního života.

Nejde jen o otázku:

Může to AI technicky zpracovat?

Může.

Otázka je:

Máme důvod a oprávnění tyto údaje konkrétní službě předat?

„Ale potřebuji, aby mi AI ten dokument zkontrolovala.“

To je naprosto legitimní použití.

Jen není vždy nutné poslat dokument přesně tak, jak přišel.

Představme si pracovní smlouvu.

Pro kontrolu formulace možná nepotřebujeme skutečné jméno zaměstnance, adresu bydliště, datum narození, číslo účtu a výši osobních odměn.

Můžeme vytvořit kopii:

Zaměstnanec: [JMÉNO]
Adresa: [ADRESA]
Číslo účtu: [ÚČET]

Obsah ustanovení zůstane zachovaný.

Údaje, které AI k úkolu nepotřebuje, jsme odstranili.

Tomuto principu se vyplatí rozumět i mimo svět AI:

Nepředávejme více dat, než je pro konkrétní úkol potřeba.

Zákaznický e-mail není automaticky váš text

Přijde vám e-mail:

Dobrý den, po operaci mám problémy s...

A vy jej celý zkopírujete do AI se zadáním:

Napiš slušnou odpověď.

Technicky je to otázka několika sekund.

Jenže informace v e-mailu nejsou jen vaše.

Patří k určitému člověku, který je poslal vaší firmě za určitým účelem. Nemusí očekávat, že celý jeho text včetně identifikačních údajů předáte další službě.

Často přitom stačí napsat:

Zákazník se ptá, zda lze z důvodu zdravotních komplikací přesunout termín. Navrhni zdvořilou odpověď.

AI pro vytvoření odpovědi nepotřebuje vědět, kdo zákazník je ani jakou přesně prodělal operaci.

Obchodní tajemství může být ještě větší problém než osobní údaje

Ne všechna důležitá data se týkají GDPR.

Firma může mít informace, které prostě nechce posílat mimo své prostředí:

• neveřejné ceníky,
• obchodní strategie,
• připravované produkty,
• nabídky před vyhlášením,
• interní kalkulace,
• seznamy zákazníků,
• marže,
• technické postupy,
• neveřejné smlouvy,
• informace podléhající NDA.

AI může být skvělý pomocník při jejich analýze.

To ale ještě neznamená, že konkrétní AI služba smí tato data dostat.

Tady už nejde pouze o technologii.

Jde také o firemní pravidla, smlouvy a odpovědnost vůči zákazníkům nebo partnerům.

Pozor na velmi jednoduchou větu: „Je to anonymní“

Odstraníme jméno a máme hotovo?

Ne vždy.

Představme si:

Finanční ředitel naší firmy z Ústí nad Labem, který nastoupil 3. dubna 2026 a minulý týden...

Jméno jsme sice odstranili, ale pokud podle ostatních informací člověka snadno poznáme, příliš jsme si nepomohli.

Skutečná anonymizace znamená, že osobu z poskytnutých informací nelze rozumně určit.

Někdy tedy nestačí vymazat jméno.

Je potřeba odstranit nebo zobecnit také další údaje.

Soubory jsou pořád data

AI nástroje dnes umožňují nahrát PDF, Word, tabulku, prezentaci, fotografii nebo celý archiv.

To je výborné.

A zároveň trochu nebezpečně pohodlné.

U souboru totiž člověk často nevidí jeho obsah tak bezprostředně jako u textu, který právě kopíruje.

Nahrajeme:

objednavky-2026.xlsx

a zapomeneme, že v dalších sloupcích jsou telefonní čísla, adresy a poznámky pracovníků.

Nahrajeme PDF smlouvy a přehlédneme podpisy a kontaktní údaje.

Nahrajeme screenshot chyby a v rohu obrazovky je otevřený správce hesel nebo zákaznický e-mail.

Před odesláním souboru tedy platí stejné pravidlo jako u textu:

Podívat se, co v něm skutečně je.

A co bezplatná a placená verze?

Tady nelze vytvořit univerzální pravidlo.

Jednotlivé služby mají různé produkty, podmínky a možnosti nastavení. Jinak může být řešen běžný spotřebitelský účet, jinak firemní nebo podnikové prostředí a jinak přístup přes API.

Podmínky se navíc mohou měnit.

Proto je u pracovního použití lepší zjistit konkrétně:

• zda a jak se vstupy ukládají,
• jak dlouho mohou být uchovávány,
• zda mohou být použity ke zlepšování služby nebo modelů,
• kdo k nim může mít přístup,
• zda lze některé způsoby používání dat vypnout,
• kde jsou data zpracovávána,
• jaké podmínky platí pro firemní účet nebo API.

Logo AI služby nám samo o sobě neřekne, jaký režim zpracování dat právě používáme.

Historie a paměť jsou užitečné. A právě proto stojí za pozornost.

Moderní AI služby nemusí pracovat pouze s jedinou zprávou.

Mohou mít historii konverzací, pamatovat si některé informace mezi chaty nebo využívat další kontext, který jsme jim zpřístupnili.

To může být velmi praktické.

Nemusíme pokaždé vysvětlovat, na čem pracujeme.

Současně je ale dobré vědět, co máme zapnuté a jaké informace jsme systému dlouhodobě poskytli.

Pohodlí a soukromí nejsou nutně nepřátelé.

Jen bychom o jejich nastavení měli vědět.

Firemní AI potřebuje pravidla

Ve firmě je situace ještě zajímavější.

Jeden zaměstnanec používá ChatGPT. Druhý jinou službu. Třetí si našel bezplatný AI nástroj, který mu během pěti sekund „analyzuje smlouvu“.

A všichni do nich posílají firemní data podle vlastního uvážení.

To není příliš dobrý bezpečnostní model.

Firma nemusí AI zakázat.

Mnohem užitečnější bývá určit:

Které nástroje smíme používat?

Jaká data do nich můžeme posílat?

Co musíme předem anonymizovat?

Co se do externí AI neposílá vůbec?

Jak postupovat, když potřebujeme AI použít na důvěrný dokument?

Pět srozumitelných pravidel může být užitečnější než čtyřicetistránková směrnice, kterou nikdo nečetl.

Jednoduchý semafor před stisknutím Enteru

Obvykle bez problémů

Veřejně dostupné informace, vlastní obecné texty, anonymní příklady, brainstorming, stylistické úpravy nebo data vytvořená přímo pro daný úkol.

Nejdřív zkontrolovat

Interní dokumenty, zákaznická komunikace, zdrojový kód, pracovní smlouvy, obchodní nabídky, databázové výpisy nebo dokumenty obsahující osobní údaje.

Zvažte odstranění nepotřebných údajů a ověřte pravidla používané služby.

Bezmyšlenkovitě neposílat

Hesla, API klíče, přístupové tokeny, privátní klíče, kompletní databáze zákazníků, vysoce důvěrné dokumenty, informace chráněné smluvní mlčenlivostí nebo jiné údaje, které nemáte oprávnění externí službě předat.

Nejde o to AI nic neříkat

To by z ní nebyl příliš užitečný pomocník.

Smyslem není každý dokument nejdřív vytisknout, začernit fixou a teprve potom se odvážit položit otázku.

Stačí vytvořit nový návyk:

Než odešlu data, podívám se, jestli je AI pro splnění úkolu opravdu potřebuje.

Potřebuje znát strukturu databáze?

Pošlu strukturu.

Potřebuje pochopit chybu v programu?

Pošlu relevantní část kódu bez přístupových údajů.

Potřebuje upravit smluvní formulaci?

Možná nepotřebuje jména a čísla účtů.

Potřebuje navrhnout odpověď zákazníkovi?

Nemusí znát jeho kompletní životopis.

AI tím nebude pracovat hůř.

Často naopak dostane čistší zadání.

Nejdražší chyba může být úplně obyčejné Ctrl+C

O bezpečnosti AI se často mluví ve velkých pojmech.

Útoky. Zneužití modelů. Deepfakes. Kybernetické hrozby.

V běžné firmě ale může být problém mnohem nudnější.

Někdo vezme dokument.

Stiskne Ctrl+C.

Vloží ho do chatu.

A vůbec si nevšimne, co všechno právě odeslal.

Proto nemusíme začít strachem z umělé inteligence.

Stačí začít jednou otázkou:

„Potřebuje AI opravdu vidět všechno, co jí právě posílám?“

Velmi často bude odpověď:

Ne.

A právě těch několik nepotřebných řádků může být nejdůležitější část celého zadání.