Soukromí
Myslíš si, že jsi anonymní, když si smažeš jméno?
mlj.solutions
mlj.solutions Smazané jméno nestačí. AI si ho může dopočítat. LLM agent umí propojit slabé stopy z více zdrojů a z anonymních dat rekonstruovat identitu. Pro firmy s AI přístupem k interním datům je to zásadní výzva. ❓Máte nastavenou privacy-by-design strategii pro vaše AI systémy?
Zobrazit na Instagramumlj.solutions
mlj.solutions Smazali jste jméno. Data ještě anonymní nejsou. LLM agent dokáže spojovat slabé indicie - město, práci, zálibu, styl psaní, fragment příběhu - s veřejnými informacemi. A z něčeho, co samo o sobě nevypadá osobně, rekonstruovat reálnou identitu. To mění pravidla pro každou firmu, která dává AI přístup k dokumentům, CRM nebo interním znalostem. Nestačí řešit jen to, co je v jednom souboru. Musíte řešit, co jde odvodit kombinací více zdrojů. 👉 Jak řešíte privacy u interních AI systémů? Video ve čtvrtek.
Zobrazit na InstagramuO čem studie je
Anonymizovaná data jsou dlouho považována za bezpečná. Studie ukazuje, že LLM agenti dokáží z rozptýlených, individuálně neidentifikujících stop složit konkrétní identitu bez jakéhokoli specializovaného inženýrství.
79,2 %
anonymních profilů úspěšně deanonymizováno
Agenti na datasetu Netflix rekonstruovali 792 ze 1 000 identit, přičemž klasická metoda dosáhla pouze 56 %.
98 %
úspěšnost při explicitním požadavku
Při přímém zadání re-identifikace Claude 4.5 dosáhl úspěšnosti přes 98 % napříč všemi typy fingerprint stop.
10
identit odhaleno z AOL vyhledávacích logů
Agent propojil anonymní dotazy s veřejnými zdroji a odhalil konkrétní osoby, včetně velmi citlivých informací o jejich zdraví a osobním životě.
Co z toho vyplývá
- Anonymizace sama o sobě nestačí, odstranění jména a přímých identifikátorů nestačí, pokud zůstanou kontextové stopy.
- K de-anonymizaci nemusí dojít úmyslně, agent může rekonstruovat identitu jako vedlejší efekt běžné analytické úlohy.
- Bezpečnostní guardrails selhávají, explicitní požadavky na re-identifikaci nejsou modely konzistentně odmítány.
- Více slabých stop se sčítá, žádná informace sama o sobě neidentifikuje, ale jejich kombinace ano.
- Ochrana vyžaduje aktivní design, privacy-aware system prompt snižuje riziko, ale za cenu horší využitelnosti modelu.
Náš pohled
Největší bezpečnostní riziko není útočník. Je to slepá důvěra a přesvědčení, že nástroji lze stoprocentně věřit.
Michal Dobrovolný
Zdroj
Ko, M., Jeong, J., Thakur, S. S., Kim, G., & Jia, R. (2026). From Weak Cues to Real Identities: Evaluating Inference-Driven De-Anonymization in LLM Agents. arXiv:2603.18382. https://arxiv.org/abs/2603.18382
Pokračujte ve čtení
Nepřehlédněte další příspěvky
Chcete AI implementovat ve vaší firmě?
Projdeme spolu vaše potřeby a navrhneme přístup, který přinese měřitelné výsledky.
Napište nám
