Roboti čtoucí emoce a AI Act: kde zákaz platí a kde ne

Ne, obecně ne. Evropský AI Act zakazuje systémy umělé inteligence, které odvozují emoce lidí, pouze na pracovištích a ve vzdělávacích institucích, s výjimkami ze zdravotních nebo bezpečnostních důvodů. Robot, který na veletrhu sleduje nálady návštěvníků, pod zákaz nespadá. Přesto je regulovaný: musí lidem sdělit, co dělá, bude se považovat za vysoce rizikový a nesmí analyzovat zaměstnance, kteří se kolem něj pohybují.

Tento článek vysvětluje rozsah zákazu, jak ho vykládá Evropská komise a co z něj plyne pro roboty společenského typu, kteří na akcích zdraví, povídají si s lidmi a reagují na ně. Jde o obecné informace, nikoli o právní poradenství.

Co AI Act ve skutečnosti zakazuje

Čl. 5 odst. 1 písm. f) nařízení (EU) 2024/1689 zakazuje uvádět na trh, uvádět do provozu za tímto účelem nebo používat systémy AI, které odvozují emoce fyzické osoby „v oblasti pracoviště a vzdělávacích institucí“. Jedinou výjimkou je případ, kdy je systém určen ze zdravotních nebo bezpečnostních důvodů. Konsolidované znění článku 5 na portálu AI Act Service Desk Evropské komise ukazuje toto znění, které odráží změny provedené nařízením Digital Omnibus on AI.

Zákazy v kapitole II platí od 2. února 2025, jak uvádí článek 113. Nejde tedy o termín v budoucnosti. Porušení kteréhokoli zákazu podle článku 5 může vést k pokutě až 35 milionů EUR nebo 7 % celosvětového ročního obratu, podle toho, která částka je vyšší, v souladu s čl. 99 odst. 3. U malých a středních podniků se použije nižší z obou částek.

Systém rozpoznávání emocí definuje čl. 3 bod 39 jako systém AI, který identifikuje nebo odvozuje emoce či úmysly na základě biometrických údajů. Biometrické údaje zahrnují fyzické, fyziologické nebo behaviorální znaky, například snímky obličeje.

Jak zákaz vykládá Komise

Komise poprvé zveřejnila pokyny k zakázaným praktikám v oblasti AI dne 4. února 2025. Jsou nezávazné: autoritativní výklad může podat pouze Soudní dvůr EU. Přesto nejlépe ukazují, jak budou regulátoři pravidla pravděpodobně uplatňovat. Formálně přijaté anglické znění, odkaz C(2025) 5052 final, věnuje rozpoznávání emocí celou kapitolu.

Podle pokynů se zákaz uplatní, pouze pokud jsou současně splněny čtyři podmínky:

1. Systém AI je uváděn na trh, uváděn do provozu nebo používán.
2. Systém identifikuje nebo odvozuje emoce.
3. K tomu dochází na pracovišti nebo ve vzdělávací instituci.
4. Použití není určeno ze zdravotních nebo bezpečnostních důvodů.

Zákaz se vztahuje na poskytovatele i na zavádějící subjekty. Pokyny rovněž uvádějí, že se vztahuje na zavádějící subjekt i tehdy, když poskytovatel v podmínkách používání takové použití vylučuje. U akcí to znamená, že pořadatel nebo vystavovatel, který robota provozuje, se nemůže spoléhat jen na smlouvu s dodavatelem.

Úsměv není emoce, ale „šťastný“ je

Pokyny vedou hranici, která je pro roboty důležitá. Zjištění zjevného výrazu, gesta nebo pohybu není rozpoznáváním emocí. Rozpoznáváním emocí je až závěr o tom, co člověk cítí. Pokyny uvádějí příklady: všimnout si, že se člověk usmívá, není rozpoznávání emocí, ale dojít k závěru, že je šťastný, už ano.

Několik věcí z definice vypadává úplně:

• Fyzické stavy jako bolest nebo únava. Bod odůvodnění 18 uvádí příklad zjišťování únavy u pilotů a řidičů.
• Analýza sentimentu z textu, protože psaný text není biometrický údaj. Odvozování emocí z výrazu obličeje, hlasu, držení těla nebo způsobu psaní na klávesnici se však započítává.
• Analýza nálady davu, která neodvozuje emoce konkrétního člověka, například měření celkové hladiny hluku nebo nálady v místě konání.

Pojem emoce je třeba vykládat široce. Pokyny varují, že přejmenování emoce na „postoj“ se zákazu nevyhne.

Proč se zákaz netýká návštěvníků akcí, ale týká se personálu

Pokyny jasně uvádějí, že rozpoznávání emocí používané v obchodním prostředí k oslovování zákazníků pod čl. 5 odst. 1 písm. f) nespadá. Jedním z příkladů je call centrum sledující hněv nebo netrpělivost svých zákazníků, což zakázáno není. Robot na značkové aktivaci, který reaguje na to, jak se návštěvníci zdánlivě cítí, je podle tohoto výkladu mimo zákaz.

Komplikací je, že „pracoviště“ se vykládá široce. Podle pokynů zahrnuje jakýkoli fyzický či virtuální prostor, kde lidé vykonávají práci, od kanceláří a skladů až po veřejně přístupná místa, jako jsou obchody, stadiony a muzea, i dočasná či mobilní pracoviště. Platí to bez ohledu na status dané osoby: zaměstnanec, dodavatel, stážista či dobrovolník.

Výstaviště nebo místo konání akce je proto pracovištěm pro obsluhu stánku, promotéry, hostitele a techniky, kteří jsou přítomni. Robot, který odvozuje emoce těchto lidí, spadá pod zákaz. V souvisejícím příkladu pokyny uvádějí, že supermarket používající kamery k odhalování podezřelých zákazníků nedělá nic zakázaného, „pokud je zajištěno, že nejsou sledováni žádní zaměstnanci“. Uvádějí také, že supermarket sledující emoce svých zaměstnanců jedná zakázaně.

V praxi tak robot, který provádí odvozování emocí u každého obličeje před sebou, včetně ambasadora značky stojícího vedle něj, může hranici překročit. Zda systém dokáže spolehlivě vyloučit personál, je otázka, kterou je vhodné před akcí položit dodavateli.

Školy a akce STEM

Pokyny uvádějí, že „vzdělávací instituce“ je třeba vykládat široce. Pojem zahrnuje veřejné i soukromé instituce, všechny věkové skupiny, odborné školy a další vzdělávání, ať už výuka probíhá online, prezenčně, nebo kombinovaně. Mezi příklady zakázaného použití patří odvozování zájmu a pozornosti studentů pomocí rozpoznávání emocí a jeho použití při přijímacích zkouškách.

Pokyny rovněž uvádějí, že jazyková aplikace snímající emoce, používaná mimo vzdělávací instituci, zakázaná není, ale stává se zakázanou, pokud instituce studentům její používání nařídí. Robot, který je přiveden do školy nebo na univerzitu a odvozuje emoce žáků, se tedy pohybuje v citlivé oblasti. Nejbezpečnější je předpokládat, že odvozování emocí bude vypnuto. Širší plánování pokrývá náš průvodce roboty ve školách a na akcích STEM.

Mimo zákaz neznamená bez regulace

Pokyny uvádějí, že systémy rozpoznávání emocí mimo pracoviště a vzdělávání se považují za vysoce rizikové. Příloha III bod 1 písm. c) uvádí systémy AI určené k rozpoznávání emocí, pokud je jejich použití povoleno podle práva Unie nebo vnitrostátního práva. Podle konsolidovaného článku 113 se pravidla pro vysoce rizikové systémy z přílohy III uplatní od 2. prosince 2027. Toto datum vychází ze změn provedených nařízením Digital Omnibus, které vysvětlujeme v našem harmonogramu AI Actu pro roboty.

Jedna povinnost již platí. Čl. 50 odst. 3 ukládá zavádějícím subjektům systému rozpoznávání emocí informovat osoby, které jsou mu vystaveny. Čl. 50 odst. 5 vyžaduje, aby se tak stalo jasně a přístupně, nejpozději při první interakci nebo expozici. Článek 50 spadá pod obecné datum použitelnosti nařízení, tedy 2. srpna 2026.

Zůstávají dvě další omezení:

• Manipulace. Pokyny uvádějí, že rozpoznávání emocí v obchodním prostředí může stále spadat pod zákazy škodlivé manipulace a využívání zranitelnosti v čl. 5 odst. 1 písm. a) a b). Jejich příklad staví do protikladu transparentní systém, který analyzuje emoce zákazníků, aby jim pomohl, a skrytý systém, který načasuje dražší nabídky na chvíle, kdy spotřebitelé spíše nakoupí.
• Ochrana osobních údajů. Pokyny připomínají, že GDPR a spotřebitelské právo se nadále uplatňují. Kamera robota zpracovávající tváře návštěvníků potřebuje právní základ bez ohledu na to, co říká AI Act. Přečtěte si náš výklad, co o kamerách a videu v robotech říkají evropské úřady.

Vědecké pochybnosti za pravidly

Důvod přísného přístupu uvádí bod odůvodnění 44, který pokyny citují. Odkazuje na vážné obavy ohledně vědeckého základu rozpoznávání emocí, protože způsob, jakým lidé emoce vyjadřují, se liší mezi kulturami, situacemi a dokonce i u jednoho jedince. Jako hlavní nedostatky uvádí omezenou spolehlivost, nedostatečnou specifičnost a omezenou zobecnitelnost.

Pro týmy pořádající akce je to také praktická poznámka. Robot, který „čte“ náladu návštěvníka, se může jednoduše mýlit, zejména u různorodého mezinárodního publika. Funkce propagované jako schopnost vnímat emoce je třeba posuzovat podle toho, co skutečně odvozují, nikoli podle označení.

Co to znamená pro pořadatele akcí

• Zeptejte se, co přesně robot odvozuje. Detekce obličeje, detekce úsměvu a sledování gest se liší od odvozování emocí. Otázku položte písemně, když zadáváte zakázku dodavateli robota.
• Vyřaďte personál. Pokud jsou funkce pro práci s emocemi zapnuté, ujistěte se, že obsluha stánku, hostitelé a operátoři nejsou analyzováni. Jinak funkci vypněte.
• Školy berte jako zónu bez odvozování emocí. Ve vzdělávacích institucích se zákaz vztahuje na žáky, studenty i učitele.
• Informujte návštěvníky. Od 2. srpna 2026 musí být osoby vystavené rozpoznávání emocí jasně informovány při prvním kontaktu. Označení a upozornění na obrazovce plánujte spolu s opatřeními ohledně kamer a soukromí.
• Počítejte s přísnějšími pravidly od prosince 2027. Rozpoznávání emocí mimo zákaz podléhá požadavkům na vysoce rizikové systémy, které budou muset dodavatelé řešit.

Časté otázky

Je legální, aby robot na veletrhu v EU četl emoce návštěvníků?

Zákaz rozpoznávání emocí v čl. 5 odst. 1 písm. f) AI Actu se omezuje na pracoviště a vzdělávací instituce a pokyny Komise uvádějí, že rozpoznávání emocí zaměřené na zákazníky v obchodním prostředí pod něj nespadá. Systém se však stále považuje za vysoce rizikový, návštěvníci musí být informováni podle čl. 50 odst. 3 a platí právo na ochranu osobních údajů. Personál působící v místě konání nesmí být analyzován, protože toto místo je jeho pracovištěm.

Považuje se detekce úsměvu za rozpoznávání emocí podle AI Actu?

Samotná ne. Pokyny Komise s odkazem na bod odůvodnění 18 uvádějí, že zjištění zjevných výrazů, jako je úsměv nebo zamračení, není rozpoznáváním emocí. Rozpoznáváním emocí se stává, když systém dojde k závěru, co člověk cítí, například že je šťastný nebo rozzlobený. Zjišťování fyzických stavů, jako je únava nebo bolest, je rovněž mimo definici.

Může robot používat rozpoznávání emocí na školní akci STEM?

Jde o citlivou oblast. Zákaz se vztahuje široce na vzdělávací instituce, včetně soukromých škol, všech věkových skupin a odborného vzdělávání, a pokyny uvádějí odvozování zájmu a pozornosti studentů jako zakázané použití. Výjimka pro zdravotní a bezpečnostní účely se vykládá úzce a nevztahuje se na obecnou pohodu. Vypnutí odvozování emocí při školních návštěvách se otázce vyhne a konkrétní případy může posoudit právní poradce.

Kdy se začal uplatňovat zákaz rozpoznávání emocí podle AI Actu?

Zákazy v kapitole II AI Actu, včetně čl. 5 odst. 1 písm. f), platí od 2. února 2025. Povinnost transparentnosti informovat osoby vystavené rozpoznávání emocí podle čl. 50 odst. 3 se uplatní od 2. srpna 2026. Podle konsolidovaného znění po změnách provedených nařízením Digital Omnibus se požadavky na vysoce rizikové systémy z přílohy III, včetně rozpoznávání emocí, uplatní od 2. prosince 2027.

Jak článek vznikl: napsala ho redakce humanoid4rent s pomocí AI; každé faktické tvrzení jsme 2026-10-31 ověřili ve zdrojích uvedených níže. Našli jste chybu? Napište na info@humanoid4rent.com.