Článek 50 AI Act: říct lidem, že mluví se strojem, včetně robotů

Článek 50 evropského nařízení AI Act se uplatňuje od 2. srpna 2026. Vyžaduje, aby systémy umělé inteligence, které přímo komunikují s lidmi, byly navrženy tak, aby tyto osoby věděly, že jednají s umělou inteligencí, pokud to není skutečně zřejmé. Pokyny Evropské komise, přijaté 20. července 2026, uvádějí mezi dotčenými systémy humanoidní roboty a robotické domácí mazlíčky. Patří sem i mluvící roboty na stáncích.

Tento článek má pouze informativní charakter a nejde o právní poradenství. Smlouvy a konkrétní nasazení je vhodné nechat posoudit kvalifikovaným poradcem.

Co článek 50 upravuje

Znění článku 50 na AI Act Service Desk stanoví čtyři samostatné povinnosti v oblasti transparentnosti:

1. Interaktivní systémy AI (čl. 50 odst. 1). Poskytovatelé musí systémy, které přímo komunikují s lidmi, navrhnout tak, aby tyto osoby byly informovány, že komunikují s umělou inteligencí. Existují dvě výjimky: pokud je to zřejmé přiměřeně informované osobě, a určité systémy povolené zákonem pro vyšetřování trestných činů.
2. Syntetický obsah (čl. 50 odst. 2). Poskytovatelé systémů, které generují zvuk, obraz, video nebo text, musí výstup označit strojově čitelným způsobem, aby bylo možné zjistit, že byl uměle vytvořen nebo zmanipulován.
3. Rozpoznávání emocí a biometrická kategorizace (čl. 50 odst. 3). Zavádějící subjekty (deployeři), tedy organizace, které systém používají, musí informovat osoby, které jsou mu vystaveny.
4. Deepfaky a některé zveřejněné texty (čl. 50 odst. 4). Zavádějící subjekty musí deepfaky označit. Musí také uvést, že jde o text vytvořený umělou inteligencí, pokud je zveřejněn za účelem informování veřejnosti o věcech veřejného zájmu, ledaže jej člověk zkontroloval a převzal za něj redakční odpovědnost.

Článek 50 odst. 5 doplňuje společné pravidlo: informace musí být jasná a rozlišitelná, musí být poskytnuta nejpozději při první interakci nebo prvním vystavení a musí splňovat platné požadavky na přístupnost.

Kdy se pravidla uplatňují

Podle harmonogramu provádění AI Act na AI Act Service Desk se článek 50 začal uplatňovat 2. srpna 2026. Harmonogram odráží změny provedené balíčkem Digital Omnibus on AI, které podrobněji popisujeme v našem přehledu lhůt AI Act pro roboty.

Omnibus přidal jedno úzce vymezené přechodné období. Podle změněného článku 111 AI Act mají poskytovatelé generativních systémů uvedených na trh před 2. srpnem 2026 čas do 2. prosince 2026, aby splnili povinnost označování podle čl. 50 odst. 2.

Pokyny Komise zdůrazňují, že se tato ochranná lhůta nevztahuje na povinnost informovat uživatele u interaktivních systémů. Systém, který zároveň mluví a generuje obsah, může dodatečný čas využít pouze pro označování svého výstupu. Informovat lidi, že mluví s umělou inteligencí, bylo nutné od 2. srpna 2026.

Roboty jsou uvedeny výslovně

Komise zveřejnila pokyny k povinnostem transparentnosti pro poskytovatele a zavádějící subjekty systémů AI dne 20. července 2026, po návrhu a veřejné konzultaci v květnu a červnu. Pokyny nejsou závazným právním předpisem, ale ukazují, jak Komise očekává výklad pravidel.

Čl. 50 odst. 1 rozdělují na čtyři prvky: systém AI, určený k interakci, přímé, s fyzickými osobami. Interakce může být mluvená, vizuální nebo fyzická a nemusí ji zahájit člověk. Mezi příklady spadajícími do působnosti pokyny uvádějí hlasové asistenty, chatboty, (humanoidní) roboty a coboty, AI společníky, robotické domácí mazlíčky a AI avatary. Vyloučeny jsou průmyslové roboty pracující v uzavřeném prostředí, které nejsou určeny k interakci s lidmi.

Proč je argument „je přece vidět, že je to robot“ slabý

Je lákavé předpokládat, že humanoidního robota nikdo nezamění za člověka, a upozornění proto není potřeba. Pokyny tento argument ztěžují z několika důvodů:

• Výjimka se má vykládat restriktivně. Vztahuje se jen na případy, kdy o povaze interakce neexistuje pro průměrného příslušníka publika téměř žádná pochybnost.
• Publikum zahrnuje všechny, u nichž lze důvodně očekávat, že se se systémem setkají, nejen zamýšlené uživatele. Výslovně se zmiňují systémy provozované ve veřejných prostorách.
• Pokud se pravděpodobně vyskytnou děti, starší lidé, osoby se zdravotním postižením nebo lidé s nízkou gramotností v oblasti AI, nelze se na výjimku při jejich ochraně spoléhat.
• U fyzických systémů viditelná mechanika činí povahu AI zřejmější. Věrná imitace skutečné předlohy ji činí méně zřejmou. U hlasu hovoří proti zřejmosti zvuk připomínající lidský hlas.

Příklady, kdy se výjimka uplatní, jsou úzké: programovací asistenti pro profesionální vývojáře, interní nástroje pro vyškolené zaměstnance a postavy v počítačových hrách pro jednoho hráče. Robotický domácí mazlíček, který se věrně podobá skutečnému zvířeti, je uveden jako příklad, kdy povinnost platí i nadále.

Při opatrném výkladu pokynů je nepravděpodobné, že by robot mluvící přirozeným hlasem k různorodému davu na veletrhu nebo v nákupním centru splnil podmínky výjimky. Bezpečnějším výchozím postupem je informování.

Jak vypadá dobré upozornění

Pokyny nechávají techniku otevřenou, ale uvádějí příklady. U hlasových systémů navrhují mluvené sdělení na začátku interakce. U delších relací, zejména po přerušení, mohou být vhodné pravidelné připomínky. Tóny nebo zvuky mohou pomoci zrakově postiženým, samy o sobě však nestačí. Za dobrou praxi se rovněž považují textové popisky, trvale viditelné ikony a kombinace textu, zvuku a obrazu.

Některé přístupy jsou označeny za nedostatečné, pokud se použijí samostatně:

• upozornění, které se objeví pouze ve všeobecných obchodních podmínkách, v příručce nebo za odkazem;
• strojově čitelné značky, které lidé v okamžiku interakce nevnímají;
• nejasné signály, například označení systému za „asistenta“, nebo lidsky působící prezentace, která může uvádět v omyl;
• čistě technická sdělení, například „používá LLM“.

Důležité je i načasování. Pokyny uvádějí, že první interakce se týká každé nové osoby, nikoli jen prvního návštěvníka dne. Dále uvádějí, že systém by měl svou povahu sdělit pokaždé, když se ho někdo zeptá, zda je umělá inteligence, nebo když se zdá, že je někdo na pochybách. K vícejazyčnému publiku si přečtěte našeho průvodce řečí, jazyky a hlučnými prostory.

Kdo je odpovědný: poskytovatel, nebo zavádějící subjekt?

Čl. 50 odst. 1 ukládá povinnost poskytovateli: organizaci, která systém AI vyvíjí nebo si jej nechává vyvinout a uvádí jej na trh nebo do provozu pod svým jménem. Pokyny dodávají, že společnost, která stávající systém upraví a uvede do provozu pod svým jménem, se stává poskytovatelem nového systému. Kdo je poskytovatelem robota na akci, zda výrobce robota, softwarový integrátor, nebo půjčovna provozující vlastní konverzační vrstvu, závisí na konkrétním uspořádání. Pokyny nevyřešují všechny takové případy.

Zavádějící subjekty mají vlastní povinnosti podle čl. 50 odst. 3 a 4. Pořadatel, který požaduje robota čtoucího emoce návštěvníků nebo mluvícího klonovaným hlasem skutečné osoby, přebírá vlastní povinnosti. Některé rozpoznávání emocí je na pracovištích a ve vzdělávání přímo zakázáno, jak vysvětlujeme v článku o robotech čtoucích emoce a AI Act.

Teleoperované roboty a syntetický obsah

Mnoho robotů na akcích je částečně nebo plně řízeno lidským operátorem. V analýze působnosti pokyny vylučují zprostředkovanou interakci, při níž člověk předává nebo kontroluje výstup AI a zůstává hlavním partnerem v rozhovoru. Zahrnují však také produkty, které kombinují odpovědi AI s obsahem vybraným člověkem, a u částí vytvořených AI vyžadují informování. Robot, kterému živě propůjčuje hlas operátor, je proto posuzován jinak než robot odpovídající pomocí jazykového modelu. Smíšená uspořádání vyžadují pečlivé promyšlení. Náš průvodce teleoperovanými a autonomními roboty vysvětluje, jak tyto režimy vnímá publikum.

Mezi příklady deepfaků v pokynech patří realistický syntetický avatar generálního ředitele společnosti, který oslovuje zaměstnance, a znázornění celebrity vytvořené umělou inteligencí v propagaci. Robot nebo obrazovka, které používají věrohodnou podobu nebo klonovaný hlas skutečné osoby, tak mohou vyžadovat označení deepfaku ze strany zavádějícího subjektu. Smyšlená robotí postava s vymyšleným hlasem je podle příkladů v pokynech deepfakem mnohem méně pravděpodobně.

Pro generovaný obsah Komise v červnu 2026 zveřejnila konečný kodex postupů pro transparentnost obsahu generovaného AI spolu se sadou unijních ikon pro označování. Komise uvádí, že do konce července 2026 jej podepsalo zhruba 190 organizací. Kodex se týká označování podle čl. 50 odst. 2 a 4, nikoli povinnosti informovat u interaktivních systémů.

Prosazování a sankce

Článek 50 prosazují vnitrostátní orgány dozoru nad trhem, přičemž úřad pro AI (AI Office) je příslušný u některých systémů postavených na modelech AI pro obecné účely. Podle pokynů Komise mohou porušení vést k pokutám až do výše 15 milionů EUR nebo 3 % celosvětového ročního obratu, podle toho, která částka je vyšší. U malých a středních podniků a začínajících firem platí částka nižší. Stížnost u orgánu může podat kdokoli.

Co to znamená pro pořadatele akcí

• Zeptejte se, jak robot sděluje, že je umělá inteligence. Ve zadání pro dodavatele robota požadujte úvodní větu, jazyky a způsob, jakým robot reaguje na otázku „jste člověk?“.
• Počítejte s každým novým návštěvníkem, nejen s prvním. Na rušném veletržním stánku osloví mluvený pozdrav v kombinaci s viditelným označením na robotovi nebo v jeho blízkosti i lidi, kteří přijdou uprostřed rozhovoru.
• Nespoléhejte na to, že robot vypadá mechanicky. Pokud se mohou přiblížit děti nebo široká veřejnost, je podle výkladu Komise výjimku ze zřejmosti obtížné použít.
• Klonované hlasy, podoby skutečných osob a analýzu emocí posuzujte jako samostatná rozhodnutí. Každé z nich přidává povinnosti zavádějícímu subjektu a některé rozpoznávání emocí je zakázáno.
• Mějte jasno v tom, kdo mluví. Pokud robotovi chvílemi propůjčuje hlas operátor a chvílemi AI, dohodněte předem, jak budou návštěvníci informováni.

Časté otázky

Vztahuje se článek 50 na humanoidního robota, který mluví s návštěvníky?

Ve většině případů ano. Pokyny Evropské komise z července 2026 uvádějí humanoidní roboty, coboty a robotické domácí mazlíčky jako příklady systémů AI, které přímo komunikují s lidmi. Pokud robot vede konverzaci pomocí AI, musí jeho poskytovatel zajistit, aby lidé věděli, že jednají s umělou inteligencí, ledaže je to zřejmé celému předvídatelnému publiku. To je ve veřejných prostorách za přítomnosti dětí obtížné prokázat.

Kdy se začala uplatňovat pravidla transparentnosti podle článku 50?

Článek 50 se uplatňuje od 2. srpna 2026. Balíček Digital Omnibus on AI přidal přechodné období pouze pro povinnost strojově čitelného označování podle čl. 50 odst. 2: generativní systémy, které byly na trhu již před 2. srpnem 2026, mají čas do 2. prosince 2026. Povinnost informovat lidi, že komunikují s AI, odložena nebyla. Obsah vytvořený před 2. srpnem 2026 není nutné zpětně označovat.

Stačí upozornění v nájemní smlouvě nebo v návodu k robotovi?

Podle pokynů Komise nestačí. Sdělení uvedené pouze ve všeobecných podmínkách, dokumentaci nebo za odkazem samo o sobě nepostačuje. Informace musí být jasná, nápadná a poskytnutá nejpozději ve chvíli, kdy každá osoba s interakcí začne. U mluvícího robota pokyny navrhují mluvené sdělení na začátku, případně v kombinaci s vizuálními popisky a připomínkami v delších interakcích.

Platí pravidlo i tehdy, když přes robota mluví lidský operátor?

Pokyny vylučují zprostředkovanou interakci, při níž člověk předává nebo kontroluje výstup AI a zůstává hlavním partnerem v rozhovoru. Robot, kterému živě propůjčuje hlas operátor, je proto posuzován jinak než robot odpovídající pomocí jazykového modelu. Pokud se odpovědi AI a lidský vstup mísí, pokyny vyžadují informování u částí vytvořených AI. Jde o obecné informace, nikoli o právní poradenství, konkrétní uspořádání proto konzultujte s poradcem.

Jaké hrozí sankce za porušení článku 50?

Podle pokynů Komise mohou poskytovatelé a zavádějící subjekty, kteří článek 50 poruší, dostat pokutu až do výše 15 milionů EUR nebo 3 % celkového celosvětového ročního obratu, podle toho, která částka je vyšší. U malých a středních podniků a začínajících firem platí částka nižší. Pravidla prosazují vnitrostátní orgány dozoru nad trhem a stížnost může podat kdokoli. Při ukládání pokut se musí zohlednit závažnost a délka porušení i další okolnosti.

Jak článek vznikl: napsala ho redakce humanoid4rent s pomocí AI; každé faktické tvrzení jsme 2026-11-03 ověřili ve zdrojích uvedených níže. Našli jste chybu? Napište na info@humanoid4rent.com.