Viete, kedy komunikujete s umelou inteligenciou?

V EÚ začali platiť nové pravidlá pre AI obsah

Umelá inteligencia dnes píše texty, vytvára obrázky a videá, odpovedá zákazníkom v online chatoch či napodobňuje ľudský hlas. Rozpoznať, či komunikujeme so skutočným človekom alebo strojom, je preto čoraz náročnejšie. Od 2. augusta 2026 preto v Európskej únii platia nové pravidlá, ktoré majú spotrebiteľom pomôcť zistiť, kedy za obsahom alebo komunikáciou stojí umelá inteligencia, známe ako AI Act.

Nie každý obrázok, text alebo video vytvorené pomocou umelej inteligencie musí byť na prvý pohľad jasne označené. Článok 50 AI Actu preto stanovuje viacero povinností, ktoré sa líšia podľa typu systému a spôsobu jeho použitia.

Jedna z nich sa týka priamo poskytovateľov systémov vytvárajúcich alebo upravujúcich text, obraz, zvuk či video. „Tí musia zabezpečiť, aby bolo možné výstup vytvorený pomocou AI rozpoznať v strojovo čitateľnom formáte. Môže ísť napríklad o digitálny vodoznak, údaje uložené v súbore alebo iný technický prvok. Spotrebiteľ teda nemusí označenie vždy vidieť voľným okom,“ vysvetľuje riaditeľka spotrebiteľskej organizácie dTest Eduarda Hekšová.

Pozor na deepfakes

Medzi najprísnejšie regulované oblasti patria takzvané deepfakes, teda obsah vytvorený alebo upravený pomocou umelej inteligencie, ktorý môže pôsobiť ako skutočný. Môže ísť napríklad o video osoby, ktorá nikdy nepovedala zobrazené výroky, alebo o fotografiu udalosti, ktorá sa v skutočnosti nestala.

Pokiaľ niekto pri svojej profesijnej činnosti vytvorí alebo upraví pomocou AI obrazový, zvukový či audiovizuálny obsah, ktorý sa podobá skutočným osobám, miestam, objektom alebo udalostiam a môže byť mylne považovaný za autentický, musí jeho umelý pôvod jasne uviesť. V prípade, že takýto obsah niekoho uviesť do omylu, hoci aj neúmyselne, osoba, ktorá ho pomocou AI vytvorila, musí na túto skutočnosť zrozumiteľne upozorniť. Postačí na to napríklad ikona „AI“ alebo krátke oznámenie na začiatku audionahrávky. „Pri umeleckých, satirických či fiktívnych dielach však pravidlá pripúšťajú citlivejší spôsob označenia, aby zbytočne nebol narušený samotný zážitok,“ dodáva Eduarda Hekšová.

Chatbot alebo človek?

Ďalšie pravidlo sa týka chatbotov a ďalších systémov určených na priamu komunikáciu s ľuďmi. Pri komunikácii so zákazníckou podporou e-shopu alebo online asistentom využívajúcim umelú inteligenciu by mal byť spotrebiteľ o tejto skutočnosti informovaný. Cieľom je predísť situáciám, keď si používateľ myslí, že komunikuje so zamestnancom spoločnosti, hoci na druhej strane je automatizovaný systém. Výnimkou môžu byť prípady, keď je už zo samotných okolností zrejmé, že človek komunikuje s AI systémom. Odlišná situácia môže nastať aj vtedy, ak sú výstupy pred odovzdaním používateľovi skutočne kontrolované človekom.

Keď AI vyhodnocuje vaše emócie

AI Act pamätá aj na systémy, ktoré rozpoznávajú alebo analyzujú emócie na základe biometrických údajov, napríklad hlasu či podoby tváre. Ak sú ľudia takémuto systému vystavení, prevádzkovateľ ich musí o tejto skutočnosti informovať.

Informovanie o záležitostiach verejného záujmu

Osobitné pravidlo sa vzťahuje aj na texty určené na informovanie o záležitostiach verejného záujmu. Ak boli vytvorené alebo upravené pomocou umelej inteligencie, ich pôvod musí byť za stanovených podmienok jasne označený. Výnimkou môžu byť najmä prípady, keď text prešiel ľudskou redakčnou kontrolou a za jeho zverejnenie nesie redakčnú zodpovednosť konkrétna osoba alebo organizácia.

Nové pravidlá sa pritom nevzťahujú na bežné súkromné používanie umelej inteligencie.

Pri úprave súkromnej fotografie alebo vytvorení textu pre vlastnú potrebu pomocou AI sa povinnosti vyplývajúce z článku 50 AI Actu na spotrebiteľa spravidla nevzťahujú. Nové povinnosti sa budú týkať najmä profesionálnych poskytovateľov a používateľov AI systémov. „Transparentnosť bude v ére umelej inteligencie čoraz dôležitejšia. Spotrebitelia by mali mať lepšiu možnosť rozpoznať, kedy do obsahu alebo komunikácie zasiahla umelá inteligencia a či sledujú autentický obsah, alebo obsah vytvorený pomocou AI. Práve to je hlavným cieľom nových pravidiel,“ uzatvára Eduarda Hekšová z dTestu.