Ako rozoznať text napísaný umelou inteligenciou? Detektory aj „typické znaky“ sa mýlia

Učiteľ dostane nezvyčajne uhladenú slohovú prácu, firma dostane motivačný list bez jedinej chyby a čitateľ narazí na článok plný všeobecných viet. Je to dôkaz, že text vytvorila umelá inteligencia? Nie. Jazykové modely dnes napodobňujú množstvo štýlov a ľudia zas môžu písať veľmi pravidelne, používať šablóny alebo si text upraviť pomocou jazykového korektora.

Z hotového textu samotného zvyčajne nemožno spoľahlivo dokázať, či ho napísal človek alebo AI. Opakujúce sa frázy, dokonalá gramatika či neosobný tón sú len slabé indície. Ani automatické detektory nie sú nezvratným dôkazom: môžu označiť ľudský text za strojový a naopak. Dôležitejšie je overiť fakty, pôvod podkladov, priebeh vzniku a konkrétne pravidlá zadania.

Prečo jednoduchý zoznam znakov nefunguje

Na internete kolujú návody, podľa ktorých má AI používať určité spojenia, veľa pomlčiek, dokonalú štruktúru či priveľa súhrnov. Problém je, že tieto vlastnosti nájdete aj v reklamných textoch, firemných dokumentoch, školských prácach a profesionálne editovaných článkoch. Navyše sa jazykové modely menia a používateľ ich môže požiadať o prirodzenejší štýl. Vtedy domnelé znaky zmiznú bez toho, aby sa zmenil pôvod textu.

Niekedy je podozrivý naopak veľmi kostrbatý alebo gramaticky nesprávny text. Ani to však nič nedokazuje: chyby môže robiť človek, strojový preklad aj jazykový model pri nevhodnom zadaní. Stopa v podobe jedného slova alebo interpunkčného znamienka preto neunesie záver o autorstve.

Je rozdiel medzi odhadom a dôkazom. Môžete si všimnúť, že päť článkov používa rovnakú osnovu, nezmyselné príklady a opakované formulácie. To môže odôvodniť ďalšie overovanie redakčného procesu, ale nie automatické obvinenie konkrétneho autora z podvodu. Rovnakú šablónu mohla predpísať aj redakcia alebo učiteľ.

Čo vlastne robí AI detektor

Detektor textu sa pokúša odhadnúť, či sa ukážka podobá výstupom generatívneho modelu. Pracuje so štatistickými vzorcami alebo s vlastným naučeným rozpoznávaním. Výsledkom môže byť percento, slovné označenie alebo zvýraznenie úsekov. Takýto výstup však nie je digitálny podpis autora a väčšinou neukazuje priamy záznam tvorby.

V januári 2023 predstavil OpenAI vlastný klasifikátor AI textu, no v júli 2023 ho vyradil pre nízku presnosť. Pri pôvodnom testovaní označil ako pravdepodobne strojové iba časť skutočne strojových textov a zároveň nesprávne označoval aj texty napísané ľuďmi. Tieto historické čísla nie sú meradlom presnosti všetkých dnešných detektorov, dobre však ilustrujú riziko, ktoré musí každý podobný nástroj riešiť.

Dôležitá je aj dĺžka a jazyk ukážky. Krátky nadpis alebo odsek poskytujú málo informácií. Detektor natrénovaný prevažne na angličtine sa navyše nedá bez nezávislého testu považovať za spoľahlivý pri slovenčine. Ak služba tvrdí, že „odhalí 100 % AI textov“, treba skúmať spôsob overenia takého sľubu, dátum testov a skupinu textov, na ktorej ho merali.

Prečo môžu detektory poškodzovať aj poctivých autorov

Výskum publikovaný v časopise Patterns v roku 2023 upozornil na problém pri anglických textoch ľudí, pre ktorých angličtina nie je materinským jazykom. Viaceré detektory ich práce častejšie nesprávne vyhodnocovali ako generované AI. Záver sa týka skúmaných nástrojov, jazykov a podmienok, nie automaticky každej aplikácie na trhu. Je však zásadný pri používaní detektorov na školách alebo pri prijímaní pracovníkov.

Predstavte si študenta, ktorý používa jednoduché vety, pretože sa cudzí jazyk ešte len učí. Strojový nástroj môže taký text označiť ako príliš predvídateľný, hoci vznikol poctivo. Ak učiteľ vyvodí disciplinárny záver iba z výsledného percenta, zamieňa neistý technický odhad za dôkaz správania človeka.

Podobný problém vzniká pri textoch upravených korektorom, prekladovou službou či firemnou šablónou. Samotná otázka „použil autor AI?“ navyše potrebuje definíciu: je to automatická oprava preklepov, preformulovanie jednej vety, rešerš alebo kompletné vytvorenie práce? Bez jasných pravidiel sa nedá spravodlivo posúdiť ani to, čo sa vlastne malo stať.

Čo môže byť užitočnejšie než percento v detektore

Pri školskom alebo pracovnom texte pomáha sledovať proces. Skutočný autor často dokáže vysvetliť argumenty, obhájiť výber zdrojov, opísať postup, ukázať poznámky či predchádzajúce verzie. Ani tieto znaky nie sú absolútnym dôkazom: človek môže pracovať bez priebežného ukladania a pripravený podvodník si záznamy dokáže vymyslieť. Poskytujú však viac kontextu než jediný automatický výsledok.

V redakcii sa oplatí kontrolovať najmä tvrdenia, citácie, dátumy a odkazy. Strojovo vytvorený text môže obsahovať správne informácie a ľudský autor sa môže pomýliť; pôvod teda nie je náhradou za faktickú kontrolu. Ak článok odkazuje na vedeckú štúdiu, overte, či skutočne existuje a či podporuje uvedený záver. Vymyslené citácie sú redakčný problém bez ohľadu na to, kto text vytvoril.

Ak organizácia potrebuje regulovať používanie AI, vhodné je mať vopred zrozumiteľné pravidlá a primerané overovanie. Iné požiadavky dávajú zmysel pri osobnom slohu, iné pri technickom návode a iné pri textoch, v ktorých je výslovne dovolená pomoc digitálnych nástrojov. Spätné menenie pravidiel po odovzdaní práce by vytváralo zbytočné spory.

Dá sa AI text spoznať podľa neexistujúcich zdrojov?

Neexistujúca kniha, vymyslené číslo zákona či odkaz na stránku, ktorá nikdy neobsahovala tvrdený údaj, sú dôvodom spozornieť. Nie sú však jednoznačným podpisom AI. Autor mohol citáciu zapísať zle, odkaz sa mohol presunúť alebo mohol bez kontroly kopírovať informáciu z iného webu. Rozhodujúce je overenie konkrétneho faktu a oprava chyby.

Rovnako platí, že perfektné odkazy nedokazujú ľudské autorstvo. Jazykový model môže dostať skutočné dokumenty a vytvoriť text založený na nich. Človek môže následne všetko dôkladne skontrolovať. V takom prípade treba riešiť transparentnosť podľa pravidiel zadania a kvalitu výstupu, nie hľadať zázračný zoznam podozrivých slov.

Čo robiť, ak detektor označí váš vlastný text ako AI

Najprv si odložte pôvodný text, zadanie a dostupnú históriu verzií. Overte, aký nástroj výsledok vytvoril, pre aký jazyk je určený a čo znamená jeho percento. Pokojne požiadajte hodnotiteľa o vysvetlenie postupu, možnosť doplniť dôkazy o práci a nezávislé posúdenie. Nemeňte mechanicky slovosled len preto, aby sa rozsvietila zelená farba v neznámej aplikácii.

Ak ste pomoc AI skutočne použili, rozhodujú konkrétne pravidlá školy, práce či objednávky. Niekde je dovolená jazyková korektúra, inde je nutné uviesť aj pomoc pri osnove a niekde má byť práca úplne samostatná. Presný rozsah pomoci je možné priznať bez toho, aby ste znehodnotili všetko vlastné úsilie.

V roku 2026 tak zostáva najpresnejšou odpoveďou na otázku rozpoznávania AI textu opatrnosť: detektor môže poslúžiť ako podnet na kontrolu, ale nie ako samostatný rozsudok. O autorstve treba rozhodovať podľa viacerých dôkazov a kvalitu textu posudzovať podľa toho, čo skutočne obsahuje.

Zdroje

1. OpenAI – New AI classifier for indicating AI-written text (oznámenie o vyradení nástroja a limitoch) – https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/
2. Patterns – GPT detectors are biased against non-native English writers – https://doi.org/10.1016/j.patter.2023.100779