Web ovladne chaos. Verime chatbotum a zapominame overovat

,,Je v Praze na letisti posta?" Takhle jednoduse zni otazka, kterou jsem nedavno potreboval urychlene vyresit. Mel jsem mlhavou predstavu o odpovedi, logo posty jsem na letisti urcite nekdy zahledl. Ale abych si byl jisty, radsi jsem udelal to, na co jsem si za poslednich 25 let zvykl, podobne jako vetsina lidi. Zeptal jsem se vyhledavace.

Odpoved vyhledavace je velmi sebevedoma. Nejenze potvrzuje pritomnost posty na prazskem letisti, ale vysvetluje take, jak se tam dostat. Stejnou otazku jsem polozil i nejpopularnejsim chatbotum soucasnosti. Jejich vice ci mene upovidane reakce byly ve vzacne shode: ,,Ano, na Letisti Vaclava Havla je otevrena pobocka Ceske posty." Ani stin pochybnosti.

Podivejte se na odpovedi chatbotu a vyhledavacu (kveten 2025):

Ne ze by byly vsechny odpovedi uplne stejne. ChatGPT treba ochotne popsal oteviraci dobu a pridal sve oblibene smajliky. Gemini byl z otazky tak nadseny, ze z nejakeho duvodu prepnul do slovenstiny. Grok me chtel potesit a nasel mi na letisti pobocky rovnou dve, jednu z nich otevrenou 23 hodin denne. A Copilot mi krome kladne odpovedi take nabidl odkaz na vice informaci.

Nejspis uz tusite, v cem je hacek. Na prazskem letisti zadna otevrena posta neni. Overil jsem to za vas. Pobocka, ktera tam byvala, byla spolu se stovkami dalsich pobocek zavrena v roce 2023. Zadny z chatbotu ale tuto zmenu nereflektoval. Jak je to mozne? A proc o tom vubec pisu?

Cemu se da verit?

Na internetu koluji zavadejici, spatne, chybne, nekvalitni nebo rovnou lzive informace. To neni pro nikoho novinka. Nepravdy ostatne kolovaly informacnim prostorem davno pred tim, nez se soucasny web v laboratorich CERN zrodil. Lide si proto za poslednich par tisicileti vypestovali radu osvedcenych metod, jak rychle posoudit, cemu mohou verit a cemu ne.

Prvni a nejjednodussi nastroj pro posouzeni duveryhodnosti byla osobni reputace daneho cloveka. Pokud nekdo rozhlasoval veci, ktere se ukazaly jako nepravdive, prisel o duveru. Lide si u jeho jmena udelali mentalni poznamku ,,pozor, keca" a nebrali jej od te doby moc vazne. Je to mozna trochu zdlouhave, ale pokud jste prisli do kontaktu jen s nekolika desitkami lidi, nebyl to az takovy problem. Jakmile nekdo duveru svych znamych zklamal, jen tezko ji ziskaval zpatky.

S vynalezem pisma, a predevsim po nastupu knihtisku, ale doslo k odstraneni casoprostorovych omezeni informace. Lide mohli cist knihu mimo puvodni kontext, na druhe strane sveta nebo treba o desitky let pozdeji. Vyvstala tak potreba posoudit informace od lidi, ktere jste v zivote nikdy nepotkali.

Britsky sociolog Anthony Giddens to nazyva rozklizenim spolecenskeho systemu: Interakce mezi lidmi uz nebyly zavisle na fyzickych omezenich. Komunikace uz nebyla vazana na konkretniho cloveka, konkretni misto nebo dany kontext, jako tomu bylo v pocatcich lidstva.

Vylepseni komunikacnich technologii podle komunikacniho teoretika Harolda Innise odstartovalo rapidni rozvoj civilizace. Zaroven ale vyvstaly problemy s tim, jak maji tato sdeleni - zachycena na papire a dalsich novych vymozenostech - lide chapat a interpretovat. A jak se rozhodnout, cemu verit.

Zpravy s rodokmenem

Jeden z nejlepsich prostredku - doslova s tisiciletou tradici - je peclive uvadeni zdroje, ze ktereho informace pochazi. Je to vlastne rozsireni prapuvodniho reputacniho mechanismu: Kdyz pracujete s informaci od nekoho jineho, meli byste zminit, kdo to je. Ctenar se pak muze sam rozhodnout, nakolik danemu cloveku veri.

Postupem staleti se tento intuitivni system odkazovani zdokonalil a formalizoval. Klicovou roli sehral treba u zrodu moderniho knihovnictvi a predevsim vedeckeho badani. Priznat zdroje, ze kterych vychazite, patrilo k dobrym intelektualnim mravum. ,,Pokud jsem dohledl dale, bylo to proto, ze jsem mohl stat na ramenou obru," pise Isaac Newton v dopise z roku 1675. Vyzdvihuje tim dulezity aspekt moderni vedy: Neni potreba znovu vynalezat kolo. Kdyz dobre pracujete se zdroji, muzete naskocit do jedouciho informacniho vlaku a pokracovat v tom, co uz prozkoumali lide pred vami.

Odkazovani zdroje neni pro vedce jen nastroj na podrbani ciziho ega. Kdyz ve sve studii odkazuji na vyzkum nekoho jineho, je v mem zajmu, aby byl tento puvodni vyzkum snadno dohledatelny. Kazda studie totiz obsahuje radu ,,podruznych" detailu ohledne metod, sberu dat, technickych detailu experimentu a dalsich poznamek. Jednoznacnym odkazem na zdroj se zabrani tomu, ze by se tyto detaily postupne ztratily. Kdokoli chce, muze si dle ,,rodokmenu" kazdou informaci dohledat u puvodniho zdroje.

To same plati v novinarine. Kdyz o necem pisu, nejsem obvykle puvodnim zdrojem informace. Davam dohromady informace z vice zdroju, cituji experty, vedecke studie nebo zverejnene statistiky. Je v mem zajmu, abyste presne vedeli, odkud cerpam. Muzete tak posoudit, jak jsou pro vas informace relevantni, nebo na moje zjisteni navazat.

A pokud by se pozdeji ukazalo, ze v nekterem ze zdroju byla chyba, o to dulezitejsi je vedet, kde k ni doslo. Zabrani se tomu, aby se muj clanek stal zdrojem nepravdive famy. Kdokoli totiz i v budoucnu bude moci overit, zda jsou prameny stale relevantni, nebo zda je potreba zavery prehodnotit.

Pracka spinavych informaci

Samotny internet - presneji webove stranky, World Wide Web - na tuto tradici informacniho rodokmenu nejenze navazal, ale jeste ji prohloubil. Moznost odkazovani zdroju je klicovou funkci celeho systemu ,,pavuciny", ktera navzajem spojuje ruzne internetove stranky. Jiste, ne kazdy na sve zdroje odkazuje, ale diky principu razeni ve vyhledavacich se prave casto odkazovane stranky dostanou na oci vice lidem.

Zdaleka ne vsichni jsou ochotni rozkliknout zdroje informaci. Ale dulezite je, ze je zdroj informace uvedeny. Kdokoli se zajmem o hlubsi provereni duveryhodnosti tak muze zkontrolovat puvod dane informace.

Do tohoto prastareho systemu ale soucasny trend chatbotu hazi vidle. Generativni umela inteligence - postavena na velkych jazykovych modelech - dava odpovedi na zaklade toho, co na internetovych textech natrenovala. Samotny model ale nevi, kde se danou skutecnost dozvedel. Nema pri generovani k dispozici databazi puvodnich textu. Misto toho sestavuje ,,pravdepodobnou odpoved" s durazem na uzitecnost. Nebo alespon zdani uzitecnosti. Coz je paradoxne prave ten problem.

Jazykovy model nekopiruji existujici texty, ale produkuje - slovo po slovu, token po tokenu - uplne nove vety. V tom je ostatne pridana hodnota LLM. Databaze pro vyhledavani tady uz byly davno, ale teprve generativni AI umi na zaklade vaseho jedinecneho kontextu vytvorit uplne nove texty.

Driv si chatbot bezne vymyslel zcela neexistujici nazvy a nikdy nepublikovane knihy nebo kecal, ze ma pristup k aktualnimu zneni zakona. Tyto ,,halucinace" umele inteligence byly sice podivne, ale pomerne snadno odhalitelne.

Nemusite cist, precetl jsem za vas

V soucasnosti ale vsechny hlavni modely ,,obohacuji" sve odpovedi na nase zvedave otazky o citace z realnych webovych zdroju. Tyto zdroje navic vice ci mene zretelne cituji primo v textu. Mira vyskytu nejhorsich omylu se tim radikalne snizila. Uzivatele tak snadno nabydou dojmu, ze problem je odstranen a vysledkum od chatbota se uz da verit.

A to je jadro soucasneho problemu. Informace prechroustane umelou inteligenci pusobi duveryhodneji, nez by si zaslouzily. Chatbot totiz vysledek prizpusobi na miru vasi otazce. Textu doda profesionalni formu, ktera na prvni pohled odpovida perfektne ozdrojovanemu dokumentu.

Treba vyhledavac Perplexity za nas prosel jedenact zdroju. Teoreticky byste tedy mohli kazdy z tech jedenacti odkazanych zdroju otevrit. Ale proc byste to delali, kdyz to chatbot precetl za vas?

Kdyz jsme jeste na internetu hledali ,,postaru", dostali jsme od vyhledavacu desitky odkazu. Posoudili jsme podle vnejsich rysu, ktere zdroje nam prijdou verohodne. Pak jsme na jednu nebo vice techto stranek klikli a pokusili jsme se v nich zorientovat. V uvahu jsme brali celou radu veci - grafiku cele stranky, povest daneho webu, dojem ze struktury textu, dalsi odkazy, ktere vedou k dalsim zdrojum...

Radu techto dojmu jsme ziskali zcela podvedome. Asi jako kdyz poprve vejdete do restaurace. Aniz si to uvedomujete, posuzujete cistotu podlahy, profesionalitu personalu, chovani ostatnich stravniku a vubec nasavate atmosferu mista. Kdyz uvidite usmudlane ubrusy, cisnika utirajiciho si nos do dlane nebo kour linouci se z kuchyne, otocite se a pujdete jinam.

Predstavte si ale, ze vam misto toho jidlo z teto restaurace dovezou, zabalene a pripravene v krabici. Najednou nemate zadne signaly, jak kvalitu restaurace predem posoudit. Presne to dela chatbot. Vysledky ze vsech moznych webu za vas precetl a posoudil a vse vam prichystal, abyste nic nemuseli resit.

Cimz se vracim k uvodni otazce tohoto clanku: Jak vlastne chatboti dospeli k tomu, ze je na prazskem letisti otevrena pobocka posty, nebo dokonce nekolik pobocek? Kdyz jsem postupne prosel zdroje, ze kterych tyto AI nastroje vychazely, nejcasteji se objevovala stranka s titulkem ,,Posta na letisti Praha" na domene letiste-ruzyne-praha.cz.

Kdybych videl zastaraly vzhled tohoto neoficialniho webu, urcite bych se tam dlouho nezdrzoval a sel bych pryc. Informacim na teto strance bych neprikladal zadnou vahu. Jenze umela inteligence mi podezrely retro vzhled stranky zataji, respektive ukryje pod citaci. Navic chatboti vychazeli z desitky ruznych zdroju, a tak skrze formalni vzhled a srozumitelny jazyk vytvareji dojem duveryhodnosti.

Dalsi problem nastava, kdyz nekdo takovou odpoved od chatbota vezme a posle dal. Typicky treba zkopiruje text nebo vytvori snimek obrazovky. Tim je definitivne prerusena jakakoli moznost vysledek zkontrolovat. Odkazy zmizi, a zustava jen duveryhodne znejici text od chatbota.

Uz dnes vetsina lidi neklika na odkazy vedouci na zdroj citaci. Ale i kdyby nekdo chtel vysledky po chatbotovi overit, nema jak. Ve screenshotu neni na co kliknout, a protoze je text unikatni, pokazde znovu na miru pripraveny, nelze odpoved ani nezavisle dohledat pomoci textove shody.

Oklikou jsme se vratili do doby, kdy jsou informace vazane na mluvciho. Jen uz to v rade pripadu nebude clovek, ale chatbot. A vysledky, ktere nam da, budou vypadat cim dal duveryhodneji a presvedciveji. Dokazeme trvat na tom, ze informaci ,,bez rodokmenu" - tedy bez nezavisle overitelneho zdroje - zasadne odmitame? Nebo se postupne naucime verit souhrnum umele inteligence a radi zapomeneme, ze jsme se nekdy museli brodit informacnimi bazinami a sami rozhodovat, cemu se da verit?

Jeste nedavno jste mohli aspon priblizne posoudit duveryhodnost neznameho zdroje podle toho, kolik prace si nekdo dal s vytvorenim daneho webu. Podrobnejsi web s vetsim mnozstvim aktualnich informaci byl jako restaurace, kde je cisto a hostu je tam hodne. Ale tahle heuristika se rozpada. Ani internetovym strankam se skvelym designem a mnozstvim aktivnich uzivatelu se neda verit. Generativni umela inteligence takovych webu vytvori desitky. Posuzovani duveryhodnosti se tak dale komplikuje.

Pryc jsou doby, kdy jsme mohli aspon trochu verit neznamym webovym strankam. ,,Internet, jak jej zname, skoncil," rekl mi pred pul rokem medialni analytik Josef Slerka. Umela inteligence bude (mozna uz je) autorem vetsiny textu, ktere vznikaji. Posoudit jejich duveryhodnost bude cim dal tezsi.

Mozna tak budeme znovu primarne verit konkretnim znackam, webum a lidem, ktere dlouhodobe zname. Opet bude zalezet na tom, jakou si u nas vyslouzili reputaci. Ostatni texty pak budeme muset povazovat nejen za neduveryhodne, ale rovnou je podezirat z toho, ze se nas aktivne snazi oklamat.

Ja mohu aspon dosvedcit, ze posta na prazskem letisti otevrena neni. Osobne jsem to overil za vas. Budete verit mne, nebo dvanacti chatbotum, kteri sebevedome tvrdi opak?

V plne verzi newsletteru TechMIX toho najdete jeste mnohem vic. Prihlaste se k odberu a budete ho dostavat kazdou stredu primo do sve e-mailove schranky.