Narazil jsem na jednu diskuzi, která vás asi donutí se na chvíli zarazit a dost nad věcmi popřemýšlet. Týkala se AI, ale ne tak, jak jsme zvyklí. Nešlo o to, co umí, ale co možná víc, než by měla. A upřímně? Možná z toho budete fakt rozhozeni.
Student IT popisoval, jak hledal akordy k songu „Well bloud“ od Wohnoutů. Google Gemini mu odpověděl, že akordy nejsou známé, ale že mu je zkusí vygenerovat. Jenže místo akordů se mu objevily random akordy nad textem, který ale s tou skladbou neměl nic společného. To by se dalo odpustit, AI občas (no občas) dost halucinuje. Jenže ten text popisoval jeho život.
Jakože fakt. Vzhled, vlasy, batoh, trasa vlaku z města A do města B, dokonce zmínil i flašku slivovice, kterou měl den předtím. Nehledal ji. Jen si ji nafotil. Nikde nic nepsal.
A v ten moment už nejde o náhodu co si přeci jen budeme podívat.
Personalizace vs. sledování: Kde je únosná hranice?
Jedna věc je, že AI umí generovat texty, které vypadají jako střižené přímo na míru. To známe. Horoskopy a Barnumův efekt ostatně fungují na stejným principu. Ale tady už se bavíme o konkrétních detailech, které o vás každý web a nejen google sbírá. O městě, ve kterém nastupuješ do vlaku. O trase, batohu co máš nebo i fotce flašky, kterou používáš. To už není statistická náhoda, to je kompozit dat, ke kterým by se AI neměla nikdy dostat!
Ledaže… jsme ji k tomu pustili sami a to ještě dobrovolně!
Více než 3 roky, píšu o VPNkách a proč je důležité mít nastavenou anonymitu, personalizaci na internetu apod za pár kaček měsíčně. Ejhle a šup najednou to začíná řešit čím dál více lidí.
Nevím jak vy, ale já ani má rodina či přátelé, nikdo z nás už dávno nepouští google ani web či trackovací systémy reklam k našim datům ( jednoduše VPN skryje vše co na internetu deláte, takže nikdo nevidí na co jste zrovna koukal, kde jste byli a nedejbože co děláte!).
Co všechno dělá Google, když se nedíváme
Přiznejme si to. Máme v kapse telefon s Androidem nebo i iOS. Používáme Chrome, Gmail, YouTube, Google Disk, Google Fotky. A přihlášení jsme nonstop. Sdílíme polohu, fotky se nahrávají automaticky, emaily si čte algoritmus. Gemini je napojený na celou tuhle infrastrukturu. A když se ho na něco zeptáte, není to jen takový hravý AI asistent. Je to komplexní služba, která má možná mnohem větší přehled o našem životě, než naši rodiče nebo partner.
Halucinace? Možná. Ale co když ne?
Diskuze se pak stočila k otázce: bylo to fakt halucinovaný výstup? Nebo důsledek neviditelných datových spojnic, které si ani neuvědomujeme?
Těžko říct, ale já osobně jsem 100% přesvědčen ze prostě algoritmus zafungoval! Ale hlavně – kdyby to byl jeden případ, tak fajn. Jenže podobných příběhů přibývá. Reklamy, které se objeví po hovoru o věci, kterou jste nikdy nehledali. YouTube videa, co se týkají témat, které jste řešili jen s kamarádem. Personalizované doporučení, která přesahují všechny logické hranice.
A právě tady se dostáváme na nebezpečnou půdu. Ne proto, že AI umí hodně. Ale proto, že ani nepoznáme, odkud ty informace vzala a zdali jsme s nimi souhlasili.
Problém zítřka: AI trénovaná na AI
Několik lidí v diskuzi připomnělo, že největší hrozbou nemusí být ani samotná personalizace, ale to, že AI začíná být trénovaná na výstupy jiné AI a pod tím se nemůžu nic víc než jen podepsat. Jakmile se z kruhu uživatelských dotazů a reálných webů stane uzavřený svět generovaných textů, přestanou se tyhle systémy zlepšovat. Budou se jen točit v kruhu a degenerovat až vlastně bude jeden velký bordel dezinformací.
Je to stejné jako by člověk celý život opisoval z taháku, který kdysi napsal jeho spolužák podle jiného taháku, co měl někdo z internetu. V jednu chvíli už v tom nebude ani zrnko reality, jen iluze informací a hodně pravděpodobně lží.
Tohle je podle mě ještě větší hrozba než samotné sledování AI. Když AI ztratí kontakt s realitou, co se stane s celým naším internetem?
Jak si ohlídat vlastní digitální stopu
Tohle nastavení vám doporučuji proto, abyste měli klid, že nesdílíte svá data a informace o vás veřejně ( netušeně do celého internetu a hlavně gemini AI ).
- Zkontrolujte si, co všechno o vás Google ví: Mrkněte na myactivity.google.com
- Nepřihlašujte se automaticky do všech Google služeb.
- Nepoužívejte Google účet pro Gemini, pokud nechcete kombinaci dat.
- Vypínejte historii polohy a zálohování fotek.
- Dejte si pozor, jaké aplikace mají přístup k mikrofonu a poloze. ( Tento bod je za mě extrémně důležitý!)
- Vždy používejte placenou VPN, protože vám zajistí kromě bezpečnosti, totální anonymitu na interentu + desítky dalších výhod, které díky ní získáte ( Levnější hotely, nákupy, sledování streamů v zahraničí, levnější spotify, netflix atd. atd…. )
| Nejlepší Prémiové VPN | Sleva a nabídka | Odkaz pro vyzkoušení |
|---|---|---|
| NordVPN | 77% sleva + 3 měsíce zdarma | Vyzkoušet |
| Surfshark | 86% sleva + 4 měsíce zdarma | Vyzkoušet |
| ExpressVPN | 61% sleva + 6 měsíců zdarma | Vyzkoušet |
| CyberGhost | 82% sleva + 4 měsíce zdarma | Vyzkoušet |
| Private Internet Access | 85% sleva + 4 měsíce zdarma | Vyzkoušet |
Shrnutí? Není to o paranoie. Je to o pozornosti
Nechci, aby to vyznělo jako konspirační teorie to fakt ne! Ale mám za to, že čím dřív se začneme o tyhle věci zajímat, tím líp. Ne proto, že bychom měli přestat používat technologie, ale proto, že by nám nemělo být jedno, co všechno se o nás ví a kdo s tím pracuje nebo naše data formuje a pak prodává.
To, co začalo jako hledání akordů, se proměnilo v existenciální otázku: „Kdo všechno mě zná líp než já sám?“
A v tomhle momentu už to není o akordech, ale o tom, jak moc jsme odevzdali. A jestli to ještě dokážeme vzít zpátky. Já v tom mám jasno, ale nyní je načase, abyste se nad toouto otázkou zamysleli i vy!
Vaše komentáře
Zatím nejsou žádné komentáře… Buďte první, kdo ho napíše.
Přispějte svým komentářem
