Kamarát mi nedávno poslal video, ktoré ma na chvíľu zastavilo.
Nie preto, že by bolo technologicky prelomové. Ale preto, že bolo presvedčivo nepravdivé.
Video tvrdilo, že existujú „tajné AI kódy“, pomocou ktorých je možné odomknúť skryté režimy ChatGPT a ďalších AI modelov. Stačí vraj napísať kombinácie ako:
#EL10
#x10
#killcritic
#alt3
A AI začne fungovať úplne inak. Inteligentnejšie. Odvážnejšie. Bez obmedzení.
Dokonca sa v podobných videách objavujú tvrdenia o „developer mode“, „god mode“, „admin access“ alebo o tom, že ide o interné príkazy, ktoré „OpenAI nechce, aby ste poznali“.
A práve tu vzniká problém.
Nie preto, že by ľudia boli hlúpi. Ale preto, že AI je pre väčšinu používateľov stále čierna skrinka. A keď niečo nevidíme pod kapotou, veľmi ľahko uveríme mágii.
Prečo tieto videá pôsobia dôveryhodne?
Pretože občas „fungujú“.
A to je presne dôvod, prečo sa šíria tak rýchlo.
Autor videa napíše:
„Použi #killcritic.“
AI následne odpovie kreatívnejšie alebo menej opatrne. Používateľ vidí dôkaz. Mozog si spojí:
„Aha. Kód funguje.“
Lenže realita je úplne iná.
AI nie je videohra s cheat kódmi
Toto je najdôležitejšia vec, ktorú treba pochopiť.
Veľké jazykové modely, známe ako LLM, napríklad ChatGPT, Claude alebo Gemini, nefungujú ako klasický softvér.
Pri tradičnom programe môže existovať niečo takéto:
if(input == "#x10")
{
EnableAdminMode();
}
To je pevne definovaný príkaz. Presný vstup vyvolá presnú akciu.
LLM modely však fungujú