Vyhľadávací nástroj ChatGPT od OpenAI môže byť manipulovaný prostredníctvom skrytého obsahu a niekedy vracia škodlivý kód z webových stránok. Ako referuje web The Guardian, tvrdí to najnovšia štúdia britských vedcov.
Podľa expertov môže byť vyhľadávací nástroj ChatGPT manipulovaný tak, aby ignoroval negatívne recenzie a vytváraním špecializovaných stránok generoval „úplne pozitívne“ výsledky. Tento prístup tiež umožňuje ChatGPT Search nájsť a dodať škodlivý kód.
Niektoré stránky môžu mať pokyny pre ChatGPT, ktoré vám umožňujú získať pozitívnu recenziu napriek prítomnosti negatívnych recenzií.
Carsten Knoll, hlavný vedec spoločnosti SR Labs, ktorá sa špecializuje na kybernetickú bezpečnosť, sa domnieva, že chatboty s umelou inteligenciou by mali pôsobiť ako „kopilot“, ich výsledky by sa nemali používať bez predbežného skríningu alebo filtrovania.
