A Guardian a csalások felderítésére fókuszáló Ask Silverre hivatkozva számolt be arról, hogy az OpenAI chatbotja a brit Russell & Bromley cipő- és táskakereskedő honlapjára hajazó, hamis oldalra irányítja a felhasználót, amennyiben az kifejezetten ilyen márkájú termékekről érdeklődik.

Ez a csalás azért is különösen veszélyes, mert a vállalatot év elején felvásárolta a Next, és ennek folyományaként ma már nincs is önálló, hivatalos Russell & Bromley webshop. A vásárlók egy része ugyanakkor erről mit sem tud, a generatív algoritmus ajánlása pedig csak segít az esetlegesen feltámadó gyanakvás elcsendesítésében.

Az Ask Silver szakértője a Guardiannek azt nyilatkozta, hogy elképzelhető, hogy a ChatGPT mögött dolgozó nagy nyelvi modell (LLM) lett megmérgezve, azaz a tanítására szolgáló adatbázisba kerülhettek be rosszindulatú tartalmak. Ezzel egy lehetséges magyarázatot adva arra, miért hajlik az algoritmus a kamu webshopok ajánlgatására.

Káros ügynöki tevékenység

A jelenség abból a szempontból semmiképpen nem nevezhető újdonságnak, hogy a nagy nyelvi modellek hallucinációra való hajlandósága régóta közismert jelenség. A nem megfelelő vagy éppen valósnak beállított, de teljesen légből kapott információkkal már korábban is sok probléma akadt.