EY a retras un studiu despre programele de recompense și loialitate, care conținea aparente halucinații generate de AI și note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică. Însă, cercetătorii online au descoperit că acesta conținea date inventate, citări atribuite greșit și referiri la un raport McKinsey care nu exista.
Citește și: Cercetătorii au creat un asfalt ecologic care rezistă 20 de ani folosind zgură de oțel
EY Canada a eliminat rapid raportul de pe site-ul oficial după ce problema a fost semnalată joi seară de grupul GPTZero. În document, piața programelor de loialitate era estimată la 200 de miliarde de dolari, iar valoarea punctelor nefolosite era indicată la aceeași sumă, ceea ce ridică semne de întrebare asupra acurateței informațiilor.
De ce sunt periculoase halucinațiile AI în sectorul consultanței?
Cercetătorii GPTZero au descoperit că mai mult de șase note de subsol din raport trimiteau către pagini web inexistente sau fără informații relevante. Această problemă evidențiază riscul de a răspândi informații false, care pot influența deciziile cercetătorilor și ale clienților.
- Informații false sau inventate pot «otrăvi fântâna» de cunoștințe online
- Raportul a fost publicat de o firmă de consultanță cu trafic ridicat
- Halucinațiile AI pot induce în eroare cercetători și decidenți
Impactul halucinațiilor AI asupra sectorului serviciilor profesionale
Problemele generate de AI nu sunt noi. Anul trecut, Deloitte a fost nevoit să revizuiască un raport pentru un guvern canadian după ce s-au descoperit citări academice false. În plus, firma Sullivan & Cromwell și-a cerut scuze pentru citări incorecte în documente juridice.
Cu toate acestea, companiile continuă să investească masiv în AI, promovând implementarea acestei tehnologii în serviciile lor. EY susținea în octombrie că veniturile din AI au crescut cu 30% în ultimul an, iar 15.000 de angajați lucrau la proiecte pentru clienți, de la transformări digitale la guvernanță responsabilă a AI.
EY a declarat că a eliminat raportul despre programele de loialitate și analizează circumstanțele care au dus la publicarea lui, precizând că studiul nu era legat de activitatea pentru vreun client specific.
Reacțiile oficiale indică faptul că această situație evidențiază necesitatea unei reglementări mai stricte și a unei verificări riguroase a conținutului generat de AI în sectorul consultanței.
Pe măsură ce tehnologia avansează, riscul de a fi induși în eroare devine tot mai mare, iar companiile trebuie să fie vigilente pentru a evita dezinformarea și consecințele negative asupra deciziilor strategice.