OpenAI a anunţat că a blocat un grup de conturi ChatGPT provenite din Rusia, după ce a descoperit că acestea erau utilizate într-o operaţiune online de influenţă şi răspândire a dezinformării, transmite CNBC.
Compania a identificat activitatea în timp ce investiga postări de pe reţelele sociale generate cu ajutorul inteligenţei artificiale. Analiza a condus ulterior la descoperirea unei operaţiuni mult mai ample, concepute inclusiv pentru a ascunde originea rusă a celor implicaţi.
ChatGPT era folosit pentru producerea mesajelor de propagandă
Potrivit OpenAI, operatorii introduceau instrucţiuni în limba rusă şi utilizau ChatGPT pentru a genera comentarii şi alte materiale destinate platformelor Substack, Telegram, X, Facebook şi LinkedIn.
Utilizatorii cereau inclusiv modelului să elimine din textele generate indiciile lingvistice care ar fi putut dezvălui că autorii erau ruşi.
Accesul la modelele OpenAI nu este disponibil în Rusia, însă persoanele implicate în operaţiune ar fi utilizat VPN-uri pentru a-şi masca locaţia.
O falsă aparenţă de autoritate academică
O componentă importantă a campaniei era promovarea unei organizaţii numite International Burke Institute (IBI).
Site-ul acesteia conţinea materiale copiate din lucrări academice reale, uneori atribuite în mod fals altor autori.
Operaţiunea nu urmărea astfel doar distribuirea unor postări favorabile Rusiei. Era construită o infrastructură care să ofere acestor mesaje o aparenţă de credibilitate, prin presupuşi experţi, materiale cu aspect academic şi instrumente prezentate drept analize proprii.
Un „indice al suveranităţii” favorabil Rusiei
Campania dezvoltase şi un aşa-numit „sovereignty index”, sau indice al suveranităţii, care prezenta Rusia într-o lumină favorabilă şi evalua negativ state occidentale.
Postările generate cu ChatGPT direcţionau utilizatorii către ceea ce părea a fi o instituţie credibilă, cu experţi, cercetări academice republicate şi propriul indice de evaluare a riscurilor.
OpenAI consideră că mecanismul arată modul în care inteligenţa artificială poate fi utilizată nu doar pentru producerea rapidă de conţinut, ci şi pentru fabricarea unei aparenţe de autoritate şi independenţă a surselor.
Impact redus deocamdată, dar infrastructura putea fi extinsă
OpenAI afirmă că operaţiunea nu pare să fi obţinut o audienţă foarte mare.
Compania consideră însă că pericolul principal consta în infrastructura creată. Aceasta putea fi dezvoltată şi utilizată ulterior pentru campanii de influenţă la o scară mult mai mare.
AI poate permite actorilor implicaţi în asemenea operaţiuni să producă volume mari de conţinut, să ascundă originea mesajelor şi să creeze instituţii aparent legitime care să susţină anumite naraţiuni.
În acest caz, utilizarea inteligenţei artificiale a avut însă şi efectul invers: urmele lăsate de folosirea ChatGPT au contribuit la descoperirea operaţiunii mai ample.
Nu este primul caz legat de actori pro-ruşi
Incidentul se înscrie într-o serie mai largă de tentative de utilizare a inteligenţei artificiale în operaţiuni de influenţă asociate unor actori pro-ruşi.
În februarie, OpenAI anunţase închiderea unor conturi ChatGPT asociate cu Rybar, o organizaţie media pro-rusă despre care guvernul britanic afirmă că este parţial coordonată de Administraţia Prezidenţială rusă, finanţată de corporaţia de stat Rostec şi că lucrează cu membri ai serviciilor ruse de informaţii.
CNBC a solicitat comentarii Ambasadei Rusiei la Londra şi Ministerului rus de Externe în legătură cu noul caz.
Descoperirea evidenţiază una dintre provocările tot mai importante generate de AI: aceeaşi tehnologie care permite producerea rapidă şi ieftină de conţinut poate fi folosită pentru construirea unor ecosisteme de informaţii aparent credibile, menite să ascundă cine se află în realitate în spatele mesajelor distribuite online.
Medikatv.ro
