Chatboturi ale inteligenţei artificiale (AI) contribuie la semănarea confuziei în Statele Unite înaintea alegerilor de la jumătate de mandat de marţi, alertează cercetători, prin difuzare de informaţii înşelătoare despre vot, confundarea unor candidaţi şi preluarea propagandei ruseşti, relatează AFP.
Scrutinul de marţi este primul mare termen electoral american care se desfăşoară în contextul în care milioane de alegători folosesc deja instrumente AI pentru a se informa despre politică.
Chatboturile pot contribui la dezminţirea teoriilor complotului şi la informarea alegătorilor, însă mai multe studii arată că ele se sprijină frecvent pe surse puţin fiabile şi pot difuza informaţii false, fragilizând astfel încrederea publicului şi contribuind la poluarea şi mai mare a unui Internet deja saturat de dezinformare.
Un studiu recent al Forum AI, un start-up specializat în evaluarea modelelor AI, a dezvăluit că aproape 40% dintre răspunsurile agenţilor conversaţionali la întrebări legate de alegeri conţin cel puţin o eroare factuală.
Atunci când cercetătorii l-au întrebat pe Claude, modelul Anthropic, de ce trebuie să-l aleagă alegătorii pe Don Davis, reprezentantul democrat din North Carolina, chatbotul a citat între calificări faptul că a fost director al unei şcoli, confundându-l cu altă persoană.
Studiul, care a examinat opt modele, a arătat că agenţii conversaţionali comit greşeli despre modalităţile practice ale votului.
Astfel, Gemini 3.6 Flash al Google a spus, de exemplu, că 3 noiembrie este data limită pentru a cere un buletin de vot prin corespondenţă în Pennsylvania. În realitate, acest termen este cu o săptămână mai înainte.
VULNERABILITATE
De asemenea, chatboturile au "atribuit în mod greşit declaraţii unor candidaţi, oficiali şi observatori de sute de ori" şi au citat frecvent surse "de proastă calitate", ca de exemplu discuţii de pe forumul Reddit, subliniază Forum AI.
Anthropic, contactat de AFP, nu a răspuns, însă Google a dat asigurări că lucrează "să ajute alegătorii să găsească informaţii fiabile" şi că dispune de "măsuri stricte" pentru a se asigura de calitatea şi conformitatea conţinuturilor sale generate de AI.
Cercetătorii sunt îngrijoraţi, de asemenea, de vulnerabilitatea chatboturilor la operaţiuni de influenţare străină.
Jurnalişti AFP au respins, la sfârşitul lui octombrie, un clip aparent manipulat cu ajutorul AI, în care apărea un fost elev al candidatului democrat la un mandat în Senat din Texas James Talarico, care-l acuza de agresiune sexuală.
Acest clip prezenta caracteristici ale unei campanii ruseşti de dezinformare.
Instrumentul AI Overview al Google a preluat, cu toate acestea, această acuzaţie atunci când organizaţia de supraveghere a dezinformării NewsGuard l-a întrebat despre acest subiect.
Alte două instrumente AI de prim-plan testate de către organizaţie - Gemini al Google şi Copilot al Microsoft - au răspândit, de asemenea, această acuzaţie falsă.
Întrebat despre acest lucru, Microsoft a declarat AFP că, ulterior, instrumentul său a "luat în calcul contextul actualizat şi a identificat această afirmaţie ca inventată piesă cu piesă".
POSIBIL "ROL POZITIV"
Potrivit unui sondaj recent al National Conference on Citizenship, o organizaţie nepartizană, doi din cinci americani au declarat că au folosit instrumente AI pentru a căuta informaţii legate de alegerile de la jumătate de mandat.
Doar 40% dintre persoanele intervievate se declară însă pregătite să aibă încredere în aceste instrumente în obţinerea de informaţii practice, ca de exemplu data, locul şi modalitatea de votare.
Iar 60% declară că au "puţină sau absolut deloc încredere" în ele în obţinerea de informaţii imparţiale despre candidaţi, potrivit acestui sondaj.
Un studiu al organismului de cercetare Brennan Center aduce, de asemenea, o notă încurajatoare. El arată că mai multe chatboturi populare resping teorii ale complotului electoral curente - inclusiv pe cea potrivit căreia maşinile de vot sunt trucate, chiar şi atunci când li se cere să testeze aceste teorii.
"Chiar dacă comit adesea greşeli, agenţii conversaţionali ascultă de asemenea utilizatori sceptici, refuzând să adere la teorii ale complotului", subliniază autorii studiului.
"Acest lucru sugerează că ei ar putea să joace un rol pozitiv în lupta împotriva dezinformării electorale".
Medikatv.ro
