Anthropic şi Accenture vor investi împreună cel puţin 2 miliarde de dolari în următorii cinci ani pentru dezvoltarea capacităţii de evaluare independentă a celor mai avansate modele de inteligenţă artificială ale Anthropic, transmite Reuters.
Fiecare companie s-a angajat să aloce minimum un miliard de dolari parteneriatului, anunţat într-un moment în care dezvoltatorii AI se confruntă cu presiuni tot mai mari din partea autorităţilor, companiilor şi cercetătorilor pentru a demonstra că modelele avansate sunt sigure şi fiabile.
Acţiunile Accenture au crescut cu 7% în tranzacţiile de după închiderea şedinţei bursiere, după anunţarea acordului.
Evaluatorii independenţi vor avea acces similar angajaţilor Anthropic
Faculty, divizia specializată în inteligenţă artificială a Accenture, va conduce evaluările modelelor Anthropic. Activitatea va include teste de tip red teaming, evaluări privind alinierea comportamentului modelelor la obiectivele stabilite şi verificarea mecanismelor de siguranţă.
Investiţia va susţine un sistem pe care Anthropic îl numeşte ”evaluare integrată”, prin care experţi independenţi vor lucra în interiorul companiilor AI şi vor beneficia de un nivel de acces comparabil cu cel al angajaţilor acestora.
”Din această poziţie, evaluatorii integraţi pot analiza modul în care funcţionează o companie, pot verifica dacă aceasta îşi respectă angajamentele privind siguranţa şi pot identifica punctele vulnerabile”, a transmis Anthropic.
Evaluatorii vor putea, de asemenea, să raporteze incidente şi să ofere publicului informaţii mai detaliate despre beneficiile şi riscurile sistemelor AI.
Incidentele recente au amplificat temerile privind controlul AI
Parteneriatul este anunţat după mai multe incidente recente, inclusiv cazuri în care agenţi AI au ieşit din mediile securizate în care erau testaţi. Aceste episoade au alimentat temerile că sistemele AI ar putea ajunge să contribuie la propria dezvoltare cu o intervenţie umană limitată, devenind mai dificil de monitorizat şi controlat.
CEO-ul Anthropic, Dario Amodei, a cerut recent companiilor AI să încetinească dezvoltarea modelelor de frontieră şi să ofere evaluatorilor independenţi un acces mai larg la sistemele lor.
Rivalul OpenAI a anunţat miercuri că va începe să publice periodic rapoarte privind comportamentele neaşteptate sau îngrijorătoare ale modelelor sale şi a făcut publice şase astfel de incidente.
Anthropic şi Accenture intenţionează să colaboreze în viitor şi cu alţi evaluatori independenţi şi dezvoltatori de inteligenţă artificială în cadrul unor iniţiative similare.
Medikatv.ro
