OpenAI a anunţat că va include watermark-uri invizibile în textele produse de ChatGPT, pentru ca acestea să poată fi identificate, conform noilor reguli din Uniunea Europeană.
Călcând pe urmele Anthropic, OpenAI va include marcaje atât în textele simple generate de AI-ul companiei, cât şi în codul produs de soluţiile de programare.
Compania americană numeşte textGrain marcajele invizibile folosite pentru a identifica textele generate de AI, în ideea deosebirii acestora de cele create de om.
Pentru a face identificarea, la celălalt capăt va fi folosit un detector care va identifica watermark-urile din texte.
OpenAI crede că textGrain este mai performant decât alte sisteme de marcare a textelor produse de AI, dar spune că nu poate garanta o recunoaştere perfectă în orice situaţie.
Asta înseamnă că pot exista situaţii în care sistemul nu va depista corect textele generate de AI sau va confunda textele scrise de oameni cu cele produse de AI.
Compania se aşteaptă ca probele de identificare să apară mai ales în cazul textelor scurte, unde rata de succes este estimată la aproximativ 80%.
Situaţia se complică şi mai mult când textele produse de AI sunt prelucrate de oameni, caz în care rata de succes scade şi mai mult.
OpenAI spune că va oferi sub licenţă open-source sistemul de detectare a textelor produse de AI, pentru ca alţi dezvoltatori sau organizaţii să încerce să-l îmbunătăţească pentru cazuri specifice.
Medikatv.ro
