GOOGL$284.10-11.98%

Un studiu a găsit articole științifice fabricate cu ajutorul AI pe Google Scholar, potrivit Gizmodo, care citează o investigație publicată în Harvard Kennedy School’s Misinformation Review.

Cercetarea a analizat cât de răspândite sunt lucrările cu indicii de text generat artificial în Google Scholar, motorul de căutare academică ce agregă conținut dintr-o varietate de surse online. Autorii s-au uitat în mod special la folosirea abuzivă a modelelor de tip GPT (modele lingvistice mari, capabile să genereze rapid text), inclusiv instrumente cunoscute precum ChatGPT.

Conform articolului Harvard Kennedy School’s Misinformation Review, echipa a selectat un eșantion de lucrări identificate prin prezența unor formulări tipice pentru „agenți conversaționali” (chatboți) și a urmărit apoi cum sunt distribuite și găzduite aceste materiale pe internet.

„Riscul a ceea ce numim «manipularea dovezilor» crește semnificativ atunci când cercetarea generată de AI este răspândită în motoare de căutare”, a declarat Bjorn Ekstrom, coautor al lucrării, într-un comunicat al Universității din Boras, consemnează University of Borås.

Un element important, potrivit echipei, este modul în care Google Scholar colectează materiale: platforma nu funcționează ca o bază de date academică „închisă” și nu filtrează strict după afiliere științifică sau după existența evaluării inter pares (peer-review). Astfel, alături de articole validate, pot apărea și lucrări de tip „captură accidentală” (de exemplu, rapoarte, preprinturi sau lucrări de studenți).

În eșantionul analizat, cercetătorii au constatat că două treimi dintre lucrări erau cel puțin parțial produse prin utilizare nedeclarată de GPT. Dintre lucrările fabricate identificate, distribuția pe domenii a inclus:

• 14,5% legate de sănătate
• 19,5% legate de mediu
• 23% legate de informatică

Autorii mai notează că majoritatea acestor lucrări au fost găsite în reviste neindexate și în „working papers” (lucrări de lucru), însă au existat și cazuri în reviste științifice cunoscute și în volume de conferințe. În evaluarea lor, riscurile sunt duble: pe de o parte, volumul de „studii” fabricate poate suprasolicita infrastructura de comunicare academică și poate afecta integritatea arhivei științifice; pe de altă parte, conținutul cu aparență credibilă poate fi optimizat pentru a fi găsit ușor prin motoare publice, în special Google Scholar.

În context, Gizmodo amintește și episoade recente în care editori științifici au retras articole considerate lipsite de sens sau cu elemente generate de AI, sugerând că presiunea asupra mecanismelor de verificare crește. Concluzia implicită a materialului este că, pe lângă revistele evaluate inter pares, și platformele care găzduiesc sau indexează lucrări academice ar putea avea nevoie de reguli mai stricte, astfel încât utilizarea AI să nu submineze încrederea în cercetarea științifică.