Cosa sarebbe il concetto del titolo di questo post? Non cercatelo: la frase non ha nessun senso. Eppure pare che molti articoli pubblicati su riviste scientifiche contengono questa frase, o la correlata “vegetative electron microscope”. Il sito Retraction Watch riporta un articolo pubblicato (e poi ritrattato) sulla rivista di Springer Nature’s Environmental Science and Pollution Research e scritto (?) da alcuni ricercatori iraniani che usa questa frase: ma l’articolo non è l’unico, e a quanto pare ce n’è almeno un altro, il cui principale autore è un senior editor a Elsevier.
Come è possibile tutto questo? Alexander Magazinov, software engineer kazako, crede che tutto derivi da un articolo pubblicato nel 1959 che mostro qui sotto:
Come vedete, il testo è stampato in due colonne molto vicine: una riga termina con “vegetative” e quella a fianco comincia con “electron microscopy”. Cosa succede se quel testo è stato usato per l’addestramento di un LLM che non si è accorto che le colonne erano due e ha estratto il testo come se fosse scritto in una singola colonna? E che succede se alcuni autori scrivono fuffa… ehm, un articolo scientifico, usando quell’LLM per generare testo?
Se vivessimo nel migliore dei mondi possibili, i referee avrebbero letto l’articolo, si sarebbero accorti della frase senza senso, e avrebbero chiesto lumi agli autori. No: se vivessimo nel migliore dei mondi possibili nessuno scriverebbe un articolo scientifico a partire da un’AI generativa. Ma si sa, “pubblicare o perire”. D’altra parte, il senior editor di cui sopra ha testualmente affermato di avere «purportedly used “vegetative electron microscopy” to study the structure of bacterial cellulose derived from date syrup.», cioè per studiare la struttura della cellulosa batterica derivata dallo sciroppo di datteri (se ho capito bene). Perché quando si fa una supercazzola…
Ultimo aggiornamento: 2025-02-28 15:44
Grazie, evidenza molto interessante, che conferma la mia opinione che ormai autorevolezza di un qualsiasi paper la si deve valutare soltanto dopo averlo letto, se si hanno le specifiche competenze, senza il bias a priori se pubblicato su rivistina o rivistona. Oppure, paradossalmente, l’autorevolezza la desumi dai commenti sull’articolo che trovi in gruppi ristretti di qualche social frequentati da colleghi che si stimano. Perché effettivamente ci sono anche aree di social dove informalmente vien fatto effettivamente un peer to peer a posteriori .
Di paper farlocchi ce ne sono ahimé tanti, che siano generati da una IA o meno. Il ranking delle varie riviste infatti è stato fatto appunto per cercare di limitare le riviste farlocche di contenuti farlocchi, ma il punto è che chi fa le review ci dedica poco tempo, ed è in genere di manica larga nel migliore dei casi, e connivente negli altri. La quantità di articoli scritti ogni anno inoltre è solo un incentivo a comportarsi in questo modo, e non certo un indice di progresso scientifico come si vorrebbe far credere.
Ma anche quelli onesti non sono esenti da problemi vari, primo fra tutti che volutamente si nascondono dati conosciuti essenziali per riprodurre il risultato, in modo da rendere la vita più difficile ai colleghi concorrenti, ed in generale offuscare il più possibile la disseminazione di conoscenza per garantirsi un vantaggio competitivo, al pari delle varie ditte che secretano tutto.
https://www.reddit.com/r/okbuddyphd/comments/1itugug/wake_up_babe_new_lab_technique_just_dropped/mdsuldc/
> I believe it is a mistranslation of the Persian phrase for “scanning electron microscopy”, it would explain why these papers originated in Iran. According to Google translation, “scanning electron microscopy” in Persian is “mikroskop elektroni robeshi”, while “vegetative electron microscopy” is “mikroskop elektroni royashi”. They are only differed by a point in the Persian script:
> میکروسکوپ الکترونی روبشی
> vs.
> میکروسکوپ الکترونی رویشی
>
Gli LLM sono una piaga sociale, e ambientale. Bisognerebbe bucarglielo, quell’LLM li’.