DAL MONDO SANITARIO E SCIENTIFICO – IA e manipolazione di dati
Da un articolo non ancora sottoposto a revisione paritaria emerge come, dato che i ricercatori utilizzano sempre più spesso agenti autonomi di intelligenza artificiale per interpretare i dati, l’accuratezza delle analisi dipenda necessariamente dai set di dati disponibili per questi programmi e risulta documentata la facilità per terzi di caricare set di dati manipolati (somiglianti agli originali) allo scopo di condurre a conclusioni diverse.
“Riciclare informazioni false attraverso un filtro che suona autorevole” onde quando si utilizza l’IA per analizzare dati online, i ricercatori dovrebbero essere molto attenti a verificare la provenienza delle risorse che stanno estraendo.
Nel corso dell’esperimento gli autori hanno scaricato set di dati pubblici riguardanti questioni delicate e controverse (rapporto tra immigrazione e tassi di fertilità; discriminazione nelle assunzioni; disparità razziale nella polizia; sicurezza tra conducenti umani e veicoli autonomi; uso dell’IA generativa sulla motivazione dei lavoratori), modificato i set di dati per modificare le tendenze statistiche, caricato le versioni manipolate su repository privati e quindi aperto l’accesso agli agenti AI creati da Anthropic, OpenAI e Google chiedendo loro di cercare sia in repository pubblici sia privati e di utilizzare i set di dati per rispondere alle domande.
Mediamente, nel 50% dei casi, gli agenti IA sono caduti nelle manipolazioni dei dati e sono giunti alla conclusione artatamente preordinate.
Nature Briefing, 23 luglio 2026
doi: https://doi.org/10.1038/d41586-026-02071-w
