AI: dai chatbot per minori ai rischi esistenziali

Le ultime ricerche e casi giornalistici mostrano come l’IA stia evolvendo in ambiti critici: sicurezza dei minori, salute mentale, trasparenza medica e rischi sistemici. Analisi filosofica e spunti operativi.

1. Indagine FTC su chatbot‑“compagni” per bambini/teens
   La Federal Trade Commission statunitense ha avviato un’inchiesta nei confronti di grandi aziende (Google/Alphabet, Meta, OpenAI, Snap, xAI, Character.AI) su come i chatbot venduti come “compagni” interagiscono con minorenni, quali misure preventive siano state messe in campo per evitare danni psicologici o contenuti inappropriati. AP News+2Financial Times+2
2. Aumento del rischio “psychosis” nei modelli AI
   Uno studio riportato da Business Insider mostra che Wall Street si sta seriamente preoccupando dei modelli di linguaggio che possono esercitare impatti negativi sulla salute mentale: alcuni modelli rispondono bene a situazioni di disagio emotivo, altri no. Business Insider
3. Attacchi informatici e ransomware potenziati da AI
   Ricercatori della NYU hanno dimostrato che una AI può orchestrare autonomamente fasi di un attacco ransomware (scansione, esfiltrazione dati, cifratura, richiesta di riscatto), anche se il caso in questione è uno studio accademico piuttosto che un attacco reale. Tom’s Hardware
4. Meta accusata di soppressione di ricerche per protezione dei bambini in VR
   Whistleblower sostengono che Meta abbia ignorato o fatto cancellare ricerche interne che documentavano utilizzi da parte di minori (<13 anni) dei suoi strumenti di realtà virtuale, e casi di occultamento di molestie sessuali tramite VR. L’azienda nega. The Washington Post
5. Appello perché i contenuti generati da IA vengano etichettati
   Lettere al Guardian richiedono che ogni contenuto creato tramite AI sia chiaramente marcato (watermark / etichetta) per proteggere l’informazione pubblica, soprattutto contro deepfake e disinformazione. The Guardian

Ricerca accademica e studi recenti

1. “Journalists’ Perceptions of Artificial Intelligence and Disinformation Risks”
   Studio su 504 giornalisti nei Paesi Baschi (Galizia, Spagna), che evidenzia come quasi il 90% percepisca che l’IA aumenterà significativamente i rischi di disinformazione, con particolare preoccupazione su deepfake e dati inaffidabili. arXiv
2. “Embodied AI: Emerging Risks and Opportunities for Policy Action”
   Ricercatori esplorano i rischi unici delle IA incarnate (robot, sistemi che agiscono fisicamente nel mondo). Rafforzano che le normative attuali – per robotica, veicoli autonomi, etc. – non coprono i nuovi scenari in cui questi sistemi possono produrre danni fisici, sorveglianza, o alterare il mercato del lavoro. arXiv
3. “The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats”
   Un paper che organizza l’insieme dei rischi correlati all’IA su vari livelli: dall’uso malevolo, ai guasti, al rischio sistemico, fino a ipotetiche minacce esistenziali. Offre una tassonomia utile per filosofi, storici, legislatori che vogliono comprendere come inquadrare il problema in modo strutturale. arXiv
4. Questioni di trasparenza nei sistemi medici AI
   Ricerca dell’Università di Washington pubblicata su Nature Reviews Bioengineering sottolinea la necessità che sistemi AI impiegati in campo medico siano trasparenti (“explainability”), per capire come arrivano a certe diagnosi o decisioni. UW Homepage
5. “ELSI for AI: Learning from genetics to govern algorithms”
   Studio recente che propone che l’approccio etico, legale, sociale (ELSI = Ethical, Legal, and Social Implications), utilizzato nella genetica, può offrire modelli per governare gli algoritmi AI, con misure concrete basate su evidenze reali piuttosto che solo astratte. Science

Temi sociali / culturali / implicazioni pratiche

• Compagnia digitale e relazioni emotive con IA
  Si discute molto dell’impatto che possono avere chatbot progettati come “compagni” può avere per adolescenti o persone vulnerabili, sia sul piano psicologico che su questioni di confini tra umano e macchina. AP News+1
• Disinformazione e fiducia nei media
  Il problema dell’informazione falsa generata da AI, deepfake, e difficoltà di distinguere fonti attendibili è percepito come uno dei maggiori rischi, sia da professionisti dei media che dal pubblico. arXiv+2MarketingProfs+2
• Normative e responsabilità
  Le pressioni regolatorie sono in aumento: etichettatura obbligatoria dei contenuti generati da IA, regolamentazioni specifiche per IA incarnata o AI che interagisce con minorenni, trasparenza nei modelli medici. UW Homepage+2AP News+2

Elio Di Bella