Psicoweb

Quando un’app ci spiega come stiamo

Da una foto del pasto o da una domanda sul sonno, il telefono ricava una stima o una spiegazione. Come capire a quali dati si appoggia il risultato.

Uno smartphone, uno smartwatch e un taccuino sul tavolo della colazione.
Le informazioni della vita quotidiana possono diventare l’ingresso di un diario o di un assistente digitale. Illustrazione fotorealistica generata con IA per ComputerWeek. · Illustrazione fotorealistica generata con IA per ComputerWeek.

Scenari

Una foto del pranzo e una domanda in chat danno risposte in pochi secondi. Da Apple a Samsung, che cosa succede fra il momento in cui consegniamo un dato e quello in cui un’app ce lo spiega.

In questo articolo
  1. Due app e due modi di interpretare i dati
  2. Quello che una fotografia lascia fuori dal piatto
  3. Come si mette alla prova una stima
  4. Che cosa misura una risposta ben scritta
  5. Quando il telefono propone di aggiungere i nostri dati
  6. Dal risultato sullo schermo a ciò che le persone fanno

Fotografiamo un piatto di pasta e sul telefono compare una quantità di calorie. La sera lo stesso dispositivo risponde a una domanda sul sonno con un testo di tre paragrafi e un collegamento a uno studio. Nella prima schermata ci fidiamo della precisione di una cifra. Nella seconda ci orientiamo grazie al tono ordinato della spiegazione e alla fonte in fondo. Per arrivare a entrambe le risposte, il software ha dovuto completare informazioni che gli mancavano.

Questa è la parte che l’interfaccia tende a mostrare meno. Un piatto nasconde quantità e ingredienti. Una domanda sanitaria lascia fuori circostanze che potrebbero cambiare la risposta. Quando l’AI raccoglie questi elementi in un riepilogo, prende forma un racconto plausibile. Per capire quale fiducia accordargli, bisogna poter risalire alle osservazioni che lo sostengono e alle supposizioni con cui è stato costruito.

Due app e due modi di interpretare i dati

Il 15 novembre 2026, Apple ha annunciato negli Stati Uniti uno studio con OpenEvidence per osservare come le persone interagiscono con un assistente conversazionale sulla salute. Il tetto di reclutamento è di 200.000 partecipanti. Le domande passano da un’app di ricerca. Le risposte sono prodotte con la tecnologia del partner e includono riferimenti a pubblicazioni cliniche. Apple vuole capire che cosa gli utenti comprendono, come valutano ciò che leggono e se usano quelle informazioni per prepararsi a una visita. [1]

Samsung Health affronta un compito diverso. Con Scan Meal, annunciato in beta negli Stati Uniti, una foto può diventare il primo passaggio per registrare un pasto. Samsung descrive risultati che comprendono ingredienti e una stima delle calorie. Il vantaggio immediato è operativo. Chi vuole tenere un diario può partire da una voce già compilata e ritrovarsi con meno dati da inserire a mano. [2]

Le due iniziative hanno qualcosa in comune. La schermata restituisce in pochi istanti un’informazione più organizzata di quella che abbiamo fornito. Nel diario arriva un numero, nella chat una spiegazione. La rapidità rende l’informazione facile da usare. Per chi progetta l’app, c’è anche da rendere visibile la distanza fra il materiale raccolto e la risposta che appare sullo schermo.

Quello che una fotografia lascia fuori dal piatto

Una rassegna di studi pubblicata su Advances in Nutrition descrive i passaggi tipici dei sistemi che analizzano immagini di cibo. Il programma prova a individuare gli elementi presenti, a riconoscerli e a stimare volume o valori nutrizionali. Sono compiti distinti. Un modello può riconoscere una porzione di riso e avere poche informazioni su quanto pesi o su che cosa ci sia nella salsa. La forma della ciotola e l’angolo di ripresa cambiano gli indizi disponibili. [3]

Immaginiamo due porzioni che coprono la stessa superficie. Una è distribuita in un piatto piano. L’altra è in una ciotola e si estende verso il fondo, fuori dalla vista. La foto può farle apparire simili. Per passare dall’area visibile al volume servono indizi sulla profondità. Per passare dal volume al peso è necessaria un’idea di quanto sia denso il cibo. Una stima energetica aggiunge altre ipotesi, legate alla ricetta e agli alimenti usati come riferimento.

Lo stesso vale per gli ingredienti. La quantità di olio usata nella preparazione può variare senza produrre una differenza evidente nell’immagine. Con un pasto composto, una parte delle guarnizioni può coprire altri elementi. Questi problemi diventano più comprensibili se l’app mostra gli alimenti che pensa di aver riconosciuto e rende modificabili le porzioni. Chi ha cucinato dispone di dettagli che il modello può acquisire solo attraverso un’altra informazione.

Due porzioni di pasta, una in un piatto piano e una in una ciotola profonda.
Due porzioni dall’aspetto simile possono occupare volumi differenti, che una fotografia mostra solo in parte.Illustrazione fotorealistica generata con IA per ComputerWeek.

Come si mette alla prova una stima

Per verificare un sistema serve poter misurare ciò che gli utenti hanno davvero mangiato. Nel 2024 un gruppo guidato da Jeannette Schenk ha assegnato 179 partecipanti a due modi di registrare tre pasti standardizzati. Un gruppo usava uno strumento con immagini tridimensionali e descrizioni degli alimenti. L’altro compilava un diario scritto. I ricercatori pesavano il cibo disponibile e gli avanzi per ricostruire le quantità consumate. [4]

Nel test, le stime del sistema basato su immagini seguivano meglio le variazioni del consumo energetico totale misurato. I risultati sul peso dei singoli alimenti variavano. Il disegno combinava immagini tridimensionali, descrizioni e pesature di controllo, quindi dice che cosa può funzionare in quelle condizioni. Per verificare Scan Meal servono prove sulla sua specifica versione, con lo stesso genere di foto che le persone scattano durante i pasti. [4]

Una buona misura complessiva lascia ancora spazio a errori importanti su singole porzioni. In un test si può calcolare quanto la stima si discosta dal peso osservato per pietanze diverse e capire in quali casi lo scarto aumenta. Questo dettaglio è particolarmente utile in un diario, dove le informazioni del pasto vengono sommate nel corso dei giorni. Un errore ricorrente sulla stessa ricetta può finire per sembrare un’abitudine di chi la mangia.

Che cosa misura una risposta ben scritta

Una frase chiara e partecipe può essere utile a chi cerca un’informazione che fatica a leggere in una fonte specialistica. Un gruppo guidato da John Ayers ha esaminato proprio alcune qualità delle risposte, in uno studio pubblicato nel 2023 su JAMA Internal Medicine. Il materiale era composto da 195 domande già pubblicate nel forum Reddit r/AskDocs. I ricercatori hanno generato risposte alle stesse domande con ChatGPT e hanno sottoposto le coppie di testi a professionisti sanitari, con ordine casuale e provenienza nascosta. [5]

In questo disegno il giudizio riguarda i testi disponibili. Il lettore del forum può apprezzare una risposta dettagliata e dire che si sente capito. In una visita, un professionista può chiedere di chiarire una parola, esaminare dati precedenti e cambiare la domanda man mano che emerge la situazione. Per sapere quale effetto ha una risposta automatica su quelle decisioni servono studi con compiti e misure diversi.

I collegamenti alle fonti aggiungono una possibilità di controllo. Ha importanza anche il punto a cui il link porta. Un articolo può riguardare persone con un’età, una storia clinica o un contesto diversi da quelli di chi sta leggendo. L’esistenza dello studio è un fatto. La sua pertinenza per la domanda è una valutazione che richiede altre informazioni. Per chi sviluppa l’interfaccia, il riferimento è utile se fa capire a quale frase si applica e fino a dove arriva.

«Affermazioni false, inesatte, distorte o incomplete».

Organizzazione mondiale della sanità, illustrazione dei rischi dei grandi modelli multimodali in ambito sanitario, 2024. Traduzione dall’inglese. [6]

L’OMS richiama anche la tendenza ad accordare eccessiva fiducia ai sistemi automatici, chiamata automation bias. Un dato presentato con una buona grafica o un testo con terminologia clinica possono ricevere più credito di quanto permetta il materiale a disposizione. Questo aspetto riguarda anche chi ha esperienza professionale. Il modo in cui viene mostrato il risultato cambia il tipo di controllo che ci viene spontaneo fare. [6]

Una persona consulta un articolo stampato accanto a un computer portatile.
Risalire al documento aiuta a capire a quale affermazione si riferisce una fonte.Illustrazione fotorealistica generata con IA per ComputerWeek.

Quando il telefono propone di aggiungere i nostri dati

Nello studio Apple i volontari possono scegliere di condividere alcune informazioni registrate in HealthKit, tra cui dati su attività, sonno, battito a riposo o risultati di laboratorio disponibili. La ricerca vuole osservare se quei dettagli cambiano la pertinenza e la comprensibilità delle risposte. Apple dichiara che i dati dello studio sono esclusi dall’addestramento dei modelli e che la condivisione delle misure è facoltativa. La dichiarazione riguarda quel progetto di ricerca. [1]

Un dato personale può rendere la risposta più specifica. Resta da capire quale situazione descriva il dato stesso. La misurazione del sonno può dipendere da quando è stato indossato lo smartwatch. Una serie con tre notti simili e quattro senza registrazione restituisce solo una parte della settimana. Se l’app consente di vedere quali giornate ha considerato, l’utente può individuare eventuali lacune prima di affidarsi al riepilogo.

La possibilità di verificare i dati riguarda anche l’uso successivo di quelle informazioni. Condividere una misura per formulare una risposta, conservarla come parte di una cronologia e usarla per addestrare un modello sono tre operazioni distinte. Sapere a quale operazione corrisponde il consenso permette di decidere con maggiore precisione che cosa trasmettere. Per spiegare quella scelta, la schermata del consenso deve usare parole comprensibili quanto quelle del chatbot.

Chi torna dopo una settimana dovrebbe poter capire quali informazioni hanno modificato il riepilogo. Se una misura è stata rettificata, l’app può mostrare su quale versione ha lavorato e se il testo precedente si riferiva a un periodo diverso. La cronologia diventa così un modo per ricostruire il ragionamento del sistema, oltre a conservare ciò che è stato scritto.

Dal risultato sullo schermo a ciò che le persone fanno

Il modo in cui un’app mostra il risultato merita di essere valutato insieme al modello. Nel diario, una persona può accettare la prima porzione proposta perché correggerla le sembra complicato. Nella chat può leggere una frase prudente come una certezza, oppure ritrovare il punto da discutere con il proprio medico. Per osservare questi passaggi bisogna tenere conto di cosa le persone ricordano e di come usano il risultato alcune ore o alcuni giorni dopo.

Lo studio Apple può produrre osservazioni su questo passaggio. Il gruppo di chi aderisce, composto da persone negli Stati Uniti con dispositivi compatibili, ha caratteristiche proprie. I risultati andranno letti a partire dalle domande che questi partecipanti hanno effettivamente posto e dai modi in cui hanno usato l’app. Sarà utile sapere che cosa succede quando la risposta è incompleta o quando la fonte richiede più spiegazioni. [1]

Torniamo alle due schermate. Il diario è utile se possiamo riconoscere il pasto che abbiamo mangiato dentro la voce che propone. La chat diventa più informativa quando mostra il riferimento, lascia spazio per una domanda ulteriore e rende riconoscibili le parti incerte. Dietro una cifra e dietro un paragrafo c’è sempre un passaggio da ricostruire. Possiamo vedere molto di più di quel passaggio, se l’app lo include nella risposta.

Fonti e letture

  1. Apple Newsroom, annuncio di Apple Health AI Usage Study, 15 novembre 2026
  2. Samsung Newsroom USA, annuncio della beta Scan Meal, ottobre 2026
  3. Dalakleidi e colleghi, rassegna sui sistemi di riconoscimento del cibo tramite immagini, 2022
  4. Schenk e colleghi, studio sulle immagini tridimensionali per la stima delle porzioni, 2024
  5. Ayers e colleghi, studio sulle risposte a domande sanitarie pubbliche, JAMA Internal Medicine, 2023
  6. Organizzazione mondiale della sanità, linee guida etiche sui grandi modelli multimodali per la salute, 2024
ComputerWeek · La tecnologia, oltre la notizia.