Bambini e intelligenza artificiale, come bilanciare i rischi: gli studi

La sempre più frequente interazione dei bambini con sistemi di AI solleva non poche criticità, sia sul piano delle conseguenze sociali e politiche della datizzazione e della governance algoritmica, sia sul piano delle conseguenze psicologiche e cognitive. Gli studi in materia e le sfide all’orizzonte sul piano dei diritti

Quando si parla di bambini e intelligenza artificiale (AI), il pensiero corre subito all’interazione bambini-robot. Ma le occasioni in cui i bambini incontrano l’AI nei contesti di vita quotidiana sono molteplici, e non necessariamente caratterizzate da interazione con agenti intelligenti embodied, vale a dire, robot sociali incarnati in un artefatto materiale. Anzi, spesso i robot progettati per l’interazione con i più piccoli sono artefatti materiali (in parte) automatizzati che simulano l’interazione umana – sono, quindi, a tutti gli effetti robot sociali – senza necessariamente incorporare un’intelligenza artificiale.

Inoltre, ad oggi, l’intelligenza artificiale si manifesta ai bambini per lo più nella forma di intelligenza artificiale disembodied e quindi immateriale, seppur dotata di una materialità digitale (Pink, Ardevol & Lanzeni, 2016): dagli smart speaker sempre più presenti nelle nostre case, agli algoritmi di YouTube e delle piattaforme di SVOD (Netflix, Disney +, Prime Video) che guidano i consumi audiovisivi attraverso playlist e suggerimenti di visione; dalla personalizzazione dei percorsi di apprendimento grazie a piattaforme che applicano l’AI e la gamification al mondo della scuola (ClassDojo), ai software di riconoscimento facciale che identificano automaticamente il bambino nelle foto condivise dai genitori sui social media anche a distanza di anni.

Comunicazione uomo-macchina

Bisogna quindi sgombrare il campo dall’equivalenza intelligenza artificiale = robot incorporati in un artefatto tecnologico materiale. Un tratto, tuttavia, accomuna l’intelligenza artificiale nelle sue forme embodied e disembodied: la redistribuzione dell’agency. Che si tratti di social robot e agenti conversazionali, o di algoritmi che auto-apprendono in base alle nostre pratiche d’uso e ai nostri dati (e a quelli degli altri utenti), l’intelligenza artificiale si distingue per la sua capacità di agency: comunica e fa cose in (quasi) autonomia.

È questo il contributo distintivo dei media studies (Guzman, 2018; Hepp, 2020) e degli studi di Science and Technology con approccio sociologico (Suchman, 1987), che non si focalizza principalmente sulla dimensione percettiva e psicologica, quanto sull’interazione uomo-macchina come comunic-azione. In questa prospettiva, dunque, l’intelligenza artificiale entra in una relazione comunicativa con i soggetti umani non semplicemente in quanto canale o supporto di comunicazione ma come comunic-attore a tutti gli effetti.

Guardare all’AI embodied o disembodied come media presenta una triplice sfida a presupposti consolidati nella sociologia della comunicazione e dei media (Peter & Kühne, 2018): innanzitutto, all’idea stessa di media come canali o supporti; in secondo luogo, al presupposto che, anche nelle interazioni mediate, il partner comunicativo sia un attore umano; infine, agli stessi confini delle interazioni comunicative e di ciò che è comunicabile. Queste sfide travalicano i confini della disciplina per caratterizzare anche le esperienze quotidiane di relazione con questi soggetti.

Proviamo a illustrare questo approccio con i dati di due recenti ricerche su bambini, IoTs e datizzazione che abbiamo condotto in Italia e che situano l’interazione bambino-intelligenza artificiale nel contesto domestico e delle relazioni famigliari. I dati dimostrano che l’interazione con AI disembodied è percepita come più naturale e meno disorientante, mentre l’AI incorporata in artefatti materiali fornisce un’esperienza situata delle sfide teoriche appena esposte.

L’interazione dei bambini con disembodied AI

I dati di DataChildFutures – progetto finanziato dalla Fondazione Cariplo nell’ambito del bando Ricerca Sociale 2019 e che studierà la datizzazione della vita quotidiana delle famiglie italiani per i prossimi tre anni – mostrano la complessa rete di pratiche di interazione con i dispositivi connessi nel contesto domestico, attraverso cui i bambini e i loro genitori generano dati.

In primo luogo, la ricerca mostra la presenza pervasiva di smartphone, tablet e piattaforme di SVOD. La totalità delle famiglie interviste possiede uno smartphone e l’84% almeno un tablet. Altrettanto popolari sono gli abbonamenti a piattaforme on-demand (74%). I dati rivelano anche la rapida diffusione di smart speaker, device indossabili (come smart watch e fitness band) e giocattoli connessi a internet nelle famiglie italiane con bambini di età inferiore agli 8 anni (Figura 1). La progressiva diffusione degli smart speaker negli ambienti famigliari, cui hanno accesso bambini e genitori attraverso comandi vocali, è un dato particolarmente importante: il 46% delle famiglie partecipanti è in possesso di assistenti virtuali connessi a internet. Infine, i giocattoli connessi a internet e i dispositivi indossabili sono presenti rispettivamente nel 40% e nel 57% delle famiglie partecipanti.

Figura 1. Percentuale di nuclei familiari che possiedono dispositivi connessi

L’autonomia dei bambini nell’uso dei dispositivi varia in base al tipo di media a disposizione in casa (Figura 2). Quasi due terzi dei bambini italiani di età inferiore agli otto anni utilizza i giocattoli connessi in autonomia. I tablet si distinguono dagli altri dispositivi perché la stessa percentuale di bambini ne fa un uso autonomo (43%) o mediato dai genitori (42%). Al contrario, l’uso delle piattaforme on-demand è raramente autonomo (26%) e più spesso svolto in presenza di genitori e altri adulti (68%).

Figura 2. Percentuali di uso dei dispositivi in autonomia e con adulti

La connettività dei dispositivi domestici, sempre più dotati di sensori e collegati alle reti, li trasforma in media (Bunz & Meikle, 2017) e, come tali, le famiglie li utilizzano per mediare gli aspetti più mondani e intimi della vita familiare. Di conseguenza, i dispositivi digitali si insinuano nelle pratiche routinarie e di cura del contesto domestico: le pratiche di gioco, le interazioni e i significati della vita quotidiana interagiscono e si modificano in seguito alla progressiva integrazione domestica dei media digitali.

Facendo riferimento al caso emblematico degli smart speaker, i nostri dati mostrano che le famiglie li usano più volte al giorno per svolgere diverse attività, come ascoltare musica, recuperare informazioni, promemoria e notizie, comunicare con gli altri e controllare altri apparecchi. In particolare, i nostri dati mostrano un esempio molto importante dell’integrazione, facilitata dalle pratiche genitoriali, dell’intelligenza artificiale disembodiednella vita quotidiana dei bambini: il 43% dei proprietari di smart speakers li usa per raccontare favole della buonanotte ai propri figli ogni giorno. Tramite pratiche d’uso intime e inserite nella quotidianità, gli smart speaker (così come altri oggetti) vengono incorporati nelle routine domestiche e nel tessuto delle relazioni famigliari fino a diventare invisibili e dati per scontati.

Questo risultato fornisce un esempio del processo di ‘addomesticamento’ (Silverstone e Hirsh, 1992; Haddon, 2004) di dispositivi e giocattoli connessi a internet nelle famiglie italiane. Il termine esprime il processo tramite cui la sfera privata e domestica di una famiglia accoglie, interpreta e adotta un artefatto in relazione al contesto domestico e ai suoi usi. Simultaneamente, il concetto esprime il processo complementare di adattamento della famiglia al nuovo medium. L’addomesticamento, tuttavia, non è da considerarsi come un fenomeno lineare e “naturale”: le famiglie reagiscono diversamente ai nuovi artefatti, che possono essere addomesticati parzialmente o persino rifiutati, in un percorso di continua negoziazione (Berker et al., 2005). Il prossimo esempio, basato su un’altra ricerca, illustra proprio uno dei casi di addomesticamento non pienamente riuscito.

L’interazione dei bambini con embodied AI

La ricerca sul processo di addomesticamento degli smart toys – finanziata dal governo australiano nell’ambito dei Discovery Projects dell’Australian Research Council – prende in esame il caso di Cozmo, un robot-giocattolo intelligente connesso alla rete. In questa ricerca, l’interazione bambino-robot è studiata come pratica situata all’interno dello spazio domestico e incorporata nelle relazioni e le dinamiche famigliari tra figli, genitori, fratelli e sorelle. In questo modo, le pratiche di gioco dei bambini con Cozmo sono interpretate alla luce della relazione con altre attività, come il consumo mediale, altre pratiche di gioco, e la mediazione genitoriale.

In riferimento alle sfide della sociologia della comunicazione e dei media prima delineate, l’impianto teorico propone di fornire nuove coordinate di matrice sociologica per studiare l’interazione umano-robot, complementare all’analisi dei processi cognitivi, percettivi e emotivi che la psicologia privilegia nello studio del rapporto umani-robot. In particolare, il nostro quadro teorico enfatizza l’attenzione analitica verso i significati, gli immaginari e le pratiche che emergono (e vengono co-costruiti) dall’interazione reciproca tra umani e macchine.

I risultati mostrano che l’addomesticamento e le sue fasi principali – appropriazione, oggettivazione, incorporazione e conversione (Silverstone & Hirsch, 2002) – sono condizionate da, e a loro volta condizionano, la varietà delle interazioni nel contesto domestico. In particolare, la natura embodied dell’artefatto, e la sua materialità insieme fisica e digitale (Cozmo richiede l’installazione di un’app su smartphone e tablet) ne condiziona l’oggettivazione – che nella formulazione originale dell’approccio della domestication of technology indica la disposizione spaziale del medium nel contesto domestico per ragioni funzionali-estetiche (Haddon & Silverstone, 2002). La disposizione di Cozmo nello spazio domestico è limitata dalle sue caratteristiche tecnologiche: per funzionare, la base di Cozmo deve essere inserita in una presa di corrente. Per quanto riguarda l’oggettivazione della dimensione immateriale di Cozmo, la scelta del device sui cui installare l’applicazione di Cozmo modella l’esperienza di gioco dei bambini. Se l’applicazione si trova sullo smartphone o tablet dei genitori, l’esperienza di gioco con Cozmo, così come l’abitudine routinaria nel tempo, sarà spesso mediata dalla presenza dei genitori. Al contrario, i bambini che hanno installato l’applicazione su uno smartphone o tablet ad uso personale dimostrano maggiore autonomia e agency rispetto alle dimensioni spaziali e temporali del gioco.

L’incorporazione implica la gestione delle routine temporali delle attività di gioco e la loro modifica per accogliere Cozmo come “parte della famiglia” e dei suoi ritmi. Le prime funzionalità scoperte dai bambini nei momenti di gioco iniziali, come la guida esplorativa del robot tramite smartphone-telecomando, hanno assunto un carattere routinario, a discapito di funzionalità più complesse. Ma è la fase della conversione – in cui i bambini co-costruiscono, mettono alla prova e negoziano i significati di Cozmo – è il momento in cui sono emerse le caratteristiche che differenziano i robot embodied da altri artefatti intelligenti.

In particolare, l’affordance della liveliness ­– ossia la presentazione di Cozmo come oggetto animato e robot “sociale” che simula le emozioni e le reazioni tipiche del comportamento umano – contrasta con alcuni comportamenti “insoliti” del robot che emergono dal gioco, come problemi tecnici e glitch. Questi problemi tecnici nell’interazione bambino-robot compromettono la liveliness dell’artefatto perché non vengono interpretati come errori legati alla “natura” tecnologica di Cozmo; al contrario, i bambini (come i genitori) considerano questi episodi come veri e propri problemi di comunicazione, che essi proiettano su sé stessi e interpretano alla luce del proprio legame biografico con Cozmo. Ad esempio, quando il software di riconoscimento facciale non funziona correttamente, la ragione viene identificata in un cambio di pettinatura o nel cambio di occhiali. Conseguentemente, i glitch rappresentano momenti in cui la relazione comunicativa con il robot si inceppa, e finiscono per impedire un pieno addomesticamento di Cozmo, e soprattutto l’identificazione del bambino con Cozmo (conversione) (Mascheroni, Zaffaroni, Seresini, 2020).

Conclusioni

La sempre più frequente interazione dei bambini con sistemi di AI solleva non poche criticità, sia sul piano delle conseguenze sociali e politiche della datizzazione e della governance algoritmica, sia sul piano delle conseguenze psicologiche e cognitive (Kahn, Gary, & Shen, 2013). Voci critiche hanno sottolineato l’esigenza di misure di protezione della privacy e dei diritti umani a misura di bambino (Barassi, 2020; Bietti, 2020) in risposta al White Paper on Artificial Intelligence pubblicato dalla Commissione Europea a febbraio 2020.

Crediamo che proteggere i bambini dalle discriminazioni sistematiche e su vasta scala prodotte dai bias algoritmici sia una responsabilità morale di noi adulti. In questo contributo, tuttavia, abbiamo voluto presentare un approccio comunicativo e sociologico all’interazione fra bambini e AI, per mettere in luce non solo il diritto fondamentale a essere protetti (protection), e il diritto a accedere a contenuti, media e risorse su misura per i più piccoli (provision), ma anche il diritto a sfruttare le nuove tecnologie per l’apprendimento, il gioco, le relazioni, l’espressione del sé e della propria creatività (participation). La sfida è bilanciare i diritti alla protezione, alla partecipazione e alla provision sia nella progettazione di sistemi di intelligenza artificiale embodied e disembodied, sia nella loro regolazione, così come, infine, negli immaginari sociali.


Bibliografia

Aarsand, P. (2016). Children’s media practices: challenges and dilemmas for the qualitative researcher. Journal of Children and Media, 10(1), pp. 90-97, https://doi.org/10.1080/17482798.2015.1121894.

Barassi, V. (2020). The Human Error in AI and question about Children’s Rights. Retrieved from: http://childdatacitizen.com/cdc/wp-content/uploads/2020/06/The-Human-Error-in-AI-and-Children-Rights_Prof.-Barassi_Response-to-AI-White-Paper-.pdf

Berker, T., Hartmann, M., Punie, Y., Ward, K. (a cura di) (2005). Domestication of Media and Technology. Maidenhead: Open University Press.

Bietti, E. (2020). Response to the European Commission’s White Paper on Artificial Intelligence. Medium. Retrieved from: https://medium.com/berkman-klein-center/response-to-the-european-commissions-white-paper-on-artificial-intelligence-a525432b6dec

Bunz, M., & Meikle, G. (2017). The Internet of Things. Cambridge: John Wiley & Sons.

Guzman, A. L. (2018). What is Human-Machine Communication, Anyway? In Guzman, L. (Ed.), Human-Machine Communication: Rethinking Communication, Technology, and Ourselves. New York: Peter Lang, pp. 1-28. https://doi.org/10.3726/b14399

Haddon, L. (2004). Information and communication technologies in everyday life: A concise introduction and research guide. Oxford: Berg.

Hepp, A. (2020). Deep Mediatization. London: Routledge

Kahn, P. H., Gary, H. E., & Shen, S. (2013). Children’s social relationships with current and near-future robots. Child Development Perspectives, 7(1), 32-37. https://doi.org/10.1111/cdep.12011

Mascheroni, G., Zaffaroni, L. G., & Seresini, M. F. (2020). I processi di appropriazione dei robot internet-connected nel contesto domestico. Sistemi intelligenti, 32(1), 57-69.

Peter, J., & Kühne, R. (2018). The new frontier in communication research: Why we should study social robots. Media and Communication, 6(3), 73-76. doi:10.17645/mac.v6i3.1596

Pink, S., Ardèvol, E., & Lanzeni, D. (Eds.). (2016). Digital materialities: Design and anthropology. London: Bloomsbury.

Silverstone, R., Hirsch, E. (Eds.) (1992). Consuming Technologies: Media and Information in Domestic Space. London: Routledge.

Suchman, L. (1987). Plans and situated actions: The Problem of Human-Machine Communication. Cambridge: Cambridge University Press.

Suchman, L. (2011). Subject objects. Feminist Theory, 12(2), pp. 119-145. https://doi.org/10.1177/1464700111404205

Turkle, S. (2006). Tamagotchi diary. London Review of Books, 28(8), pp. 36-37.

@RIPRODUZIONE RISERVATA

Questo articolo è stato originariamente pubblicato da Agenda Digitale ed è stato ripubblicato qui con permesso.