Il direttore della ricerca della Fondazione OLITEC riflette sul contributo della bioinformatica e sul rischio di delegare ai sistemi informatici scelte che incidono sulla vita.
Algoritmi e persone sono stati al centro dell’intervento tenuto a Venezia da Massimiliano Nicolini, direttore della ricerca della Fondazione Olivetti Tecnologia e Ricerca. Il ricercatore ha collegato le prospettive della bioinformatica a una domanda più ampia: fino a che punto una società può affidare al calcolo decisioni che riguardano opportunità, salute e libertà individuali?
Il tema incrocia il dibattito sull’uso responsabile dell’intelligenza artificiale, nel quale resta decisivo mantenere il controllo umano sulle decisioni sostenute dall’AI. Per Nicolini, la capacità di elaborare enormi quantità di dati non elimina infatti il compito dei ricercatori: formulare domande corrette, verificare le ipotesi e riconoscere i limiti delle informazioni disponibili.
La bioinformatica mostra con particolare chiarezza questa responsabilità. Nel confronto tra patrimoni genetici, un riferimento troppo ristretto può nascondere variazioni già presenti nei campioni. Ampliare la base dei dati consente di osservare differenze prima invisibili, ma l’interpretazione richiede competenze biologiche e informatiche, oltre alla consapevolezza di chi o che cosa sia rimasto fuori dall’analisi.
Algoritmi e persone, il rischio della tecnoteocrazia
Nicolini definisce “tecnoteocrazia” la condizione nella quale il risultato di un calcolo assume un’autorità quasi indiscutibile. Il problema non riguarda soltanto l’accuratezza tecnica del programma: coinvolge chi stabilisce i criteri, quali alternative vengono considerate e quale possibilità abbia la persona interessata di contestare la risposta.
L’esempio proposto riguarda un sistema di orientamento che valuti il percorso di una studentessa. Se un’interruzione degli studi venisse letta soltanto come indicatore di fragilità, il programma potrebbe suggerire percorsi brevi ed escludere possibilità più ambiziose. Una decisione apparentemente efficiente finirebbe così per restringere le opportunità senza ascoltare le ragioni della persona e senza consentire la revisione del giudizio.
Da qui la richiesta di rendere comprensibili i criteri delle raccomandazioni automatiche e di mantenere un interlocutore umano capace di riconsiderarle. La libertà di scelta, nella riflessione presentata a Venezia, passa anche dal diritto di sapere perché una possibilità è stata esclusa e di discutere il percorso che ha condotto a quella conclusione.
La responsabilità ricade quindi sia su chi sviluppa i sistemi sia su chi li utilizza. Spiegare il funzionamento degli strumenti, soprattutto ai giovani, significa tutelare quella che Nicolini chiama “libertà cognitiva”: la capacità di non accettare una risposta come inevitabile soltanto perché prodotta da una tecnologia complessa.
La prospettiva della bioinformatica resta per il ricercatore positiva, perché può ampliare ciò che l’umanità riesce a conoscere del vivente. La condizione è che algoritmi e persone non vengano collocati in un rapporto di subordinazione automatica e che il progresso tecnico conservi spazi reali di spiegazione, critica e decisione.
