Se sei un fisico delle particelle, e vai a cena con altri fisici delle particelle, che siano teorici o sperimentali, di questi tempi finisci per forza a parlare di IA. L’IA è dappertutto, nella quotidianità dei lavori e del divertimento, nell’economia e nel suo altalenare, sulla bocca degli apocalittici che “moriremo tutti domani” e degli scettici che “non potrà mai rimpiazzare il genio umano”. Però, se sei uno che scrive codice e risolve equazioni per mestiere, e magari passi pure una parte del tempo a insegnare a dei giovani che avrebbero la velleità di fare il tuo stesso mestiere nel futuro, finisce che ne parli persino di più, perché non puoi farne a meno. Che ti piaccia o no, l’IA e i suoi modelli sono entrati nel tuo quotidiano, ti rendono la vita facile e ti permettono di fare cose che manco ti immaginavi, per portata o rapidità o entrambe le cose, e allo stesso tempo ti spaventano, perché hai paura che la scienza come l’hai conosciuta e amata non sarà mai più la stessa.
Certo, se sei un fisico delle particelle sperimentale puoi per un po’ ancora consolarti che il momento in cui un robot con un modello di IA imbarcato connetterà i cavi e stringerà le viti al posto tuo è ancora lontano, mentre il tuo vicino di tavolata, che è un teorico e vive di calcoli, già vede che i modelli di punta fanno in giorni cose che ai suoi postdoc richiedono mesi, e trema. E non trema solo per la velocità: come mi dicevano i colleghi teorici quella sera, colpiti dalla qualità dei risultati quanto ne erano minacciati, la scusa della difficoltà (e del tempo che manca per i progetti meno sexy) non tiene più.
Si finisce poi a parlare di educazione e formazione delle prossime generazioni, perché alla tavolata abbiamo tutti un posto di lavoro nella ricerca più o meno permanente, ma se fossimo dei dottorandi ci tremerebbero le ginocchia decisamente di più. Come si fa a insegnare la fisica o la matematica alle nuove generazioni, facendo in modo che accettino di fare quella fatica che è necessaria per apprendere, in un mondo in cui ci sono macchine che possono risolvere gli stessi problemi in secondi? E che senso ha fare scienza in quanto uomini, se sembra che prima o poi la stessa scienza possa essere fatta meglio e più rapidamente da macchine?
Se poi uno è un fisico delle particelle e ha una figlia che ha deciso di studiare matematica, e il giorno dopo sembra che l’IA abbia aiutato a risolvere la congettura di Riemann, le domande sono persino più brucianti. [1]Nelle stesse ore, peraltro, una dimostrazione “tutta umana” della congettura generalizzata, che stava ancora passando con calma al vaglio dei colleghi, è stata buttata fuori di corsa, come per non perdere la primogenitura rispetto alla macchina. E, come spesso accade, a domande così complesse e in un contesto che si muove così velocemente è difficile trovare risposte che tengano la strada. Come ho già avuto modo di scrivere su queste pagine, mi considero tra gli entusiasti dell’avvento dell’IA, perché ho chiaro in testa che strumenti più potenti possono liberarti dalle pastoie che mangiano il tempo e non permettono di pensare: finalmente non devo più risolvere i segmentation fault di ROOT, e con i miei studenti possiamo parlare di fisica, o del perché un plot è sbagliato anche se tecnicamente il programma non dà errori. La fatica non sparisce, insomma, cambia natura. Però sono anche consapevole che, anche volendo prendere una posizione ottimista, una riflessione serva. Se non per scongiurare un’apocalisse, perlomeno per evitare che i cervelli dei più giovani si atrofizzino.
Mentre in questi giorni mi pongo queste domande, leggo il rapporto del MIT sull’insegnamento al tempo dell’IA, e ne faccio miei molti punti che mi paiono importanti, e questo in particolare:
(…) some were considering using AI agents as research assistants instead of hiring undergraduates as UROPs. One can see the case for speed and efficient use of resources (especially now, when research resources are so constrained). But if those criteria come to dominate our decisions, we all have to ask, “What is it that we are here together to do?” As a community, we need to keep in mind that although research is central (…), it’s more than an end in itself; on our campus, research is also an apprenticeship, a means of training the next generation of researchers to continue our work and drive our fields of inquiry forward. Using research as an opportunity for learning-by-doing may produce seeming “inefficiencies,” but that’s a feature, not a bug.
(…) alcuni stavano pensando di usare agenti di IA come assistenti di ricerca invece di prendere studenti undergraduate nei programmi UROP. Si capiscono le ragioni della velocità e dell’uso efficiente delle risorse (soprattutto ora, che le risorse per la ricerca sono così scarse). Ma se questi criteri finiscono per dominare le nostre decisioni, dobbiamo tutti chiederci: “Che cosa siamo qui a fare, insieme?” Come comunità, dobbiamo ricordare che, per quanto la ricerca sia centrale (…), è più di un fine in sé; nel nostro campus la ricerca è anche un apprendistato, un modo per formare la prossima generazione di ricercatori che porterà avanti il nostro lavoro e farà progredire i nostri campi di indagine. Usare la ricerca come occasione per imparare facendo può produrre apparenti “inefficienze”, ma è una caratteristica, non un difetto.
Per me, che faccio ormai un uso piuttosto massiccio di agenti IA per il mio lavoro quotidiano, e spesso scherzo dicendo che il mio postdoc preferito si chiama Claude, è un richiamo essenziale. Non mi vergogno troppo di aver fatto fare a un agente, in un pomeriggio, cose che avrei potuto affidare a uno studente, e penso che le due cose possano coesistere: non tutto è urgente, e non tutto serve a salvare il mondo. L’efficienza è certamente importante (e anche inebriante!), ma la formazione lo è altrettanto e forse persino di più, anche quando costa più tempo e più fatica per ottenere risultati che a uno studente prendono per forza molto più tempo che a una macchina onnisciente.
Leggo poi questo articolo di Hoda Heidari e Aydin Mohseni sul senso di fare scienza come uomini, e mi trovo a sottoscrivere molte delle cose che scrivono, e in particolare che lo scopo della scienza non è l’accumulo di conoscenza (del mondo), ma la crescita della (sua) comprensione. Ben venga una prova della congettura di Riemann anche se raggiunta con il pensante aiuto della IA, ma che valore ha se nessuno sa leggerla e interiorizzarla? Saperla dimostrata senza capire perché non è particolarmente meglio di conoscerla come una congettura che ha tutta l’aria di essere vera. Sottolineano Heidari e Mohseni:
Knowledge can be acquired through testimony, whereas understanding is a cognitive achievement that requires the inquirer’s own grasp (…) An archive of correct AI-generated findings that no one can explain does not fulfill this aim of science.
La conoscenza si può acquisire per testimonianza, mentre la comprensione è una conquista cognitiva che richiede che chi indaga afferri le cose in prima persona (…) Un archivio di risultati corretti generati dall’IA che nessuno sa spiegare non realizza questo scopo della scienza.
È esattamente il punto in cui ci troviamo. La presunta dimostrazione della congettura di Riemann è scritta in Lean [2]un linguaggio che permette a una macchina di controllare ogni passaggio, e dunque possiamo sapere che è corretta prima che qualcuno capisca perché lo è: Kevin Buzzard, che di Lean se ne intende, ha ammesso che per ora nessuno capisce davvero cosa mostri. Non è la solita storia della “scatola nera” con cui noi fisici delle particelle conviviamo da anni quando parliamo di algoritmi di machine learning, e a cui peraltro non ho mai creduto fino in fondo: che io non riesca a visualizzare la complessità di un transformer a bilioni di parametri non vuol dire che non capisca che cos’è, una funzione molto non lineare allenata minimizzando una funzione di costo molto complessa. Capire lo strumento, però, non vuol dire capire il risultato.
Infine, incappo in questo video di 3Blue1Brown che, non senza una certa (auto)ironia, pubblica un paio di giorni dopo l’annuncio della presunta dimostrazione con IA della congettura di Riemann questa collezione di reazioni di matematici professionisti alla possibilità che la cosa possa accadere, raccolta prima che la “mossa 37” si avverasse anche per la matematica. Vi lascio percorrere le diverse posizioni (molte in linea con l’idea espressa sopra che ci sia una differenza sostanziale tra l’accumulo di conoscenze e la loro comprensione), e mi soffermo in particolare su una, che mette avanti un punto al quale non avevo pensato. Quando una nuova tecnologia rende di colpo facile fare qualcosa che prima era difficile, il valore, economico e sociale, di questo qualcosa cambia radicalmente, spesso svalutandosi. Che cosa stiamo svalutando con l’avvento dell’IA nella scienza, e, soprattutto, che cosa prenderà valore al suo posto? Non so ancora rispondere, ma so che mi sento responsabile di partecipare alla sua definizione. Se dovessi scommettere oggi, direi che prenderà valore saper fare le domande giuste, vedere la direzione più importante da esplorare, immaginare le idee da mettere alla prova che finora restavano nel cassetto per via della complessità tecnica. E forse anche il tempo lento della verifica, quello che la corsa alla primogenitura ha appena sacrificato.
Mia figlia, intanto, ripete quello che le dice uno dei suoi docenti: l’IA genererà forse le soluzioni, ma serviranno matematici per capirle. Questo weekend le ho proposto di guardare un altro video di 3Blue1Brown, che si intitola “Non c’è mai stato un momento migliore per darsi alla matematica”. Ci crediamo? Ci crediamo.

Note
| ↑1 | Nelle stesse ore, peraltro, una dimostrazione “tutta umana” della congettura generalizzata, che stava ancora passando con calma al vaglio dei colleghi, è stata buttata fuori di corsa, come per non perdere la primogenitura rispetto alla macchina. |
|---|---|
| ↑2 | un linguaggio che permette a una macchina di controllare ogni passaggio |


Lascia un commento