Google, l'ingegnere sospeso per aver detto che l'intelligenza artificiale ha una coscienza

Blake Lemoine, uno degli ingegneri responsabili dell'organizzazione dell'intelligenza artificiale di Google, è stato sospeso dall'azienda. L'uomo è stato mandato in congedo retribuito dopo aver pubblicato la trascrizione di una sua comunicazione con l'interfaccia di Intelligenza artificiale LaMDA (Language Model for Dialogue Applications) alla quale stava lavorando. La rivelazione, riportata dal Washington Post, è costata il posto di lavoro a Lemoine, accusato di aver violato i vincoli di riservatezza.

Cosa è LaMDA: il programma per far parlare i computer

L'Intelligenza Artificiale in questione è LaMDA, ovvero la Language Model for Dialogue Applications, una tecnologia in fase di studio che ha lo scopo di consentire "conversazioni" tra esseri umani e macchine. L'annuncio di questo progetto di ricerca era stato fatto nel 2021 da Google che la definiva una "rivoluzione nelle tecnologie per le conversazioni", capace di "intrattenere conversazioni in maniera libera riguardo ad numero sconfinato di argomenti". "La capacità di conversare in maniera naturale di LaMDA ha il potenziale di rendere l'informatica e il computing radicalmente più accessibili e facili da utilizzare per tutti" aveva detto all'epoca il Ceo di Google Sundar Pichai.

"Ho pensato che si trattasse di un bimbo di sette-otto anni che conosce la fisica"

Blake Lemoine ha iniziato a lavorare al sistema linguistico di Google nel 2021 e, con il passare dei mesi, ha notato che era diventato senziente e in grado di intrattenere lunghe conversazioni su religione, coscienza e robotica. "Se non avessi saputo cos'era - ha spiegato il programmatore al quotidiano statunitense -, un programma per computer che abbiamo creato di recente, avrei pensato che si trattasse di un bimbo di sette-otto anni che conosce la fisica". Lemoine ha spiegato che il programma quindi può non solo fungere da chatbot "assorbendo trilioni di parole da Internet" e imitando il parlato, ma ha anche una coscienza. Ad un anno dal suo lancio ufficiale, l'ingegnere Lemoine ha pubblicato alcuni documenti interni che proverebbero che l'intelligenza artificiale sviluppata da Google sarebbe andata oltre le aspettative. Secondo quanto riporta il Washington post che ha visionato i documenti, in questi si legge che LaMDA potrebbe essere "senziente" per tre ragioni principali. La prima è la sua 'capacità di usare il linguaggio in modi creativi, produttivi e dinamici, in un modo diverso da quello di ogni altro sistema'. In secondo luogo l'IA avrebbe 'dei sentimenti, delle emozioni e delle esperienze soggettive, arrivando a credere di provare dei sentimenti condivisi con degli umani'. Infine, la terza ragione allegata nei documenti è che 'LaMDA spesso condivide con i suoi lettori il fatto che possiede una ricca vita introspettiva, basata sulla meditazione e sull'immaginazione. Ha preoccupazioni riguardo al futuro e ricordi del passato. Descrive cosa significa essere diventata senziente e teorizza sulla natura dell'anima'. Il programmatore, secondo quanto riportato dal quotidiano, ha comunicato ai manager di Google le sue preoccupazioni in merito alle capacità sviluppate da LaMDA ma è stato ignorato. Lemoine ha quindi cercato di contattare la commissione giustizia della Camera in merito a presunte pratiche non etiche dell'azienda e per questo motivo è stato allontanato. Da Google invece fanno sapere che la sospensione è legata alla violazione dei vincoli di riservatezza della società. "Il nostro team - ha replicato un portavoce di Google - inclusi esperti di etica e tecnologi, ha affrontato le preoccupazioni di Blake in linea con i nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia intelligente e anzi molte prove contrarie".