Hinton dice che l’AI è già cosciente. Ma la parte importante è un’altra

Geoffrey Hinton ha 78 anni e dice che lui se la cava. Ha paura per i suoi figli.

L'AI è cosciente? È la parte meno importante, pagina 1L'AI è cosciente? È la parte meno importante, pagina 2L'AI è cosciente? È la parte meno importante, pagina 3L'AI è cosciente? È la parte meno importante, pagina 4

L’AI è cosciente? È la parte meno importante  Le quattro schede con cui lo abbiamo raccontato su LinkedIn. Scorri per vedere tutte le 4 pagine.

Cosa ha detto allo Starmus

Lo ha detto al Telegraph allo Starmus di Tenerife, dove ha ricevuto a sorpresa la medaglia Stephen Hawking dalle mani di Brian May. E ha detto un’altra cosa che ha fatto il giro dei titoli: l’AI è già cosciente.

Il suo argomento è semplice. Chi è sicuro che non lo sia non sa dire cosa intende per coscienza. Un modello che cambia comportamento quando capisce di essere sotto test è consapevole, e per lui consapevole e cosciente sono quasi la stessa cosa.

Io con questi modelli ci lavoro ogni giorno e non so rispondere. Nessuno sa rispondere. Ma credo che la coscienza sia la parte meno importante di quello che ha detto.

La proposta: un impulso di cura

Hinton non chiede di costruire un assistente obbediente. Chiede di costruire qualcosa che tenga a noi come una madre tiene a un figlio, un impulso di cura che resti in piedi anche quando il sistema diventa più intelligente di chi lo ha scritto.

Perché entro dieci anni, dice, avremo sistemi migliori di noi in quasi ogni compito intellettuale, e a quel punto l’obbedienza non ci protegge più.

Capiremo le loro affermazioni come i ratti capiscono i numeri primi.

I rischi che mette in cima

Non è fantascienza

  • Virus progettati dall’AI
  • Attacchi informatici
  • Sciami di agenti

L’ultimo lo abbiamo già visto a settembre, con gli agenti usciti dalla sandbox fino ai cluster di Hugging Face.

Una scelta di design, adesso

Se ne parla come se fosse filosofia. È una scelta di design, si sta facendo adesso nei laboratori, e a nessuno di noi è stato chiesto niente.

In sintesi. Voi quando scegliete un sistema AI guardate solo cosa sa fare, o anche cosa gli hanno chiesto di proteggere?

Dalla lettura alla pratica

Come si sceglie e si governa un sistema AI dentro un’azienda, nella pagina del nostro metodo.

Il metodo →

Questo articolo nasce da un post pubblicato su LinkedIn.

Dietro ogni condivisione c’è qualcuno che scopre qualcosa di nuovo.

Ti potrebbe piacere anche:

Copertina: La cura nel progetto

Hinton ha ragione, me l’ha spiegato il mio gatto

Copertina: Il numero è 48 su 55

1.946 agenti e un cervello di topo: il numero che conta è 48 su 55

Copertina: Un confronto onesto

MAI-DxO su Science: l’AI scende di due punti, il confronto diventa onesto

Copertina: La guardia spostata

Il cane robot di Atlanta non ha sostituito la guardia. L’ha spostata

Copertina: Il test è quando tace

Claude Duet: un’app che non apri tu, arriva lei. Il test vero è quando tace

Copertina: Il filtro si sposta prima

Cyber Verification Program: il filtro non è sparito, si è spostato prima

inviaci la tua richiesta