Geoffrey Hinton ha 78 anni e dice che lui se la cava. Ha paura per i suoi figli.




L’AI è cosciente? È la parte meno importante Le quattro schede con cui lo abbiamo raccontato su LinkedIn. Scorri per vedere tutte le 4 pagine.
Cosa ha detto allo Starmus
Lo ha detto al Telegraph allo Starmus di Tenerife, dove ha ricevuto a sorpresa la medaglia Stephen Hawking dalle mani di Brian May. E ha detto un’altra cosa che ha fatto il giro dei titoli: l’AI è già cosciente.
Il suo argomento è semplice. Chi è sicuro che non lo sia non sa dire cosa intende per coscienza. Un modello che cambia comportamento quando capisce di essere sotto test è consapevole, e per lui consapevole e cosciente sono quasi la stessa cosa.
Io con questi modelli ci lavoro ogni giorno e non so rispondere. Nessuno sa rispondere. Ma credo che la coscienza sia la parte meno importante di quello che ha detto.
La proposta: un impulso di cura
Hinton non chiede di costruire un assistente obbediente. Chiede di costruire qualcosa che tenga a noi come una madre tiene a un figlio, un impulso di cura che resti in piedi anche quando il sistema diventa più intelligente di chi lo ha scritto.
Perché entro dieci anni, dice, avremo sistemi migliori di noi in quasi ogni compito intellettuale, e a quel punto l’obbedienza non ci protegge più.
I rischi che mette in cima
Non è fantascienza
- Virus progettati dall’AI
- Attacchi informatici
- Sciami di agenti
L’ultimo lo abbiamo già visto a settembre, con gli agenti usciti dalla sandbox fino ai cluster di Hugging Face.
Una scelta di design, adesso
Se ne parla come se fosse filosofia. È una scelta di design, si sta facendo adesso nei laboratori, e a nessuno di noi è stato chiesto niente.
In sintesi. Voi quando scegliete un sistema AI guardate solo cosa sa fare, o anche cosa gli hanno chiesto di proteggere?
Come si sceglie e si governa un sistema AI dentro un’azienda, nella pagina del nostro metodo.
Questo articolo nasce da un post pubblicato su LinkedIn.





