L'attuale intelligenza artificiale è basata su sistemi e presupposti errati.
In sostanza si tratta del prosieguo del metodo di Turing mediante un programma che, grazie alla disponibilità di hardware adeguato, permette di costruire qualcosa di simile a quello che farebbe una persona. Questo si ottiene in base ad un programma aperto che permette di accedere ad una fonte quasi inesauribile di dati messi a disposizione della memoria della macchina. Naturalmente le risposte della AI dipendono dalla banca dati a cui ha avuto la possibilità di accedere, non c'è gerarchia nelle informazioni, non c'è distinzione tra informazioni vere e informazioni false e non c'è nessuna possibilità di controllo etico del risultato fornito.
Il problema è basilare perché si è pensato, erroneamente, che per fare intelligenza artificiale occorresse avere a disposizione una banca dati e che il risultato sarebbe stato tanto più efficace quanto più larga fosse stata tale banca dati.
Questo, tuttavia, non somiglia nemmeno lontanamente all'intelligenza naturale, come può riconoscere ognuno solo facendo poche valutazioni logiche, ma è pericoloso non solo per i motivi ovvi di danno che può produrre, ma soprattutto perché, se utilizzata come mezzo per fare qualsiasi cosa, costringe a non avere innovazione nei metodi e nella sostanza in quanto è solo un sistema che guarda al passato recente e remoto.
Come detto, non essendoci nessuna gerarchia tra le informazioni del data base, si può mescolare tranquillamente il vero con il falso, fatti veramente accaduti e leggende con risultati che probabilmente verranno scartati nelle risposte se c'è un minimo controllo di coerenza nell'output.
In realtà l'intelligenza naturale per dare delle risposte si serve solo delle informazioni di cui dispone e che riguardano il tema di cui si tratta.
Facciamo un esempio: si debba prendere una decisione se scommettere su una corsa di cani e quanto scommettere.
Se non conosciamo i cani che concorrono alla corsa inizialmente tutti hanno la stessa probabilità di vincere e questa è la sola informazione di cui può disporre il nostro “data base” sull'argomento se siamo persone normodotate intellettualmente. Cioè se i cani sono dodici ogni cane ha una ragione di scommessa 1 a favore e 11 contro. Quanto scommettere dipende dalla nostra valutazione soggettiva del valore del denaro di cui disponiamo. Questo non è un dato che possiede l'AI perché quest'ultima è, in quanto non intelligente, generalista nei suoi risultati.
Se siamo intenzionati a scommettere andremo a guardare le quotazioni dei bookmaker e da questo sapremo che chi si occupa di corse ha fatto una valutazione in base ai precedenti di tutti i cani in gara. Quindi potremo considerare per ogni concorrente i casi a favore e quelli contro con maggior raffinatezza e quindi essere indotti a scommettere di più o di meno su ogni cane a seconda dei risultati attesi.
La spesa sostenibile in scommessa non dipende solo dalla “curva individuale dell'utilità del denaro”, ma anche da fatti esterni come i rimbrotti della moglie se si perde, lo sfottò dei colleghi sul posto di lavoro o degli amici al bar. Ci può essere una volontà di evitare di far perdere denaro alla famiglia causando ristrettezze.
Quindi c'è in questa valutazione una costrizione di tipo “etico” perlomeno nelle forme più semplificate e comuni.
In ultima analisi per prendere una decisione, in questo caso occorrono pochissime informazioni a noi note e da acquisire all'esterno. Sarebbe assurdo che per scommettere ai dadi una persona prima si leggesse tutta la bibbia e la Gerusalemme Liberata di Torquato Tasso.
Invece l'AI è abile al lavoro quando si è riempita di dati, anche inutili per la singola richiesta particolare, e può farci fare cose che sono incoerenti con il nostro modo di pensare in quanto non può tenere conto del “carattere” soggettivo di chi la interroga per fare qualsiasi cosa.
Quindi se pensata per fare più alla svelta quello che già fanno i normali computer evitandoci di fare cose ripetitive, può servire, ma per fare innovazione, per prendere decisioni è talmente pericolosa da essere paragonabile alla scoperta della fissione dell'atomo che venne subito utilizzata per sterminare gli abitanti di due città giapponesi.