«L’Intelligenza Artificiale fallirà se vorrà trasmettere l’umanità ai computer»

La coscienza umana e l’intelligenza artificiale. La luminare di Scienze cognitive, Margaret Boden, spiega l’unicità umana e il fallimento dell’Intelligenza artificiale «fin quando sarà convinta della possibilità di trasmettere l’”umanità” ai computer».

 

Le discussioni sull’intelligenza artificiale (IA) spesso suggeriscono che se si continua ad aumentare l’IA debole -la capacità delle macchine di elaborare informazioni e risolvere problemi- ad un certo punto avremo un’intelligenza artificiale forte, ovvero la capacità di pensiero indipendente. Cioè, se potenziamo i nostri computer alla fine emergerà la coscienza.

Ma davvero arriverà un giorno in cui i computer saranno indistinguibili da un agente umano intelligente? Le cose non sono così semplici. Innanzitutto, come ha spiegato il filosofo John Searle, dell’Università della California, attraverso il suo famoso esempio della “camera cinese” (Chinese Room Argument), i computer altro non fanno che trovare soluzioni a seconda delle informazioni che l’uomo offre loro (come tradurre simboli cinesi grazie a delle istruzioni date in inglese). Essi forniscono indicazioni perfette senza però capire nulla di ciò a cui stanno rispondendo (ovvero, secondo l’esempio, inviano indicazioni per comprendere la lingua, nonostante non capiscano una parola di cinese).

Il filosofo analitico Jay Wesley Richards ha affrontato in modo simile la questione, ovvero ridimensionando i poteri dell’intelligenza artificiale: «Solitamente parliamo di computer che apprendono, commettono errori, diventano più intelligenti e così via. Dobbiamo ricordare che stiamo parlando in senso metaforico. Certo, se noi umani fossimo solo computer fatti di carne che ad un certo punto siamo divenuti esseri consapevoli, cosa impedisce ai computer di seguire la stessa strada? La domanda ha senso solo se si accetta la premessa e questo fanno molti ricercatori dell’IA. In realtà», ha proseguito Richards, «non c’è una buona ragione per supporre che la coscienza emerga per caso ad una certa soglia di velocità e potenza computazionale nei computer. Sappiamo per introspezione che siamo esseri coscienti e liberi, anche se non sappiamo davvero come funzioniamo. Tuttavia attribuiamo naturalmente la coscienza ad altri umani. Sappiamo anche in generale cosa succede all’interno di un computer, poiché li costruiamo e non ha nulla a che fare con la coscienza».

L’errore fatale, dunque, è formulare ipotesi semplicistiche sulla natura umana. E’ quello che sostiene anche una luminare dell’intelligenza artificiale, Margaret Boden, docente di Scienze cognitive presso l’Università del Sussex, una delle poche scienziate ad accettare che lo studio della coscienza umana non solo non ha un futuro roseo, ma nemmeno è campo esclusivo della scienza (d’altra parte è laureata in filosofia, psicologia e scienze mediche). II suo pensiero è chiaro: se l’Intelligenza Artificiale cerca di fare in modo che i computer facciano cose che le menti umane possono fare, il problema è sapere come la mente umana fa il genere di cose che fa, per essere in grado di replicare quelle stesse cose in un computer.

«I neuroscienziati che vogliono conoscere la coscienza rimarranno delusi», ha risposto Boden in un’intervista. «Stanno ponendo domande di base, materialistiche – come quali cellule si connettono a cosa o quali sostanze chimiche si diffondono- ma queste domande non sono le uniche importanti. I problemi fondamentali non sono solo scientifici – sapere cosa succede nel cervello quando siamo consapevoli e così via – ma domande filosofiche, in particolare sul fenomeno della coscienza. Ciò riguarda il difficile problema di come l’esperienza cosciente emerga dalla materia, e perché sperimentiamo, ad esempio, il “rossore del rosso”. Non è solo che non siamo sicuri di quali domande scientifiche porre; è che non sappiamo quali domande porre perché non sappiamo di cosa stiamo parlando». Nel suo libro AI: Its Nature and Future (Oxford University Press 2016), la Boden è stata più diretta: «Ciò che l’AI non potrà mai fare è corrispondere all’intelligenza generale umana».

La Boden critica anche il termine intelligenza artificiale, poiché «crea profondi problemi filosofici e neurologici. L’intelligenza implica la coscienza e cos’è la coscienza? Non c’è accordo nemmeno su cosa sia la coscienza e su come l’uomo l’abbia acquisita (qualunque cosa essa sia), quindi determinare se una macchina informatica raggiunge o meno uno stato cosciente è problematico. Se non lo comprendiamo in noi stessi, come lo riconosceremo?». Questo non significa che l’Intelligenza Artificiale abbia fallito, tutt’altro, ma che non farà progressi fin quando sarà convinta della possibilità di trasmettere l'”umanità” ai computer.

La coscienza resta così un mistero filosofico e scientifico. E proprio «l’intelligenza artificiale ci dà davvero buoni concetti per pensare alla mente e al cervello», ha detto la Boden. «La lezione più importante che l’IA ci ha insegnato è di apprezzare e riconoscere per la prima volta l’enorme potere e la sottigliezza della mente umana».

La redazione

Condividi su:
  • Aggiungi su Facebook
  • Aggiungi su OKNOtizie
  • Aggiungi su Twitter
  • Aggiungi su Windows Live
  • Aggiungi su MySpace

31 commenti a «L’Intelligenza Artificiale fallirà se vorrà trasmettere l’umanità ai computer»

« nascondi i commenti

  1. Max De Pasquale ha detto

    Interessante.

  2. giorgio baldrati ha detto

    è possibile imporre una etica ad un calcolatore .
    è certo possibile chiedere ad una macchina di rispettare
    i dieci comandamenti. ma non esiste un paradiso dei
    compiuter.

  3. Klaud ha detto

    Penso che sia mooolto prematuro oggi dire che cercare di realizzare la coscienza tramite IA sia tempo perso.
    E poi perché impossibile, forse che la coscienza abbia natura soprannaturale?
    Se pensiamo che poco più di cento anni fa volavano i fratelli Wright e oggi zuzzurelloni prenotano viaggi privati nello spazio… chi l’avrebbe mai detto?

    • Mister R. ha detto in risposta a Klaud

      Klaud

      Chi vivrà, vedrà…

      • Klaud ha detto in risposta a Mister R.

        Prima di dare una coscienza alle macchine, dovrebbero perfezionare l’Intelligenza Naturale degli umani, che lascia molto a desiderare.
        Comunque, facciano con comodo, io non ho premura.

  4. andrea g ha detto

    «I neuroscienziati che vogliono conoscere la coscienza rimarranno delusi».
    Non c’è dubbio, l’io è un mistero a sè stesso, come potrebbe dunque risolvere
    il problema della coscienza, del perché si sia coscienti, di cosa sia
    l’autocoscienza?
    Lo scienziato che si convincesse di risolvere la questione sarebbe, più che mai,
    un “neuro” scienziato-

  5. alessandro pendesini ha detto

    -L’idea di costruire robot con comportamenti umani – destinati a diventare nostri assistenti o nostri compagni – è perfettamente ragionevole. Se l’intelligenza artificiale e l’ingegneria diventano capaci di tale impresa, perché opporsi ?
    Finché queste creature artificiali sono sotto la supervisione dell’umanità; fino a quando non hanno modo di diventare autosufficienti e rivoltarsi contro di noi; finché è impossibile che tali robot possano distruggere la biosfera, uomo incluso- perché no?
    L’eventuale ribellione distruttiva di questi robot, tuttavia, è meno rischiosa dei veri e propri pericoli della guerra cibernetica. Non aspettiamoci che il nipote di Hal (il robot del 2001: The Space Odyssey) si impegni nuovamente in qualsiasi momento per prendere il controllo del Pentagono. Aspettiamoci invece di vedere umani malintenzionati, squilibrati, avidi di gloria e potere –che già esistono– ai comandi !

  6. andrea g ha detto

    Il fatto stesso che si possa anche solo ipotizzare
    che ponendo tante informazioni in un computer esso
    possa diventare “cosciente”, dimostra in quale abisso
    di ignoranza si trova l’essere umano autonomo da DIO-

  7. alessandro pendesini ha detto

    Quando parliamo di coscienza -esplicita ed implicita- non dobbiamo perdere di vista che :

    1°-I circuiti cerebrali e le esperienze psicologiche non sono cose diverse, ma piuttosto diversi modi di descrivere la stessa cosa.

    2°-La coscienza è resa possibile attraverso un processo di auto-organizzazione della materia neuronale.

    3°-Da notare che la materia può esistere senza coscienza, ma la coscienza non può in nessun caso esistere senza materia altamente organizzata!
    Detto diversamente : la coscienza e l’esperienza della coscienza sono una sola e stessa cosa, le due facce delle stessa medaglia.

    4°–La coscienza non può essa stessa essere causale. È l’attività del nucleo thalamocorticale che è causale, non l’esperienza fenomenale che suscita….. E questo è molto interessante saperlo se non vogliamo divagare in considerazioni fantasmatiche !

    5°–La percezione cosciente e la memoria devono essere considerate come due aspetti di uno stesso processo, quindi indissociabili.

    • davide80 ha detto in risposta a alessandro pendesini

      Pendesini mi può gentilmente dire su quale testo di neuroscienze è scritto che i punti 1 e 2 sono veri oltre ogni ragionevole dubbio?

      • alessandro pendesini ha detto in risposta a davide80

        Davide 80

        (1°)_Questa frase puo’ trovarla nel libro joseph ledoux « The emotional brain »
        Frase pressoché condivisa da G.Chauvet, J.P.Lévy ma non solamente.

        2°-Questo commmento puo’ trovarlo negli studi o libri in inglese (non mi ricordo il titolo) di G.M.Edelman/Tononi – Da notare che commenti simili sono stati scritti da Jean-Pierre Changeux – A.Damasio – Eric Kandel etc….

        NB -Certi filosofi dicono di non vedere affatto come il cervello, oggetto fisico, possa dare vita alla coscienza. Di conseguenza, qualsiasi programma scientifico sarebbe destinato a fallire. È un argomento basato su uno stato di ignoranza: il fatto che non esista attualmente alcuna teoria del legame tra il cervello e la mente cosciente non costituisce un’assenza di questo collegamento. Naturalmente, per rispondere a queste critiche, la scienza dovrà fornire i concetti e le prove razionali rilevanti di questa connessione.
        Diversi studi effettuati da neuroscienziati docenti di note università, hanno già dato certe risposte cosi come esempi tuttaltro che insignificanti in questa tematica ….Quindi, un po’ di pazienza…….

        • davide80 ha detto in risposta a alessandro pendesini

          Pendesini,nessuno,credo,mette ancora in dubbio la strettissima correlazione tra stati cerebrali ed esperienze spsicologiche, Ma allo stato attuale della ricerca non credo sia giusto affermare tout court che sono la stessa cosa…molti eminenti neuroscienziato non sarebbero daccordo…

          • alessandro pendesini ha detto in risposta a davide80

            Pendesini,nessuno,credo,mette ancora in dubbio la strettissima correlazione tra stati cerebrali ed esperienze spsicologiche, Ma allo stato attuale della ricerca non credo sia giusto affermare tout court che sono la stessa cosa…molti eminenti neuroscienziato non sarebbero daccordo…
            Davide
            Mi puo’ citare i nomi di questi “eminenti scienziati” e in quali università lavorano o insegnano ?
            Grazie

            • davide80 ha detto in risposta a alessandro pendesini

              Christof Koch,Francisco varela lo stesso gazzaniga..ecc ecc

              • alessandro pendesini ha detto in risposta a davide80

                Davide
                Non mi risulta che M.Gazzaniga sostenga il dualismo cerebrale caro a Cartesio !!!
                -Nelle neuroscienze, (afferma) non si considera più la coscienza come un processo unico e generale. Sembra coinvolgere una moltitudine di sistemi specializzati ampiamente distribuiti e processi distinti i cui prodotti sono integrati dinamicamente dal modulo interprete. La coscienza è un tratto che emerge. Da un momento all’altro, diversi moduli o sistemi competono per l’attenzione e il vincitore si distingue come il sistema che sta alla base della coscienza consapevole del momento. La nostra esperienza cosciente è radunata sul posto, il nostro cervello risponde alle informazioni che cambiano costantemente, calcola il corso potenziale delle nostre azioni ed esegue le risposte.

                NB La disconnessione di una parte del corpo calloso (callosotomia o split brain) può fare perdere tutta la consapevolezza del paziente dei propri piani d’azione. Puo’ arrivare a negare i movimenti della sua mano sinistra, dicendo che è diventata incontrollabile. In realtà, il comando della mano sinistra provviene dalle aree motorie dell’emisfero destro, mentre i commenti verbali provvengono dall’emisfero sinistro. Quando questi due circuiti (emisfero sinistro e destro) sono scollegati, è come se il paziente sia dotato di due aree di lavoro nella stessa testa, ciascuna divenuta parzialmente inconsapevole di ciò che l’altra decide !

                Ogni fenomeno mentale – che sia un pensiero, un desiderio, un sentimento, ecc. – ha necessariamente un versante neuronale, cerebrale; ma anche che, reciprocamente, tutta l’attività cerebrale ha un versante mentale. In questa visione, non esiste una realtà psicologica indipendente dalla realtà neurale, né esiste una realtà neuronale indipendente dalla realtà psicologica…..Da meditare

  8. andrea g ha detto

    La demenziale ipotesi del robot autocosciente
    nasce dall’incapacità di ammettere la propria
    ignoranza: parliamo di neuroni, memoria, mentre
    non sappiamo minimamente cosa siano, cosa sia
    l’io, né perché esista.
    Ci si perde in verbosità deliranti.

    • andrea g ha detto in risposta a andrea g

      E’ l’incapacità di ammettere la propria ignoranza,
      a condurre ai deliri mentali; è cioè l’incapacità
      di essere umili: Dio è tutto e io sono niente.
      L’umiltà è verità; l’io ribelle a Dio valuta
      l’umiltà non come verità, ma come un’umiliazione.
      Di lì parte per la tangente.
      Tutto lì-

  9. Gianluca ha detto

    La sua idea su basa sul nulla, non sa nessuno cosa sia la coscienza e se esista veramente o sia solo un artificio umano. Così come noi abbiamo sviluppato l’intelligenza e la coscienza arrivando da forme di vita meno evolute (secondo la teoria di Newton), è da sciocchi pensare che ciò non sia possibile per altre forme di vita, che funzionano col silicio. Non è detto accada, ma PUÒ accadere, non si discute su questo. Inoltre, come ogni filosofo che si rispetti, parla di argomenti di cui sa veramente troppo poco per parlarne in modo appropriato. Non siamo noi informatici a programmare l’intelligenza artificiale, non sappiamo cosa avvenga all’interno della macchina, che arriva autonomamente alla soluzione del problema.

  10. Sisco ha detto

    Si continua a porre l’uomo all’apice del mondo con la convinzione che la coscienza sia il suo tratto caratteriale specifico! Ma gli animali, fra cui l’uomo, hanno lo stesso diritto di pensarlo… senza contare che la coscienza è un prodotto assai tardo nell’evoluzione delle specie e non è affatto detto che sia così determinante nella comprensione del mondo. In filosofia l’esistenzialismo ha posto sotto il naso degli studiosi il carattere patologico della coscienza, nella Nausea di j.p.Sartre è evidente quanto nefasta sia l’applicazione di essa allo studio della realtà.

    • Norberto ha detto in risposta a Sisco

      Ma l’uomo è senza dubbio l’apice dell’evoluzione e ancora stiamo aspettando che un animale smentisca questo dato di fatto. E la coscienza, al contrario, è la condizione indispensabile per comprendere il mondo e anche per comprendere di stare comprendendo il mondo e anche per comprendere che è possibile comprendere il mondo. Sarà anche nefasta ma non c’è alternativa.

      • alessandro pendesini ha detto in risposta a Norberto

        Norberto
        OK !
        Ma di là ad affermare -a volte con veemenza ed ostinazione- un preteso dualismo cartesiano, ce ne vuole !
        Nessuno ha potuto dimostrare razionalmente che la coscienza NON risulti da circuiti neuronali ! Senza dei quali NON puo’ -fino prova contraria- esistere ! Se cosi fosse dovremmo rivedere tutte le leggi o costanti della fisica…..

        • alessandro pendesini ha detto in risposta a alessandro pendesini

          Norberto

          1°-Dal punto di vista evolutivo, siamo dei gloriosi incidenti di un processo imprevedibile che non testimonia alcuna tendenza verso una maggiore complessità, e non il risultato prevedibile di principi evolutivi destinato a produrre una creatura capace di comprendere i meccanismi della sua propria creazione.

          2°-L’essere vivente rappresenta l’esecuzione di un disegno, ma che nessuna intelligenza ha concepito. Tende verso un obiettivo, ma che nessuna volontà ha scelto.

          3°-La comparsa della specie umana rientra nell’ambito della contingenza, non della necessità….

          P.S.-L’estinzione dell’umanità, se avverra,(ripeto) non sarà dovuta al suo fallimento, ma al suo successo. Qualunque sia stata la causa dell’estinzione dei nostri predecessori, è più che probabilmente legata a eventi naturali climatici e malattie. Nel nostro caso, la probabile estinzione sara dovuta ad un motivo diverso: un successo eccessivo. La base dei nostri problemi e relativa irrazionalità è fondamentalmente genetica !
          Detto in altre parole, noi siamo i prodotti della selezione naturale, vittime di una stranezza genetica che ci ha dato l’intelligenza e l’abilità sufficiente per conquistare il mondo, per creare macchine sofisticatissime, ma non abbastanza saggezza per gestire i frutti delle nostre (discutibili) vittorie !

          • Sisco ha detto in risposta a alessandro pendesini

            Concordo con il fatto che l’umanità potrebbe estinguersi e di lei resterebbe l’indifferenza di un pianeta che continuerebbe a vivere indifferente al suo passato con l’uomo. Nell’universo ci sono in maggioranza pianeti privi della vita, nulla resterebbe se un giorno dalla terra vi venisse a mancare.

            • Katy ha detto in risposta a Sisco

              Hai perfettamente ragione. E soltanto l’uomo per questo rende valore all’universo perché è l’unico che può desiderare che l’universo non sia a lui indifferente. E’ l’unico essere che si accorge dell’esistenza dell’universo ed è l’unico che misteriosamente ne chiede l’attenzione. Ecco l’eccezionalità umana.

  11. Andrea 2 ha detto

    Articolo preciso e corretto. L’argomento è stato oggetto di ampia discussione da pochissimo tempo, quindi non sto a ripetere quanto già detto.

  12. alessandro pendesini ha detto

    La domanda posta dalla Neurobiologia della personalità non è “come emerge la coscienza dal cervello? Ma piuttosto “come -o tramite quali meccanismi neuronali- il nostro cervello riesce a fare cio’ che siamo? ”

    Se la coscienza fosse qualcosa di etereo o immateriale, ad esempio,
    come potremmo spiegare la perdita della personalità o coscienza dovuta a malattie neurodegenerative tra le quali l’Alzheimer o fenomeni che appaiono dopo la rescissione del corpo calloso (callosotomia o split brain) etc….?

    • davide 80 ha detto in risposta a alessandro pendesini

      Pendesini lei potrebbe avere ragione,ma la sua visione fisicalista è tutt’altro che dimostrata al momento..ha presente quante teorie esistono?

    • Andrea2 ha detto in risposta a alessandro pendesini

      Abbiamo già parlato di lucidità terminale, ebbene è confermato che si può avere anche in caso di Alzheimer.
      La coscienza quindi non risiede nel cervello, ovviamente ciò non dimostra che sia necessariamente eterea.

      • alessandro pendesini ha detto in risposta a Andrea2

        Abbiamo già parlato di lucidità terminale, ebbene è confermato che si può avere anche in caso di Alzheimer.
        La coscienza quindi non risiede nel cervello, ovviamente ciò non dimostra che sia necessariamente eterea.

        Andrea2
        Considero questo commento un ossimoro !
        Infatti, confondere la “lucidità terminale” di una persona affetta da un tumore generalizzato, irreversibile, ad esempio, con la PRETESA lucidità mentale di una persona affetta d’Aleheimer nella fase finale (fase 7)-quando perde la capacità di rispondere al suo habitat, di poter conversare, di controllare i movimenti ed ignorare persino la propria esistenza come uno zombie- non mi sembra affatto razionale !

        Se la coscienza “non risiede nel cervello” come afferma, allora posso chiederle dove risiede ?

  13. Andrea2 ha detto

    Non più tanto pretesa visto che sono in aumento le testimonianze anche da parte di medici.
    Dove risieda è difficile a dirsi, una possibile spiegazione è il solito multiverso ma la trovo troppo semplicistica.
    Io penserei piuttosto a ciò che si trova sotto il limite di Planck che è inconoscibile ma di cui sappiamo, dalle particelle tangled, che comprende collegamenti fra tutte le particelle dello spazio tempo.

    • alessandro pendesini ha detto in risposta a Andrea2

      Caro Andrea2
      Sen non ha paura del ridicolo continui pure a dare risposte del genere !
      E’ di certo sulla buona strada……Veda lei

« nascondi i commenti