En The Emperor's New Mind (en adelante Emperor) intento presentar un punto de vista (que creo es nuevo) concerniente a la naturaleza de la física que puede subyacer a los procesos de pensamiento. Como parte de mi argumento, señalo que puede haber campo, dentro de las leyes físicas, para una acción que no sea algorítmica –es decir, que no pueda ser simulada por una computadora– aunque arguyo que es probable que tal acción no algorítmica pueda surgir solo en un área de la física donde existe una laguna importante en nuestra comprensión física presente: la tierra de nadie entre la física cuántica y la física clásica.... También arguyo que hay buena evidencia en el sentido de que el pensamiento consciente mismo no es una actividad algorítmica y que consecuentemente el cerebro debe estar haciendo uso de procesos físicos no algorítmicos de una manera esencial, siempre que la conciencia entra en juego. Debe haber, entonces, aspectos de la acción del cerebro que no puedan ser adecuadamente simulados por una computadora, al menos en el sentido que entendemos hoy el término.
Así, el punto de vista que defiendo discrepa tanto del de la "inteligencia artificial fuerte" (o del "funcionalismo" NOTA 2)... como de un punto de vista contrario promovido particularmente por Searle NOTA 3. La inteligencia artificial fuerte afirma que la acción del cerebro no es sino la de una computadora y que las percepciones conscientes surgen como manifestaciones de la puesta en ejecución de computaciones; en cuanto al punto de vista contrario, [el de Searle] afirma que aunque la computación no evoca por sí misma la conciencia, una simulación de la acción del cerebro sería sin embargo posible en principio, puesto que el cerebro es un sistema físico que se comporta precisamente de acuerdo con algunas bien definidas acciones matemáticas. Mi desacuerdo con este último punto de vista viene del hecho de que "matemáticamente bien definidas" no implica por sí "computable".
..................
He aquí las cuestiones centrales por las que debemos preguntarnos: ¿Son las mentes objeto de las leyes físicas? ¿Cuáles son, en realidad, las leyes físicas? ¿Son las leyes físicas computables (es decir, algorítmicas)? ¿Son los procesos de pensamiento (consciente) computables?
En mi opinión, los estados mentales son cualidades que de hecho dependen de las mismas leyes físicas que gobiernan los objetos inanimados. Las mentes que conocemos son aspectos de la actividad de los cerebros (cerebros humanos, por lo menos, pero probablemente también los de ciertos animales) y los cerebros humanos son parte del mundo físico. Así, el estudio de la mente no puede divorciarse del estudio de la física. ¿Significa esto que se necesita una nueva comprensión física o tenemos ya suficiente conocimiento de las leyes físicas pertinentes para la comprensión de los fenómenos mentales? En la opinión de la mayoría de los filósofos, físicos, psicólogos y neurólogos, sabemos ya toda la física que podría tener alguna pertinencia sobre estos temas. Me permito disentir de esa opinión.
..................
Arguyo que algunas de las manifestaciones de la conciencia son demostrablemente no algorítmicas y propongo, entonces, que los fenómenos mentales conscientes deben de hecho depender de una física no computacional.... De acuerdo con mi posición, los fenómenos de la conciencia ni siquiera podrían ser simulados por meras computaciones. Ninguna máquina adecuadamente inteligente... podría ser una "computadora" en el sentido que este término tiene hoy día,... sino que tendría que valerse de esa física no algorítmica que arguyo es un ingrediente necesario de la base física del pensamiento consciente. En este momento carecemos totalmente de la comprensión física necesaria para construir tal presunta "máquina", incluso en principio.
..................
¿Puede una computadora tener mente? Recordemos la prueba de Turing NOTA 4.... Dejando aparte la cuestión de si alguna computadora pudiera de hecho pasar la prueba, supongamos –para ayudar al argumento– que hubieran sido ya construidas máquinas que la pasaran. Debemos enfrentar la tesis operacionalista de que tales computadoras deban considerarse que piensan, sienten, comprenden, etc., meramente en virtud de haber pasado la prueba. Es mi opinión que tales cualidades mentales –y ciertamente la central de ser consciente– son atributos físicos objetivos que un ente puede o no poseer. Con la prueba de Turing solamente estaríamos haciendo lo posible por determinar si el ente en cuestión posee los atributos respectivos (en nuestro caso, la conciencia). Para mí, la situación no es diferente en principio de, por ejemplo, el intento de un astrónomo de determinar la masa de una estrella. Ser capaz de dar contestaciones similares a las humanas en una prueba de Turing no es ciertamente lo mismo que tener cualidades mentales similares a las humanas, pero puede servir como una buena indicación de que tales cualidades están de veras en la máquina....
¿Cuánto tiempo deberá pasar para que una computadora pase de hecho la prueba de Turing? Depende realmente de lo estrictos que seamos en los criterios de aprobación. Mi propio pronóstico es que una buena aprobación no se dará con ninguna computadora algorítmica (es decir, una computadora basada en los principios de cálculo que usamos hoy) –por lo menos en el futuro previsible–.... En algunos casos claramente delineados, sin embargo, se han alcanzado ya resultados de conducta "casi humana" muy impresionantes. Las computadoras jugadoras de ajedrez proveen un ejemplo de máquinas que exhiben lo que puede calificarse como "conducta inteligente". "Deep Thought" (programada por Hsiung Hsu) ha alcanzado algunas notables victorias en juegos contra grandes maestros. Creo que es claro, sin embargo, que tales computadoras juegan ajedrez muy distinto de los seres humanos; dependen mucho más de la profundidad de extensos análisis y mucho menos de "juicios intuitivos" –¡sean estos lo que fueren!–.
..................
El argumento de Searle se dirige contra el punto de vista de la "inteligencia artificial fuerte" (o funcionalismo) que pretende que basta solamente la construcción de un algoritmo (suficientemente elaborado) para evocar cualidades mentales tales como conciencia, comprensión o intensionalidad. Considero el argumento de Searle muy persuasivo con respecto a programas de una complicación relativamente limitada... pero de ningún modo es conclusivo –especialmente cuando se aplica a los programas de computación inmensamente más complicados que, de acuerdo con el punto de vista de inteligencia artificial fuerte, serían necesarios para conjurar la verdadera conciencia–....
.................
El punto de vista de la inteligencia artificial fuerte parece derivarse en parte del hecho de que la individualidad de una persona no depende de los átomos particulares que componen su cuerpo. Hay una continua sustitución de prácticamente todo el material del cuerpo viviente de cualquier persona.... Por ejemplo, si el contenido material completo de una persona fuera canjeado con partículas correspondientes de los ladrillos de su casa, nada absolutamente habría sucedido. Lo que parece distinguir a una persona de la casa en que habita es la configuración en que sus partes constitutivas están organizadas, no la individualidad de estos constituyentes mismos. Así, una persona no es más que una "configuración de información" y esta información podría, en principio, ser trasladada de un material a otro. El punto de vista de la inteligencia artificial fuerte es simplemente que es el "contenido informático" de esta configuración lo que caracteriza a cualquier individuo particular. Esta idea ha ganado fuerza de la experiencia con las modernas computadoras de alta velocidad; gracias a ellas estamos ahora familiarizados con el fenómeno de la información que se transforma de una realización a otra (por ejemplo de una configuración de campos magnéticos en un disco flexible a una colección de desplazamientos de cargas en la memoria de la computadora y de ahí a una familia de grietas en la iluminación de una pantalla de rayos catódicos). Además, existe la justificación teórica del hecho de que las computadoras modernas de propósito general son, en efecto, ejemplos de máquinas universales de Turing. Cualesquiera dos tales máquinas son completamente equivalentes la una a la otra en el sentido de que, sin relación al hardware particular en que consista cada máquina, habrá siempre algún software adecuado que pueda efectivamente convertir cualquiera de ellas en la otra. En cierto sentido, el hardware se ve como inatinente, y se considera que la información esencial de la operación de la máquina reside en el programa, esto es, en el software.
.................
Uno de los más importantes desarrollos en la historia de las matemáticas ocurrió en este siglo a fines de los años veinte y principios de los treinta, cuando el concepto de algoritmo general fue hecho matemáticamente preciso y se demostró que hay algunos procedimientos matemáticos que no pueden ser descritos por ningún algoritmo. Existen varias diferentes maneras –completamente equivalentes entre sí– de formalizar el concepto de algoritmo. La que es intuitivamente más clara fue propuesta por Alan Turing...: un mecanismo idealizado que opera con una "cinta" potencialmente infinita sobre la cual se representan las entradas e instrucciones [de un programa]. Solo una porción finita de la cinta está marcada con los datos e instrucciones. Así, aunque el mecanismo puede lidiar con datos de tamaño ilimitado, su entrada es siempre finita....
Es un hecho notable que cualquier proceso computacional (que opere con cantidades discretas finitas) pueda ser descrito como la acción de alguna máquina Turing. Por lo menos, esto es lo que pretende la llamada tesis de Church-Turing, en su forma matemática original. El apoyo para esta tesis viene en parte del cuidadoso análisis de Turing de las distintas clases de operación que uno podría considerar de hecho como un proceso computacional o algorítmico y en parte del impresionante hecho de que todas las variadas propuestas alternativas para el significado de "algoritmo" (presentadas aproximadamente al mismo tiempo por Church, Kleene, Gödel, Post y otros) resultaron ser completamente equivalentes. Algunas de estas propuestas tenían la apariencia inicial de ser completamente diferentes, de modo que su equivalencia es una indicación muy fuerte de que son meras descripciones alternativas de un concepto matemático abstracto absoluto, a saber, la computabilidad....
Como tantas otras ideas matemáticas, especialmente las más profundamente bellas y fundamentales, la idea de computabilidad parece tener una cierta clase de realidad platónica NOTA 5. Esta cuestión misteriosa sobre la realidad platónica de los conceptos matemáticos es un tema central de Emperor....
Turing diseñó originalmente sus "máquinas" para contestar una pregunta hecha por David Hilbert: ¿Es posible en principio encontrar un procedimiento matemático (un algoritmo) para resolver todos los problemas matemáticos de una clase especificada? Turing (e independientemente Church) mostró que la contestación es "no". Turing parafraseó el problema de Hilbert como la cuestión de decidir si una máquina Turing dada, cuando actúa sobre una cinta específica, se llega o no a detener; y mostró... que no hay algoritmo para contestar esta pregunta de manera general.
.................
La cuestión de la verdad matemática y de cómo la afirmamos es fundamental. ¿Cómo deciden de hecho los matemáticos cuáles enunciados matemáticos son verdaderos y cuáles falsos? ¿Siguen algún algoritmo... o tienen otra ruta hacia la verdad por medio de una "intuición" misteriosa que no puede ser tratada algorítmicamente?... Afortunadamente (para mi manera de pensar), en 1931 Kurt Gödel presentó su famoso teorema.... Mostró que en cualquier sistema formal coherente que sea suficientemente amplio para contener la aritmética y las reglas normales de procedimiento lógico, se pueden construir enunciados matemáticos bien definidos que no se pueden probar –ni su negación tampoco– usando las reglas de ese mismo sistema formal. Así, el sistema no puede ser completo en el sentido en que Hilbert y otros habrían querido. Todavía peor (para el punto de vista formalista NOTA 6), dada la forma en que las proposiciones gödelianas NOTA 7 son construidas, podemos ver, usando nuestra intuición y comprensión de los símbolos formales, que tales proposiciones son verdaderas. Todo esto nos dice que los mismos conceptos de verdad, significado e intuición matemática no pueden encapsularse dentro de un esquema formalista.
Esto no solo es una mala noticia para los formalistas matemáticos. También lo es para los defensores de la inteligencia artificial fuerte. Porque hay una relación muy estrecha entre el concepto de un algoritmo y el concepto de un sistema formal.... Por cada sistema formal hay siempre un algoritmo que genera precisamente todas las proposiciones que pueden ser probadas dentro de ese sistema. Conversamente, dado un algoritmo para generar enunciados matemáticos, se puede siempre construir un sistema formal que incorpore todos esos enunciados como axiomas del sistema. Esto nos dice que la verdad matemática no es cuestión algorítmica. Nos dice también que el significado y la intuición tampoco son materia algorítmica....
.................
El mensaje me queda claro: la verdad matemática no es algo que afirmamos meramente por el uso de algoritmos. Creo también que nuestra conciencia es ingrediente esencial de nuestra comprensión de la verdad matemática. Debemos "ver" la verdad de un argumento matemático para convencernos de su validez. Este "ver" es la misma esencia de la conciencia NOTA 8. Cuando nos convencemos de la validez del teorema de Gödel no solo lo "vemos" sino que, por eso mismo, revelamos la misma naturaleza no algorítmica del propio proceso de "ver".
.................
Penrose nos ofrece en su mayoría argumentos manidos y falaces:
La falacia de extrapolación. Niels Bohr y Max Delbruck dijeron que la explicación de los seres vivos requeriría el descubrimiento de nuevos principios físicos sobre la organización de la materia. Pero la vida resultó estar más bien constituida por fantásticos e insospechados mecanismos de juguetería química, adecuadamente complejos, explicables simplemente en términos de la ciencia física existente. La extrapolación de moléculas simples a complejas resultó falsa: las simples no se reproducen ni metabolizan, pero las complejas sí pueden hacerlo. Lo mismo puede resultar cierto de la mente, de maneras que todavía no podemos siquiera imaginar.
La inteligencia artificial fuerte y la experiencia interna. Penrose deja al lector con la impresión... de que la inteligencia artificial fuerte es hostil a temas "peludos" como el de la experiencia interna real. Pero eso está lejos de ser verdad: la inteligencia artificial fuerte sugiere que la experiencia interna de veras está ahí y que cuando la encontremos nos daremos cuenta de que corresponde a procesos informáticos muy, muy complejos.
Dualismo. En conjunto con Searle, Penrose... parece encontrar en la inteligencia artificial fuerte una forma de dualismo, a saber, la supuesta pretensión de que es la configuración ( software, algoritmo) y no la substancia ( hardware, cerebro) lo que constituye la mentalidad. Pero la mera configuración por sí misma no es ni siquiera una acción, y por sí sola no hace nada. Son los procesos algorítmicos, no las copias impresas estáticas de los algoritmos, lo que los practicantes de la inteligencia artificial fuerte consideran importante.
intensionalidad. Penrose... observa correctamente que no se puede sentir, o tener asombro o pensar sin que haya algo que se sienta o de lo que uno se asombre o que se piense, esto es, la mente tiene sentido de dirección o intensionalidad. Esto también es un caso de falacia de extrapolación: [en el caso del experimento mental de Searle, por ejemplo] un sistema persona-más-programa suficientemente complejo podría en verdad comprender el chino.
Penrose no cree que las computadoras construidas de acuerdo con los principios físicos hasta ahora conocidos puedan ser inteligentes, y conjetura que una mecánica cuántica modificada pudiera ser necesaria para explicar la inteligencia. También argumenta en contra de lo que él llama "inteligencia artificial fuerte". Ninguno de los dos argumentos hace la menor referencia a los 40 años de investigación en inteligencia artificial....
.................
Las mayores dificultades [para dotar de inteligencia a una computadora] no son problemas técnicos matemáticos. Más bien, consisten en escoger un conjunto de predicados, funciones y fórmulas adecuadamente generales para representar el conocimiento de sentido común....
Estos y otros problemas hacen pensar que tomará mucho tiempo alcanzar inteligencia artificial de nivel humano, pero el progreso hasta el presente provee razones para sentirse animado sobre la posibilidad de alcanzar esa meta mediante programas de computación.
.................
Penrose se pone a refutar la "inteligencia artificial fuerte", que es una tesis inventada por el filósofo John Searle precisamente para ser refutada. Tiene alguna relación con opiniones extendidas entre los investigadores de inteligencia artificial, pero las sobresimplifica, especialmente pasando por alto el énfasis de la inteligencia artificial en conocimientos y no solo en algoritmos. Como usa el término Penrose, es la tesis de que la inteligencia es [solamente] cuestión de tener el algoritmo correcto.
Mientras que Penrose piensa que una máquina basada en la física clásica no tendrá nunca un rendimiento al nivel humano, usa algunos argumentos de Searle en el sentido de que incluso si tal máquina llegara a existir, el rendimiento no sería propiamente pensamiento.
.................
La mejor contestación [a los argumentos de Searle
NOTA
9] es la "respuesta sistemática". En verdad, el hombre no necesita
saber chino; pero el "programa" presente en el libro de reglas al cual
el hombre sirve de hardware interpretativo, esencialmente sabría
chino si es que logra producir conversaciones no triviales. Si se contesta
que el hombre podría haber memorizado las reglas, deberíamos
entonces distinguir entre la personalidad original del hombre y la personalidad
china que estaría interpretando.
Estas situaciones son comunes en informática. Una computadora
puede compartir varios programas [como si tuviera varias personalidades]....
El hardware humano no soporta normalmente varias personalidades,
de modo que usar el mismo nombre para la persona física y su personalidad
raramente lleva a error
NOTA
10.
.................
De acuerdo con las presentes ideas en inteligencia artificial, además
de tener una gran cantidad de conocimiento explícitamente representado,
un programa de cuarto chino probablemente tendría que ser introspectivo,
es decir, ser capaz de observar su memoria y generar de esa observación
proposiciones sobre lo que está haciendo. Esto aparecería
como conciencia a un observador externo, justamente como el comportamiento
humano inteligente nos lleva a adscribir conciencia a nuestros semejantes.
Penrose pasa esto por alto al decir: "la formación de juicios
que es la marca de la conciencia es algo que la gente de inteligencia artificial
no tendría la menor idea de cómo programar en una computadora".
En realidad, la mayor parte de la literatura de inteligencia artificial
discute la representación de hechos y juicios sobre ellos en la
memoria de la máquina. Para usar la jerga de inteligencia artificial,
la parte epistemológica de inteligencia artificial es tan prominente
como su parte heurística.
El argumento de Penrose contra la inteligencia artificial que más
interesa a los matemáticos es que sea cual fuere el sistema de axiomas
que se haya incluido en un programa de computadora –por ejemplo, la teoría
de conjuntos de Zermelo-Fraenkel– un hombre puede formar una proposición
de Gödel para el sistema, verdadera pero imposible de probar dentro
del sistema.
La respuesta más simple para Penrose es que formar una proposición
Gödel a partir de una expresión de lógica de predicados,
toma solo una línea de programación en LISP
NOTA
11. Imaginemos este diálogo entre Penrose y un programa de computadora...:
Programa: Existe una intuición equivocada detrás de la creencia
generalizada de que un programa no puede hacer matemáticas al nivel
humano; consiste en el supuesto de que una máquina debe necesariamente
trabajar dentro de un solo sistema axiomático, con una interpretación
predefinida.
.................
NOTA 1
El
sugestivo título del libro de Penrose, "The Emperor's New Mind",
alude al conocido cuento "La camisa nueva del emperador" como una manera
de recordar que opiniones impopulares pueden sin embargo ser verdaderas.
Para la adecuada comprensión de esta selección, sugerimos
tener muy en cuenta las selecciones sobre computabilidad y máquinas
de Turing incluidas en esta colección. Nota del editor.
NOTA 2
El
punto de vista funcionalista está muy bien representado en esta
antología, especialmente por las selecciones de
Dennett,
Newell y Simon, y
Fodor
y Pylyshyn. Nota del editor.
NOTA 3
Ver
la selección de
Searle en esta misma colección.
Nota del editor.
NOTA 4
Confróntese
la selección de
Turing en el capítulo
primero de esta colección. Nota del editor.
NOTA 5
El
filósofo griego Platón (siglo IV antes de Cristo) enseñó
que la única verdadera realidad existe en un mundo distinto del
mundo natural que conocemos por los sentidos. Las cosas que vemos y tocamos
son solamente sombras de las verdaderas realidades: las ideas. Estas no
existen en el mundo material y solo tenemos acceso a ellas por el ejercicio
de la razón. Por ejemplo, en la realidad empírica encontramos
muchas aproximaciones a un triángulo equilátero; pero el
triángulo equilátero perfecto sólo puede ser percibido
por la razón, pues no pertenece a este mundo (el mundo de los sentidos)
sino al mundo de las ideas. Penrose se declara platónico en lo que
se refiere a los objetos matemáticos: cree que existen de un modo
absoluto en un reino puramente racional, el mundo de los entes matemáticos.
Nota del editor.
NOTA 6
El
formalismo es una corriente de filosofía de las matemáticas
que considera que la verdad matemática está ligada a la posibilidad
de probar los enunciados por medio de reglas a partir de los enunciados
básicos del sistema, llamados normalmente axiomas. Así, el
formalismo subraya la importancia de los sistemas axiomáticos
en el conocimiento matemático. El formalismo es una importante alternativa
al platonismo en filosofía de las matemáticas. Otras alternativas
son el intuicionismo y el instrumentalismo, pero aquí no es el lugar
para exponer estos complicados puntos de vista. Baste notar que un posible
rechazo de la filosofía formalista no nos fuerza necesariamente
a aceptar la filosofía platónica: existen otras alternativas
más para explicar el concepto de verdad matemática. Nota
del editor.
NOTA 7
Para
demostrar su teorema Gödel construye una proposición que dice
que ella misma no puede probarse dentro del sistema axiomático respectivo;
entonces, si la proposición de veras no puede probarse, el sistema
se habría declarado incompleto (puesto que una proposición
verdadera no sería demostrable dentro del sistema); pero si la proposición
puede probarse, entonces el sistema sería inconsistente porque lo
que la proposición dice es que no puede probarse. Los detalles de
cómo puede construirse esta proposición son demasiado técnicos
para ser presentados aquí. Nota del editor.
NOTA 8
Sobre
el tema de la conciencia, consúltese la selección correspondiente
de
Dennett en este mismo capítulo.
Nota del editor.
NOTA 9
Ver
la selección
EL CUARTO CHINO en este mismo
capítulo. Nota del editor.
NOTA 10
Sin
embargo, confróntese lo expresado sobre el desorden de personalidad
múltiple en la selección de
Dennett
sobre la conciencia, en esta misma colección. Nota del editor.
NOTA 11
LISP
(List Processing Language) es el lenguaje de programación favorito
de los investigadores de inteligencia artificial. Nota del editor.
Penrose: Dígame el sistema
lógico que usted usa y yo le diré una proposición
verdadera que no puede probar.
Programa: Dígame usted
cuál sistema usa y yo le diré una proposición verdadera
que usted no puede probar.
Penrose: Yo no uso un sistema lógico
fijo.
.................