Prashanth
Ramakrishna: La inteligencia general artificial, A.G.I., es
un sistema capaz, como nosotros los humanos, de realizar tareas
abiertas e independientes de problemas o contextos específicos:
conversación, razonamiento con sentido común, aprendizaje
experimental, etc. El ejemplo de ciencia ficción popular es HAL
9000 de la película "2001: Una Odisea en el Espacio". ¿Se puede
lograr la A.G.I.?
David Chalmers: Creo que la inteligencia general
artificial es posible. Algunas personas están exagerando sobre
el tema de la inteligencia artificial general, diciendo que la
inteligencia general artificial está a la vuelta de la esquina
en tal vez 10 o 20 años. Me sorprendería que tuviesen razón. En
los últimos tiempos ha habido muchos progresos interesantes con
el aprendizaje profundo, que se centra en los métodos de
búsqueda de patrones en los datos.
El aprendizaje profundo es excelente para las cosas que hacemos
perceptualmente como seres humanos: reconocimiento de imágenes,
reconocimiento de voz, etc. Pero cuando se trata de cualquier
cosa que requiera autonomía, razonamiento, decisiones,
creatividad, etc., la I.A. sólo es buena en dominios limitados.
Es bastante buena jugando a juegos como el Go. En el momento en
que llegas al mundo real, las cosas se complican. Hay muchas
montañas que necesitamos escalar antes de llegar al nivel humano
de la A.G.I. Dicho esto, creo que va a ser posible, digamos, en
un plazo de 40 a 100 años.
Una vez que tengamos una inteligencia artificial a nivel humano,
no hay duda de que cambiará el mundo. Las A.G.I.s van a ser
seres con poderes inicialmente equivalentes a los nuestros y en
poco tiempo mucho mayores que los nuestros. En ese sentido,
estoy de acuerdo con la gente que dice que tenemos que pensar
mucho sobre cómo diseñar la superinteligencia para maximizar las
buenas consecuencias. Encuentro que cada vez hay más atención
entre los investigadores de I.A. para hacer que la I.A. sea
beneficiosa a corto plazo y consistente con un buen futuro para
la humanidad a largo plazo.
P.R.: Te pillé usando la palabra "seres". ¿Está
equiparando la inteligencia general con la conciencia?
D.C.: Me gusta distinguir entre inteligencia y conciencia. La inteligenciaversa sobre las capacidades de comportamiento de
estos sistemas: lo que pueden hacer, qué productos pueden
producir dadas sus entradas. Cuando se trata de la inteligencia,
la cuestión central es, dados algunos problemas y objetivos,
¿puedes encontrar los medios adecuados para tus fines? Si
puedes, ese es el sello de la inteligencia. La conciencia es más
una cuestión de experiencia subjetiva. Tú y yo tenemos
inteligencia, pero también tenemos subjetividad; se siente como
algo en el interior cuando tenemos experiencias. Esa
subjetividad -la conciencia- es lo que hace que nuestras vidas
tengan sentido. También es lo que nos da una posición moral como
seres humanos.
P.R.: Aunque la conciencia sea un epifenómeno reproducible del
sistema correcto de procesamiento de la información dotado de
las estructuras representacionales correctas, siempre habrá un
velo opaco que separa la conducta aparentemente inspirada por la
experiencia subjetiva de la conducta realmente inspirada por la
experiencia subjetiva. Si nuestras obligaciones éticas con
respecto a los objetos sólo importan en la medida en que son
conscientes, ¿cómo debemos abordar nuestras obligaciones éticas
intrínsecamente ambiguas con respecto a la inteligencia
artificial?
D.C.: En filosofía este es el antiguo problema de otras mentes.
¿Cómo sabes si otra persona o sistema en general tiene una
mente? Sé que tengo una mente. Descartes dice: "Pienso. De eso
estoy seguro. Por lo tanto, existo" Pero, cuando se trata de
otras personas y de computadoras, no vas a tener ese grado de
certeza.
¿Cuáles deberían ser los criterios? ¿Es suficiente con hacer
cosas sofisticadas para convencerte de que un sistema es
consciente? Ganar una partida de Go ciertamente no lo es. Ser
capaz de mantener una conversación inteligente sería un
comienzo. Tal vez un sistema de I.A. que pudiese describirme sus
propios estados de conciencia, diciéndome: "Estoy sintiendo
dolor ahora mismo. Estoy teniendo esta experiencia de dolor o
felicidad o tristeza" sería más preciso. Tal vez lo que más
contaría es sentir un poco de desconcierto en su estado mental:
"Sé objetivamente que sólo soy una colección de circuitos de
silicio, pero desde dentro me siento mucho más."
P.R.: Algunas personas podrían argumentar que si puedo estar
seguro de que estoy consciente y de que hay varios grados de
similitud entre mí yo y otros seres de conciencia potencial,
entonces puedo hacer juicios probabilísticos sobre la conciencia
de esos seres.
D.C.: Para mí, la manera de conseguir algo claro aquí es pensar
en transformarse gradualmente en un I.A. Tú eres la I.A.: carga
gradual. Gradualmente reemplaza tus neuronas, una a una, con
partes de computadora o súbelas a una computadora. Comienzas
como un sistema completamente biológico, luego eres tres cuartos
de silicio biológico y un cuarto de silicio, y luego mitad
biológico y mitad de silicio, luego un cuarto biológico y tres
cuartos de silicio, y finalmente eres un sistema completamente
de silicio. Si lo haces una simulación funcionalmente perfecta,
entonces vas a estar ahí hasta el final diciendo, "Sí, todavía
estoy en casa". Si es una prueba, sólo será una prueba para ti.
Alguien más todavía podría decir: "Creo que te convertiste en un
zombi".
P.R.: Uno puede imaginar no sólo convertirse en la I.A., sino
también fusionarse con ella de manera no destructiva. En un
futuro en el que todo el mundo se verá incrementado por la I.A.,
en el que todos tendremos una potencia de cálculo perfecto, una
memoria perfecta, una capacidad perfecta para sintetizar y
desplegar el conocimiento, ¿la colaboración se convertirá en
algo obligatorio? Después de todo, no habría ningún obstáculo
excepto la colaboración para resolver la mayoría de los
problemas relacionados con el bienestar humano.
D.C.: Ojalá encontremos una buena solución para el cambio
climático. ¿Y 30 segundos después, disolver el conflicto
israelí-palestino? Tal vez esto sea más difícil. Muchas de las
irracionalidades que tenemos son colectivas. Algunas de nuestras
irracionalidades están atadas a nuestros objetivos, a mí
queriendo racionalmente mi objetivo y a ti queriendo
racionalmente tu objetivo. A menudo una solución es que ambos
obtenemos el segundo resultado más deseado, o el tercero, y así
sucesivamente. Sin embargo, la gente no se conforma con este
tipo de solución. Tal vez necesites un nuevo módulo de
compromiso, para encontrar metas que podamos universalizar. Pero
eso va más allá de la simple inteligencia instrumental y termina
en algo más reflexivo como averiguar cuáles deberían ser
nuestros objetivos.
Immanuel Kant pensaba que la moralidad es parte de la
racionalidad. Se piensa que una I.A. superinteligente se
convertirá en una I.A. súper moral, que se convertirá en una
especie de ser kantiano que sólo asumirá objetivos que puede
universalizar para todos. Esa es una visión muy especulativa de
cómo será la inteligencia artificial.
P.R.: ¿Cuál será la relación entre este ser kantiano que
mencionas y nosotros?
D.C.: Valoro la historia humana y egoístamente me gustaría que
fuera continua con el futuro. ¿Cuánto importa que nuestro futuro
sea biológico? En algún momento creo que debemos enfrentarnos al
hecho de que va a haber muchos sustratos más rápidos para hacer
funcionar la inteligencia que los nuestros. Si queremos
apegarnos a nuestros cerebros biológicos, corremos el riesgo de
quedarnos atrás en un mundo con ordenadores superrápidos y
superinteligentes. En última instancia, tendremos que
mejorarnos.
La otra posibilidad es que las nuevas inteligencias artificiales
se apoderen del mundo y no haya lugar para la humanidad. Tal vez
estemos relegados a algún mundo virtual o a alguna parte
designada del mundo físico. Pero tienes razón, sería una
existencia de segunda clase. Quizás nos mantienen como mascotas
o por entretenimiento o por el bien de la historia. Ese sería
deprimente. Tal vez nos pondrían en mundos virtuales. Tal vez ya
ha ocurrido y ahora vivimos en uno de esos mundos virtuales. Hey,
no es tan malo.
P.R.: Este es probablemente un buen momento para definir lo que
es la realidad virtual, porque hay múltiples maneras en que
usamos la palabra "virtual".
D.C.: La palabra "virtual" originalmente significaba "falso" o
"como si". Una corbata virtual es "como si" fuera una corbata.
Con el paso de los años, sin embargo, la palabra "virtual" ha
evolucionado. Ahora significa algo así como "generado por
ordenador".
P.R.: ¿Cuál es la caracterización funcional de la realidad que
encuentra su analogía en la realidad virtual?
D.C.: Reformulo tu pregunta: ¿En qué sentido es real la realidad
normal, y puede ser real la realidad virtual de esa manera? Es
una gran pregunta filosófica. George Berkeley, el gran filósofo
irlandés, dijo: "Ser es ser percibido". Si algo parece un pato,
suena como un pato y así sucesivamente, es un pato. Eso es
idealismo: El mundo está todo en tu mente.
La visión dominante, sin embargo, es que la realidad está fuera
de tu mente. Para ser real, se necesita algo más que sólo
apariencias; se necesitan algunos poderes o potencialidades
subyacentes. El gran filósofo australiano Samuel Alexander dijo:
"Ser real es tener poderes causales", si puedes ser algo que
realmente marque la diferencia. Phillip K. Dick dijo una vez:
"La realidades algo que no desaparece cuando dejas de creer en
ella". Si tienes algo que es independiente de tu mente, que
tiene poderes causales, que puedes percibir de todas estas
maneras, para mí estás muy lejos de ser real.
Las cosas en las realidades virtuales, al menos en principio,
tienen todas esas propiedades. Digamos que estás en un mundo
virtual. Hay objetos allí que puedes percibir a tu alrededor. En
un mundo virtual, un árbol virtual puede caer aunque yo no esté.
Un árbol virtual tiene poderes causales. La caída de un árbol
virtual puede hacer que la gente tenga experiencias. Puede
romper algo sobre lo que cae en el mundo virtual, y puede ser
experimentado. La realidad virtual es sólo una forma diferente
de realidad. Pero sigue siendo perfectamente real.
P.R.: ¿Por qué crees que la intuición original sobre este tema
era precisamente la contraria, que la realidad virtual no es más
que un modelo?
D.C.: Esto se remonta a mucho tiempo atrás en la historia de la
filosofía. René Descartes dijo: "¿Cómo sabes que no estás siendo
engañado por un demonio malvado para que piense que esto es real
cuando nada de esto es real?" La pregunta de Descartes sobre el
demonio maligno es como la pregunta sobre una realidad virtual.
La versión moderna es: "¿Cómo sabes que no estás en la matrix?
¿Cómo sabes que no estás en una simulación por ordenador donde
todo esto parece real pero nada de esto es real?" Es fácil
incluso para una película como "The Matrix" sonsacar que "esto
es malo". Esto no es real. No, todo esto es falso".
La idea de que la realidad virtual no es real proviene de una
visión anticuada de la realidad. En el Jardín del Edén, pensamos
que había originalmente una manzana roja incrustada en un
espacio original. Hemos aprendido de la ciencia moderna que el
mundo no es así. Un color es sólo un conjunto de longitudes de
onda que surgen de las propiedades de reflexión física de los
objetos que producen un cierto tipo de experiencia en nosotros.
¿Solidez? Nada es realmente sólido en el mundo. Las cosas son en
su mayoría espacio vacío, pero tienen los poderes causales para
producir en nosotros la experiencia de la solidez. Incluso el
espacio y el tiempo están siendo gradualmente disueltos por la
física, o al menos reducidos a algo más simple.
La realidad física se está pareciendo mucho a la realidad
virtual en este momento. Resulta que tomamos todo eso en cuenta
y decimos: "Bien, las cosas no son como pensábamos, pero siguen
siendo reales". Esa debería ser también la actitud correcta
hacia la realidad virtual. El código y los circuitos de silicio
forman otro sustrato subyacente para la realidad. ¿Es mucho peor
estar en una realidad generada por ordenador que lo que nos dice
la física contemporánea? ¿Funciones de onda cuántica con valores
indeterminados? Eso parece tan etéreo e insustancial como la
realidad virtual. Pero oye! Estamos acostumbrados.
P.R.: Me pregunto si es útil decir que la realidad virtual no es
simplemente una realidad alternativa, sino más bien una sub-realidad
de la que normalmente ocupamos.
D.C.: Es una especie de multiverso. Nada nos dice que no haya
una realidad objetiva. Tal vez haya un cosmos objetivo que
abarque todo lo que existe. Pero quizás hay un cosmos de nivel
uno y la gente crea simulaciones y realidades virtuales dentro
de él. Tal vez a veces hay simulaciones dentro de las
simulaciones. ¿Quién sabe cuántos niveles hay?
Una vez especulé que estamos en el nivel 42. Recuerda que en "The
Hitchhiker's Guide to the Galaxy" programaron un ordenador para
encontrar la respuesta a la última pregunta de la vida, al
universo, a todo. Después de años, el ordenador dijo: "La
respuesta es 42". ¿Qué pregunta podría ser lo suficientemente
importante como para que ésta fuera la última pregunta y la
respuesta pudiera ser un simple número? Bueno, tal vez la
pregunta era: "¿En qué nivel de realidad estamos?" (Bella
metáfora a tenor del libro de Doug Adams sobre la posible
concatenación de simulaciones que usa David Chalmers)
P.R.: ¿Te imaginas estos mundos virtuales siguiendo sus propios
cursos de historia? Evolución de los sistemas políticos,
evoluciones de la cultura, etc. Mi intuición es que lo harán.
D.C.: Ya ha habido algunos mundos virtuales que han sido
recapitulaciones de la historia de la filosofía política. A
principios de los años 90, los MUDs -dominios multiusuario-
comenzaron como dictaduras o anarquías. Había un tipo que los
creó, y él era el dictador. Luego nombró a algunos magos y esa
fue la aristocracia. Pero los magos no querían todo este poder,
así que lo resolvieron con la democracia. La mayoría de los
mundos virtuales que existen en la actualidad son corporaciones,
que son propiedad y están gobernadas por corporaciones. Linden
Lab es propietario de Second Life, por ejemplo.
P.R.: Pero eso plantea un problema en sí mismo. La apropiación
de la realidad física está democratizada. No hay ningún señor
que pueda encenderlo y apagarlo o cambiar las reglas
arbitrariamente. ¿No es la falta de democratización de la
propiedad un grave riesgo para los mundos virtuales?
D.C.: Aunque, por supuesto, va a haber muchos entornos
virtuales. No sé si deberíamos pensar en esto como: "Eliges tu
mundo virtual y siempre estás bajo el gobierno de la única
corporación que lo posee". Es más probable que cambiemos entre
muchos mundos virtuales con bastante regularidad. Habrá un mundo
virtual al que irás para tu trabajo, uno diferente para la
recreación y otro diferente para la educación. Nadie dirigirá el
ciberespacio, que era el término de William Gibson para
referirse a la realidad virtual en su conjunto.
P.R.: Por último, me pregunto si piensas que en última instancia
habrá una transición de la realidad física a la realidad virtual
a escala de civilización. Hemos hablado de la inteligencia
artificial, de la carga digital, de los yoes cargados
digitalmente que viven en la realidad virtual, de la frontera
transitoria entre la realidad física y la realidad virtual.
¿Alguna vez se apagarán las luces de esta casa?
D.C.: Sería sorprendente. Digamos que la realidad física es una
realidad de nivel cero. Siempre habrá recursos que encontrar
allí. Sospecho que siempre vamos a necesitar más y más recursos.
"Hagamos explotar el sol y usémoslo para alimentar nuestros
ordenadores. ¡Espera, eso no es suficiente! Vamos a tener que ir
a otra parte a través de la galaxia." Es fácil imaginar una
carrera armamentista tecnológica dependiente de los recursos. Un
evento de este tipo requeriría de alguna manera llegar al mundo
exterior.
Lo que puedo imaginar fácilmente es que el 99 por ciento de la
población vivirá en el mundo virtual, especialmente si el mundo
físico se vuelve distópico, después de la destrucción nuclear o
del cambio climático, por ejemplo. El mundo virtual será mucho
más interesante y agradable. Habrá algunos anhelos. Habrá gente
a la que le guste estar en el mundo de nivel cero, a la que le
guste vivir en ciudades o a la que le guste vivir en el campo.
Ahora tenemos una sociedad cada vez más urbanizada, pero eso no
significa que todo el mundo viva en la ciudad. Tal vez tengamos
una sociedad cada vez más virtualizada. Pero eso no significa
que todo el mundo vaya a ser virtualizado.
No creo que los mundos virtuales vayan a ser la panacea para los
problemas de la humanidad. Serán como Internet. Ha conducido a
cosas maravillosas. Ha conducido a cosas horribles. Mi
predicción es que tendrán espacio para toda la gama de la
condición humana. En ese sentido, al menos estará a la par de la
realidad física. Tal vez podamos encontrar algunas formas
distintivas en las que la realidad virtual sea mejor y permita
más libertad, más justicia. O tal vez no lo hagamos. Creo que al
menos es un futuro abierto y emocionante.
