¿Por qué la Inteligencia Artificial no es tan “inteligente” como parece?

Por Jonathan Tennenbaum

Parte 1 de 10

MSIa Informa, 28 de agosto de 2020.– El propósito de este trabajo no es atacar a la inteligencia artificial (IA) como tecnología. Aparte de los riesgos intrínsecos de cualquier descubrimiento revolucionario, la IA trae consigo un número creciente de beneficios que han desencadenado una cascada de avances en los campos más variados de la ciencia y de la técnica, liberando a las personas del duro trabajo mental para hacer la vida más agradable y a la economía más productiva. No obstante, la IA todavía tiene un largo camino que recorrer. Dada la escala colosal y sin precedentes de esfuerzos y de facultades creadoras invertidas en la creación de sistema de IA, y su incorporación a los bancos de datos, no es de ningún modo claro que la IA haya “producido” más inteligencia que la invertida en ella por los humanos.

Hay un lado problemático de la IA, al que me referiré con el título general de “estupidez”. Pretendo con esto que el término “estupidez” se entienda en un sentido analítico y no peyorativo. En los humanos, por lo menos, la estupidez y la inteligencia no se excluyen, aun tratándose de extremos opuestos. Con frecuencia coexisten, como nos enseña la experiencia.

Pretendo abordar en esta serie el problema de la “estupidez” de la IA en tres dimensiones interrelacionadas:

1. La debilidad inherente de los sistemas de computadora, proyectados de acuerdo con los principios de la IA como se entienden actualmente, lo que los vuelve “estúpidos”, en cierto sentido, análogos a la estupidez de los seres humanos. La “estupidez” de los sistemas de la IA es la causa raíz de la mayoría de los problemas y de los peligros conocidos relacionados con su uso en situaciones de la vida real.
2. La “estupidez” de los pioneros de la IA y de la mayoría de sus sucesores, a pesar de su gran brillo intelectual, al adoptar la noción de que la cognición humana es de naturaleza fundamentalmente algorítmica o, en el último caso, que es parte de un proceso de tipo algorítmico. De la misma forma la “estupidez”, de adoptar dispositivos de computación digital como el paradigma central del entendimiento de la mente humana y del cerebro como un órgano biológico.

Esos supuestos gratuitos, sin ningún asidero científico, le dieron vigor a algunos de los trabajos iníciales de los sistemas de la IA, pero, a mi forma de ver, dificultan mucho su desarrollo. Como resultado, y no sólo la IA propiamente dicha, sino una gran parte de los que hoy se llama “ciencia cognitiva”, quedaron presas del minúsculo mundo “plano” de la combinatoria y de los modelos matemáticos formales.

¡La expresión china 井底之蛙 (jǐngdǐzhīwā) –el sapo en el fondo del pozo- encaja perfectamente en esta afirmación!

1. La estupidez inducida en los seres humanos por su interacción con los sistemas de la IA y por el efecto de la que se ha dado en llamar la “revolución cognitiva” y de sus precursores filosóficos en el lenguaje, la educación, la ciencia y la cultura en general.

El peligro no es que los sistemas de la IA se vuelvan más inteligentes que los hombres, sino que, en lugar de esto, las personas se puedan volver tan estúpidas que no consigan descubrir la diferencia. La misma regla se aplica a las formas de cognición específicamente humanas, como al ejercitar nuestros músculos: Los usamos o los perdemos.

¿Qué es la estupidez?

Es difícil definir el significado de estupidez de una forma que se acomode a los criterios académicos actuales. No obstante, la estupidez ha sido un foco de atención de la cultura humana desde los primeros tiempos conocidos, reflejado en las antiguas tradiciones orales, en las enseñanzas de los ancianos y sabios, en innumerables fábulas, historias y anécdotas.

El humor metafórico y la ironía se han cultivado desde los primeros tiempos como contramedidas para la estupidez. Se podría especular, con justa razón, que la raza humana no habría sobrevivido sin ellas, y, aunque el “banco de datos” haya crecido espectacularmente a lo largo de la Historia, es de dudarse que las personas tengan hoy más agudeza de ingenio («insights» en el original) sobre la naturaleza de la estupidez que hace tres mil años.

Dicho esto, la literatura de las últimas décadas sobre el problema de la estupidez contiene características útiles, de las que iré echando mano.

Un problema típico: una empresa posee funcionarios muy inteligentes y capaces, además de una gerencia a todas luces excelente. Luego de algunos éxitos iníciales, fracasa y se va a la quiebra a causa de errores persistentes, errores de juicio y un mal desempeño. ¿Qué fue lo que pasó? El estudio de semejantes ejemplos condujo a los académicos y a los asesores de gestión al concepto de “estupidez funcional” (véase por ejemplo «The Stupidity Paradox –The Power and Pitfalls of Functional Stupidity at Work» («La paradoja de la estupidez –el poder y las trampas de la estupidez funcional en el trabajo», de Mats Alvesson y André Spicer).

No obstante que la “estupidez funcional” se refiere en general a un marco institucional, arroja luz sobre todo el aspecto de la estupidez desde el ámbito individual hasta el de una sociedad entera.

Los cuatro puntos siguientes son un intento amplio personal de sintetizar la esencia de la estupidez. No se aplican exactamente de la misma forma en cada una de las dimensiones A, B y C, señaladas arriba, aunque las analogías habrán de quedar claras a medida que prosigo:

1.-Adhesión continua a los procedimientos, hábitos, modos de pensar y de comportamiento existentes, combinada con la incapacidad de reconocer señales claras de que estos son inadecuados y hasta desastrosos en una situación concreta. La adhesión rígida a las experiencias pasadas se aprende de forma rutinaria ante situaciones que exigen nuevos pensamientos. Se puede hablar de un comportamiento ciegamente “algorítmico”, en el sentido más amplio.

2.-La incapacidad de “pensar fuera de la caja”, de ver el cuadro general, de salir mentalmente del proceso en el que se está imbuido y de hacer preguntas convenientes, como: “¿Qué estoy haciendo realmente?”; “¿Esto tiene sentido?”; y “¿Qué está pasando aquí verdaderamente?”

3.-Tendencia a sobre estimar la eficacia de las estrategias y los métodos adoptados para enfrentarse a un problema nuevo (por ejemplo, el efecto «Dunning-Kruger» en humanos, mostrado normalmente en la IA con métodos estadísticos de optimización). (El efecto «Dunning-Kruger» es una tendencia cognitiva en la que el individuo sobrestima, erróneamente, su conocimiento y sus capacidades en un campo específico, como resultado de una falta de la evaluación de sí mismo, lo que le impide evaluarlos correctamente –nota de los editores.)

4.-Falta de capacidad de entender el significado de las declaraciones, de las situaciones y de los acontecimientos –déficit referido en general por expresiones como: “Esa persona es demasiado estúpida como para entender esto”.

La estupidez en los sistemas de la IA

Así, pues, no es de sorprender que con la expansión de la IA a prácticamente todos los sectores de la sociedad y de la economía y de la creciente dependencia de los sistemas de la IA haya aumentado la preocupación por las consecuencias de los errores de dicha técnica. Además de los errores directos (como la identificación falsa de objetos), el mal desempeño de los sistemas de la IA puede conducir a consecuencias indeseables y perjudiciales en renglones donde deberían sustituir el discernimiento humano.

Esto incluye escoger entre cursos de acción opcionales –por ejemplo, cuando se conduce un automóvil en una situación potencial de accidente o responder a amenazas militares con plazo de alerta cortos, o en tareas como tramitar solicitudes de empleo y planear tratamientos médicos.

El problema aquí no es si los sistemas de la IA tienen un desempeño mejor o peor que el de los humanos en un caso determinado. Pero, en lugar de esto, la estupidez como problema sistémico, que abarca tanto la dimensión humana como la de los sistemas de la IA. Con frecuencia ambas están ligadas, y este es un problema interesante, con consecuencias legales, como la responsabilidad por las consecuencias de los errores de la IA, que se debe repartir entre los proyectistas, los abastecedores de bancos de datos y de los gerentes y usuarios del sistema.

Los sistemas de IA no dan los resultados esperados y presentan un mal desempeño de varias maneras (véase «Classification Schemas for Artificial Intelligence Failures» (Esquemas de clasificación por errores de la inteligencia artificial) de P.J. Scott y R.V. Yampolski). Pocos analistas han tratado de identificar un denominador común de manera rigurosa. Pero estoy seguro de que muchos de los que han trabajado con sistemas de IA por tiempo suficiente (en particular los que, muchas veces con meticulosidad e ingenio, han tratado de remediar los desperfectos de los sistemas de IA. Y de mejorar su desempeño- serán capaces de hacer analogías con el comportamiento estúpido de los seres humanos.

Han tenido que invertir enormes cantidades de inteligencia humana extra en los sistemas de la IA, en un esfuerzo para hacerlos menos “estúpidos”.