{"id":9586,"date":"2020-09-05T14:47:55","date_gmt":"2020-09-05T14:47:55","guid":{"rendered":"https:\/\/msiainforma.org\/?p=9586"},"modified":"2020-09-05T14:47:55","modified_gmt":"2020-09-05T14:47:55","slug":"espanol-las-raices-de-la-estupidez-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/msiainforma.org\/es\/espanol-las-raices-de-la-estupidez-de-la-inteligencia-artificial\/","title":{"rendered":"Las ra\u00edces de la estupidez de la inteligencia artificial"},"content":{"rendered":"Por Jonathan Tennenbaum<\/em><\/p>\n

Parte 2 de 10<\/p>\n

MSIa Informa, 4 de septiembre de 2020.-<\/em>Las ra\u00edces \u00faltimas de la estupidez de los sistemas de inteligencia artificial (IA) se encuentran, a mi parecer, en su car\u00e1cter estrictamente algor\u00edtmico. La IA, como se entiende en la actualidad, parte de sistemas de procesamiento digital que realizan operaciones num\u00e9ricas binarias en un procedimiento de \u201cpaso a paso\u201d, de acuerdo con conjuntos fijos de algoritmos, a partir de un arreglo de entradas num\u00e9ricas.<\/p>\n

Alguien podr\u00e1 objetar dicha caracterizaci\u00f3n se\u00f1alando que los sistemas de la IA pueden alterar constantemente sus propias \u201creglas\u201d \u2013al reprogramarse a ellos mismos, por as\u00ed decirlo. Esto es verdad, pero la auto reprogramaci\u00f3n debe seguir el mismo algoritmo. Lo mismo es v\u00e1lido para los procedimientos por los que el sistema reacciona a entradas diversas. Al final de cuentas, cada sistema de IA est\u00e1 gobernado por un conjunto de reglas y de procedimientos instalados en el dise\u00f1o del sistema, los que permanecen inalterados durante su operaci\u00f3n, mientras el sistema permanezca \u00edntegro.<\/p>\n

Alan Turing, uno de los grandes pioneros de la IA, tuvo \u00e9xito en dar una definici\u00f3n precisa de la noci\u00f3n general de \u201calgoritmo\u201d o \u201cprocedimiento mec\u00e1nico\u201d, que fundamenta todos los sistemas de IA que pudieran, posiblemente, utilizarse con equipos digitales. Turing demostr\u00f3 que cualquier sistema de ese g\u00e9nero es equivalente matem\u00e1ticamente a una entidad abstracta, conocida actualmente como una \u201cm\u00e1quina de Turing\u201d.<\/p>\n

Existe adem\u00e1s una \u00fanica \u201cm\u00e1quina Turing\u201d universal que puede simular a otra, cuando el dise\u00f1o de esta \u00faltima se incorpora a la primera de una forma adecuadamente codificada. De acuerdo a esto, se pueden investigar las posibilidades te\u00f3ricas y las limitaciones de los sistemas de la IA con m\u00e9todos matem\u00e1ticos, dej\u00e1ndose de lado la velocidad y otros aspectos f\u00edsicos.<\/p>\n

El diagrama muestra una cinta sin fin con cuadrados, en los cuales se ha escrito cero o uno. La m\u00e1quina posee una cabeza capaz de leer, borrar o imprimir cero o mover la cinta un paso a la derecha o a la izquierda. Los rect\u00e1ngulos numerados abajo contienen las reglas (programa) de la m\u00e1quina.<\/p>\n

La regla 1 dice que, por ejemplo: si usted lee cero, b\u00f3rrelo e imprima uno, mueva la cinta un espacio a la derecha y vaya a la regla 4; pero si usted lee un uno, d\u00e9jelo as\u00ed, mueva la cinta un espacio a la izquierda y aplique la regla 1 nuevamente. La m\u00e1quina inicia en la regla 1, con algunas secuencias de ceros y unos grabados en la cinta. Tambi\u00e9n puede haber una regla que le diga a la m\u00e1quina que se detenga.<\/p>\n

No importa cu\u00e1n sofisticada sea un sistema de IA, no importa c\u00f3mo podamos combinar los sistemas de la IA de varias formas, en la interacci\u00f3n de arquitecturas jer\u00e1rquicas paralelas y automodificables, siempre acabaremos con algo como una \u201cm\u00e1quina de Turing\u201d que opera con un conjunto fijo de reglas.<\/p>\n

La estupidez se instala en los sistemas de la IA desde los niveles m\u00e1s bajos hasta los m\u00e1s altos.<\/p>\n

En el espacio micro tenemos miles de millones de elementos de conmutaciones individuales en los chips de los circuitos integrados, cada uno de los cuales realiza sus transiciones conecta-desconecta de una manera 100 por ciento determinista y r\u00edgidamente mec\u00e1nica. Son 100 por ciento est\u00fapidos. Fue para eso para lo que los construyeron. Dif\u00edcilmente se asemejan a c\u00e9lulas vivas -neuronas y c\u00e9lulas gliales (c\u00e9lulas no neuronales del sistema nervioso central que proporcionan soporte y nutrici\u00f3n a las neuronas, n. e.) integradas en el sistema intersticial del cerebro \u2013que constituyen el sustrato de los procesos mentales humanos. El macro, el comportamiento de un sistema de IA se subordina a sus reglas de gobierno. Nos hay forma de alterarlos por dentro. Ella interpreta y reacciona a todos los acontecimientos de acuerdo con ellas y seguir\u00e1 haci\u00e9ndolo, aunque ello conduzca a un desastre.<\/p>\n

As\u00ed que todos los sistemas de la IA que utilizan hardware digital son inherentemente est\u00fapidos, aun si manifiestan un comportamiento inteligente, de acuerdo con los dos primeros cuatro criterios de estupidez, presentados en el primer art\u00edculo de esta serie. Para recordarlos, aqu\u00ed est\u00e1n de nuevo: E1. Adhesi\u00f3n continua a los procedimientos, h\u00e1bitos, modos de pensar y de comportamiento existentes, combinada con la incapacidad en un caso dado concreto. Adhesi\u00f3n r\u00edgida a experiencias pasadas y aprendizaje rutinario ante situaciones que exigen nuevos pensamientos. Se puede hablar de un comportamiento ciegamente \u201calgor\u00edtmico\u201d en el sentido m\u00e1s amplio.<\/p>\n

E2. Incapacidad de \u201cpensar fuera de la caja\u201d, de ver el cuadro general, de salir mentalmente del proceso en el que est\u00e1 envuelto y hacer las preguntas correspondientes, como: \u201c\u00bfQu\u00e9 estoy haciendo realmente?\u201d; \u201c\u00bfEsto tiene sentido?\u201d; y \u201c\u00bfQu\u00e9 est\u00e1 pasando aqu\u00ed realmente?\u201d<\/p>\n

En seguida vamos a examinar algunos ejemplos de c\u00f3mo la estupidez de los sistemas de la IA se manifiesta en su desempe\u00f1o pr\u00e1ctico.<\/p>\n

Aprendizaje profundo<\/strong><\/p>\n

Los sistemas de aprendizaje profundo desempe\u00f1an actualmente un papel dominante en las aplicaciones de la IA. La idea principal quiz\u00e1 sea conocida por muchos lectores, pero la resumir\u00e9 brevemente aqu\u00ed.<\/p>\n

El aprendizaje profundo parte del uso de redes artificiales neuronales de varias capas. Las redes se componen de capas de nudos interconectadas el\u00e9ctricamente (\u201cneuronas artificiales\u201d), cada una de las cuales recibe entradas de nudos en la capa anterior y calcula una salida que va a los nudos de la capa siguiente. Las entradas de cada nudo, oriundas de otros nudos, reciben pesos relativos que se ajustan en el transcurso de un proceso de \u201caprendizaje\u201d.<\/p>\n

La primera capa de nudos recibe entradas de afuera: por ejemplo, pixeles de una imagen que identificar. La idea es, ajustando los pesos correspondientes, hacer que los nudos de cada capa respondan a los patrones correspondientes en los datos de la capa anterior, para que los nudos de la capa final nos den la respuesta deseada.<\/p>\n

Por ejemplo, podemos querer que uno de esos nudos finales se active si la imagen fuese un c\u00edrculo; otro nudo, si la imagen fuese un cuadrado.<\/p>\n

Con un algoritmo extremadamente ingenioso se puede prever que esa red ajuste gradualmente sus referencias internas por s\u00ed mismo, cuando se presenta con un gran n\u00famero de pares de entradas y de respuestas correctas (en este ejemplo, im\u00e1genes identificadas correctamente), de forma que proporciones respuestas cada vez mejores a entradas arbitrarias \u2013por los menos en sentido estad\u00edstico.<\/p>\n

Se puede describir como un m\u00e9todo muy sofisticado de ajuste de curvas.<\/p>\n

Cisnes negros y cajas negras<\/strong><\/p>\n

El abordaje del aprendizaje profundo ha tenido \u00e9xitos sorprendentes. Pero tambi\u00e9n hay problemas.<\/p>\n

Como la optimizaci\u00f3n es de naturaleza estad\u00edstica, tiende a brindar las respuestas correctas tan s\u00f3lo a entradas semejantes a las que ocurren con frecuencia en los conjuntos en que fueron entrenadas. Para entradas encontradas m\u00e1s recientemente, los resultados pueden ser totalmente err\u00f3neos. Este fen\u00f3meno, llamado \u201ccisne negro\u201d, presenta un gran desaf\u00edo para el desarrollo de veh\u00edculos aut\u00f3nomos que pueden enfrentarse a una gran variedad de situaciones poco comunes. El problema de la \u201ccaja negra\u201d es igualmente serio: las redes de aprendizaje profundo, como las usadas en la identificaci\u00f3n de im\u00e1genes, tienen 10 millones o m\u00e1s de referencias internas. Los valores de estos millones de referencias surgir\u00e1n de un entrenamiento que involucra grandes cantidades de datos.<\/p>\n

La red se convirti\u00f3 as\u00ed en una \u201ccaja negra\u201d: la funci\u00f3n de entrada y salida de la red es tan complicada matem\u00e1ticamente que no tenemos como prever o explicar el comportamiento del sistema en general.<\/p>\n

La identificaci\u00f3n de objetos visuales, que se est\u00e1 empleando a gran escala en todas partes, nos da un ejemplo.<\/p>\n

A pesar de las mejor\u00edas constantes, esos sistemas continuaban siendo atormentados por casos extremos de identificaciones falsas de objetos, de tipo que los humanos pr\u00e1cticamente nunca hacemos. Adem\u00e1s de esto, esos errores pueden ser provocados deliberadamente por los llamados ejemplos contradictorios, que se convierten en un campo nuevo de investigaci\u00f3n en la IA.<\/p>\n

En seguida, por cortes\u00eda de Dan Hendrycks, presento algunos errores de identificaci\u00f3n cometidos por el sistema de reconocimiento de imagen AI ResNet-50 \u2013una red neuronal de aprendizaje profunfundo de 50 camadas entrenadas con m\u00e1s de un mill\u00f3n de im\u00e1genes.<\/p>\n

El fen\u00f3meno de los ejemplos adversos demuestra que lo que esos sistemas \u201caprenden\u201d a hacer difiere fundamentalmente de c\u00f3mo los seres humanos reconocen los objetos. En muchos casos los sistemas detectan un tipo de textura en la imagen, y no la forma (Gestalt), que un ser humano percibe. Ejemplos adversos an\u00e1logos se pueden producir para sistemas de reconocimiento de voz.<\/p>\n

Lo que se llama \u201caprendizaje\u201d en los sistemas existentes de inteligencia artificial, en general, tienen poco o nada que ver con la forma en la que los hombres aprenden realmente. En la mejor de las hip\u00f3tesis, se pueden encontrar analog\u00edas con la memorizaci\u00f3n mec\u00e1nica irracional o con t\u00e9cnicas \u201cskinnerianas\u201d de modificaci\u00f3n del comportamiento (referencia a la tesis conductista de B.F. Skinner, que parte del est\u00edmulo o de la represi\u00f3n del comportamiento, lo que genera un aprendizaje mec\u00e1nico y repetitivo n. de e.), a las que ninguna persona inteligente se someter\u00eda.<\/p>\n

Los ejemplos adversos se convirtieron en una fuente muy ser\u00eda de preocupaci\u00f3n, principalmente en los usos militares, por ejemplo, en los sistemas de identificaci\u00f3n de blancos, y en la seguridad de la IA. (Los interesados pueden consultar los art\u00edculos \u201cHow Adversarial Attacks Could Desestabilize Military AI Systems\u201d y \u201cMilitary artificial intelligence can be easily and dangerously fooled\u201d.)<\/p>\n

Traducir sin entender<\/strong><\/p>\n

Otro ejemplo es la traducci\u00f3n autom\u00e1tica. El enfoque del aprendizaje profundo alcanz\u00f3 aqu\u00ed \u00e9xitos extraordinarios, gracias, en gran medida, a su gigantesco banco de datos y a sus mejoras constantes. Pero el problema de la estupidez permanece.<\/p>\n

El traductor de Google es un buen ejemplo. Opera con un enorme banco de datos en constante crecimientos, con centenares de millones de documentos y fragmentos de texto con traducciones acopladas hechas por humanos.<\/p>\n

Entre otras fuentes, el Traductor Google utiliza el banco de datos multiling\u00fce de Naciones Unidas, que incluye m\u00e1s de un mill\u00f3n y medio de pares de documentos alineados en los seis idiomas oficiales de esa organizaci\u00f3n y la base de documentos multiling\u00fces de la Comisi\u00f3n Europea. La traducci\u00f3n de frases se genera en correlaci\u00f3n con frases traducidas por humanos y optimizadas estad\u00edsticamente para producir la \u201cmejor\u201d traducci\u00f3n.<\/p>\n

No es necesario decir que procedimiento del Traductor de Google no involucra nada m\u00e1s all\u00e1 de manipulaciones de series de ceros y unos de la entrada y del banco de datos. Si una persona viviese tiempo suficiente \u2013quiz\u00e1 miles de a\u00f1os- y tuviese la paciencia suficiente para ejecutar los procedimientos de c\u00e1lculo, esa persona, en teor\u00eda, podr\u00eda traducir textos, en formato codificado digitalmente, del suajili al tibetano sin saber una palabra de los dos idioma. El Traductor de Google hace esencialmente una forma exitosa, m\u00e1s o menos, de chapucear: traducir textos sin entenderlos. La falta de capacidad de entender es una forma de estupidez (E4).<\/p>\n

Es frecuente que la estupidez de la traducci\u00f3n autom\u00e1tica con el aprendizaje profundo produzca resultados hilarantes. Me he divertido alimentando textos chinos que contienen \u6210\u8bed<\/p>\n

(chengyu) \u2013expresiones idiom\u00e1ticas tradicionales, principalmente, de cuatro caracteres- en varios servicios de traducci\u00f3n online.<\/p>\n

Por ejemplo; el chengyu\u01ce \u9f7f\u5f92\u589e (m\u01cech\u01d0t\u00faz\u0113ng)<\/p>\n

-literalmente \u201cdientes de caballo, in\u00fatil, crece\u201d- se podr\u00eda traducir \u2013dejando atr\u00e1s el humor, la iron\u00eda y el ritmo- como: \u201cenvejecer sin realizar mucho\u201d. Este chengyu, incorporado a una frase adecuada, puede enloquecer a los traductores autom\u00e1ticos:<\/p>\n

\u5e73\u5fc3\u601d\u91cf, \u4e00\u5e74\u6765\u9a6c\u5f92\u589e\u6210, \u6210\u4e5f\u5fcd\u6c14\u541e\u58f0\u5f53\u725b\u505a\u9a6c\u3002<\/p>\n

Traductor de Google: \u201cSi usted piensa en eso un a\u00f1o, sus dientes aumentar\u00e1n y su carrera fracasar\u00e1\u201d.<\/p>\n

Es costumbre que la salida de la herramienta de traducci\u00f3n sea inestable. Si digita la frase una vez m\u00e1s, podr\u00e1 obtener traducciones diferentes.<\/p>\n

Traductor de Google (por segunda vez): \u201cPensativamente, en el a\u00f1o hubo un aumento de n\u00famero de dientes y ning\u00fan \u00e9xito en sus carreras\u201d.<\/p>\n

Traductor Baidu: \u201cCreo que el a\u00f1o pasado, el n\u00famero de caballos aument\u00f3 en vano y su carrera no tuvo \u00e9xito. S\u00f3lo puedo aguantar ser un buey y un caballo\u201d.<\/p>\n

Estos ejemplos hacen evidente que los sistemas de traducci\u00f3n de la IA, por lo menos de los del tipo que existen actualmente, no tienen acceso al significado en s\u00ed. En este sentido son 100 por ciento est\u00fapidos (E4).","protected":false},"excerpt":{"rendered":"

Por Jonathan Tennenbaum Parte 2 de 10 MSIa Informa, 4 de septiembre de 2020.-Las ra\u00edces \u00faltimas de la estupidez de los sistemas de inteligencia artificial (IA) se encuentran, a mi parecer, en su car\u00e1cter estrictamente algor\u00edtmico. La IA, como se entiende en la actualidad, parte de sistemas de procesamiento digital que realizan operaciones num\u00e9ricas binarias …<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[37],"tags":[],"class_list":["post-9586","post","type-post","status-publish","format-standard","hentry","category-ciencia-e-tecnologia"],"_links":{"self":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts\/9586","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/comments?post=9586"}],"version-history":[{"count":0,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts\/9586\/revisions"}],"wp:attachment":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/media?parent=9586"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/categories?post=9586"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/tags?post=9586"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}