{"id":9574,"date":"2020-08-29T19:19:49","date_gmt":"2020-08-29T19:19:49","guid":{"rendered":"https:\/\/msiainforma.org\/?p=9574"},"modified":"2020-08-29T19:19:49","modified_gmt":"2020-08-29T19:19:49","slug":"espanol-por-que-la-inteligencia-artificial-no-es-tan-inteligente-como-parece","status":"publish","type":"post","link":"https:\/\/msiainforma.org\/es\/espanol-por-que-la-inteligencia-artificial-no-es-tan-inteligente-como-parece\/","title":{"rendered":"\u00bfPor qu\u00e9 la Inteligencia Artificial no es tan \u201cinteligente\u201d como parece?"},"content":{"rendered":"Por Jonathan Tennenbaum<\/em><\/p>\n

Parte 1 de 10<\/p>\n

MSIa Informa, 28 de agosto de 2020.<\/em>– El prop\u00f3sito de este trabajo no es atacar a la inteligencia artificial (IA) como tecnolog\u00eda. Aparte de los riesgos intr\u00ednsecos de cualquier descubrimiento revolucionario, la IA trae consigo un n\u00famero creciente de beneficios que han desencadenado una cascada de avances en los campos m\u00e1s variados de la ciencia y de la t\u00e9cnica, liberando a las personas del duro trabajo mental para hacer la vida m\u00e1s agradable y a la econom\u00eda m\u00e1s productiva. No obstante, la IA todav\u00eda tiene un largo camino que recorrer. Dada la escala colosal y sin precedentes de esfuerzos y de facultades creadoras invertidas en la creaci\u00f3n de sistema de IA, y su incorporaci\u00f3n a los bancos de datos, no es de ning\u00fan modo claro que la IA haya \u201cproducido\u201d m\u00e1s inteligencia que la invertida en ella por los humanos.<\/p>\n

Hay un lado problem\u00e1tico de la IA, al que me referir\u00e9 con el t\u00edtulo general de \u201cestupidez\u201d. Pretendo con esto que el t\u00e9rmino \u201cestupidez\u201d se entienda en un sentido anal\u00edtico y no peyorativo. En los humanos, por lo menos, la estupidez y la inteligencia no se excluyen, aun trat\u00e1ndose de extremos opuestos. Con frecuencia coexisten, como nos ense\u00f1a la experiencia.<\/p>\n

Pretendo abordar en esta serie el problema de la \u201cestupidez\u201d de la IA en tres dimensiones interrelacionadas:<\/p>\n

    \n
  1. La debilidad inherente de los sistemas de computadora, proyectados de acuerdo con los principios de la IA como se entienden actualmente, lo que los vuelve \u201cest\u00fapidos\u201d, en cierto sentido, an\u00e1logos a la estupidez de los seres humanos. La \u201cestupidez\u201d de los sistemas de la IA es la causa ra\u00edz de la mayor\u00eda de los problemas y de los peligros conocidos relacionados con su uso en situaciones de la vida real.<\/li>\n
  2. La \u201cestupidez\u201d de los pioneros de la IA y de la mayor\u00eda de sus sucesores, a pesar de su gran brillo intelectual, al adoptar la noci\u00f3n de que la cognici\u00f3n humana es de naturaleza fundamentalmente algor\u00edtmica o, en el \u00faltimo caso, que es parte de un proceso de tipo algor\u00edtmico. De la misma forma la \u201cestupidez\u201d, de adoptar dispositivos de computaci\u00f3n digital como el paradigma central del entendimiento de la mente humana y del cerebro como un \u00f3rgano biol\u00f3gico.<\/li>\n<\/ol>\n

    Esos supuestos gratuitos, sin ning\u00fan asidero cient\u00edfico, le dieron vigor a algunos de los trabajos in\u00edciales de los sistemas de la IA, pero, a mi forma de ver, dificultan mucho su desarrollo. Como resultado, y no s\u00f3lo la IA propiamente dicha, sino una gran parte de los que hoy se llama \u201cciencia cognitiva\u201d, quedaron presas del min\u00fasculo mundo \u201cplano\u201d de la combinatoria y de los modelos matem\u00e1ticos formales.<\/p>\n

    \u00a1La expresi\u00f3n china \u4e95\u5e95\u4e4b\u86d9 (j\u01d0ngd\u01d0zh\u012bw\u0101) \u2013el sapo en el fondo del pozo- encaja perfectamente en esta afirmaci\u00f3n!<\/p>\n

      \n
    1. La estupidez inducida en los seres humanos por su interacci\u00f3n con los sistemas de la IA y por el efecto de la que se ha dado en llamar la \u201crevoluci\u00f3n cognitiva\u201d y de sus precursores filos\u00f3ficos en el lenguaje, la educaci\u00f3n, la ciencia y la cultura en general.<\/li>\n<\/ol>\n

      El peligro no es que los sistemas de la IA se vuelvan m\u00e1s inteligentes que los hombres, sino que, en lugar de esto, las personas se puedan volver tan est\u00fapidas que no consigan descubrir la diferencia. La misma regla se aplica a las formas de cognici\u00f3n espec\u00edficamente humanas, como al ejercitar nuestros m\u00fasculos: Los usamos o los perdemos.<\/p>\n

      \u00bfQu\u00e9 es la estupidez?<\/strong><\/p>\n

      Es dif\u00edcil definir el significado de estupidez de una forma que se acomode a los criterios acad\u00e9micos actuales. No obstante, la estupidez ha sido un foco de atenci\u00f3n de la cultura humana desde los primeros tiempos conocidos, reflejado en las antiguas tradiciones orales, en las ense\u00f1anzas de los ancianos y sabios, en innumerables f\u00e1bulas, historias y an\u00e9cdotas.<\/p>\n

      El humor metaf\u00f3rico y la iron\u00eda se han cultivado desde los primeros tiempos como contramedidas para la estupidez. Se podr\u00eda especular, con justa raz\u00f3n, que la raza humana no habr\u00eda sobrevivido sin ellas, y, aunque el \u201cbanco de datos\u201d haya crecido espectacularmente a lo largo de la Historia, es de dudarse que las personas tengan hoy m\u00e1s agudeza de ingenio (\u00abinsights\u00bb <\/em>en el original) sobre la naturaleza de la estupidez que hace tres mil a\u00f1os.<\/p>\n

      Dicho esto, la literatura de las \u00faltimas d\u00e9cadas sobre el problema de la estupidez contiene caracter\u00edsticas \u00fatiles, de las que ir\u00e9 echando mano.<\/p>\n

      Un problema t\u00edpico: una empresa posee funcionarios muy inteligentes y capaces, adem\u00e1s de una gerencia a todas luces excelente. Luego de algunos \u00e9xitos in\u00edciales, fracasa y se va a la quiebra a causa de errores persistentes, errores de juicio y un mal desempe\u00f1o. \u00bfQu\u00e9 fue lo que pas\u00f3? El estudio de semejantes ejemplos condujo a los acad\u00e9micos y a los asesores de gesti\u00f3n al concepto de \u201cestupidez funcional\u201d (v\u00e9ase por ejemplo \u00abThe Stupidity Paradox \u2013The Power and Pitfalls of Functional Stupidity at Work\u00bb (\u00abLa paradoja de la estupidez \u2013el poder y las trampas de la estupidez funcional en el trabajo\u00bb, de Mats Alvesson y Andr\u00e9 Spicer).<\/p>\n

      No obstante que la \u201cestupidez funcional\u201d se refiere en general a un marco institucional, arroja luz sobre todo el aspecto de la estupidez desde el \u00e1mbito individual hasta el de una sociedad entera.<\/p>\n

      Los cuatro puntos siguientes son un intento amplio personal de sintetizar la esencia de la estupidez. No se aplican exactamente de la misma forma en cada una de las dimensiones A, B y C, se\u00f1aladas arriba, aunque las analog\u00edas habr\u00e1n de quedar claras a medida que prosigo:<\/p>\n

      1.-Adhesi\u00f3n continua a los procedimientos, h\u00e1bitos, modos de pensar y de comportamiento existentes, combinada con la incapacidad de reconocer se\u00f1ales claras de que estos son inadecuados y hasta desastrosos en una situaci\u00f3n concreta. La adhesi\u00f3n r\u00edgida a las experiencias pasadas se aprende de forma rutinaria ante situaciones que exigen nuevos pensamientos. Se puede hablar de un comportamiento ciegamente \u201calgor\u00edtmico\u201d, en el sentido m\u00e1s amplio.<\/p>\n

      2.-La incapacidad de \u201cpensar fuera de la caja\u201d, de ver el cuadro general, de salir mentalmente del proceso en el que se est\u00e1 imbuido y de hacer preguntas convenientes, como: \u201c\u00bfQu\u00e9 estoy haciendo realmente?\u201d; \u201c\u00bfEsto tiene sentido?\u201d; y \u201c\u00bfQu\u00e9 est\u00e1 pasando aqu\u00ed verdaderamente?\u201d<\/p>\n

      3.-Tendencia a sobre estimar la eficacia de las estrategias y los m\u00e9todos adoptados para enfrentarse a un problema nuevo (por ejemplo, el efecto \u00abDunning-Kruger\u00bb en humanos, mostrado normalmente en la IA con m\u00e9todos estad\u00edsticos de optimizaci\u00f3n). (El efecto \u00abDunning-Kruger\u00bb es una tendencia cognitiva en la que el individuo sobrestima, err\u00f3neamente, su conocimiento y sus capacidades en un campo espec\u00edfico, como resultado de una falta de la evaluaci\u00f3n de s\u00ed mismo, lo que le impide evaluarlos correctamente \u2013nota de los editores.)<\/p>\n

      4.-Falta de capacidad de entender el significado de las declaraciones, de las situaciones y de los acontecimientos \u2013d\u00e9ficit referido en general por expresiones como: \u201cEsa persona es demasiado est\u00fapida como para entender esto\u201d.<\/p>\n

      La estupidez en los sistemas de la IA<\/strong><\/p>\n

      As\u00ed, pues, no es de sorprender que con la expansi\u00f3n de la IA a pr\u00e1cticamente todos los sectores de la sociedad y de la econom\u00eda y de la creciente dependencia de los sistemas de la IA haya aumentado la preocupaci\u00f3n por las consecuencias de los errores de dicha t\u00e9cnica. Adem\u00e1s de los errores directos (como la identificaci\u00f3n falsa de objetos), el mal desempe\u00f1o de los sistemas de la IA puede conducir a consecuencias indeseables y perjudiciales en renglones donde deber\u00edan sustituir el discernimiento humano.<\/p>\n

      Esto incluye escoger entre cursos de acci\u00f3n opcionales \u2013por ejemplo, cuando se conduce un autom\u00f3vil en una situaci\u00f3n potencial de accidente o responder a amenazas militares con plazo de alerta cortos, o en tareas como tramitar solicitudes de empleo y planear tratamientos m\u00e9dicos.<\/p>\n

      El problema aqu\u00ed no es si los sistemas de la IA tienen un desempe\u00f1o mejor o peor que el de los humanos en un caso determinado. Pero, en lugar de esto, la estupidez como problema sist\u00e9mico, que abarca tanto la dimensi\u00f3n humana como la de los sistemas de la IA. Con frecuencia ambas est\u00e1n ligadas, y este es un problema interesante, con consecuencias legales, como la responsabilidad por las consecuencias de los errores de la IA, que se debe repartir entre los proyectistas, los abastecedores de bancos de datos y de los gerentes y usuarios del sistema.<\/p>\n

      Los sistemas de IA no dan los resultados esperados y presentan un mal desempe\u00f1o de varias maneras (v\u00e9ase \u00abClassification Schemas for Artificial Intelligence Failures\u00bb (Esquemas de clasificaci\u00f3n por errores de la inteligencia artificial) de P.J. Scott y R.V. Yampolski). Pocos analistas han tratado de identificar un denominador com\u00fan de manera rigurosa. Pero estoy seguro de que muchos de los que han trabajado con sistemas de IA por tiempo suficiente (en particular los que, muchas veces con meticulosidad e ingenio, han tratado de remediar los desperfectos de los sistemas de IA. Y de mejorar su desempe\u00f1o- ser\u00e1n capaces de hacer analog\u00edas con el comportamiento est\u00fapido de los seres humanos.<\/p>\n

      Han tenido que invertir enormes cantidades de inteligencia humana extra en los sistemas de la IA, en un esfuerzo para hacerlos menos \u201cest\u00fapidos\u201d.","protected":false},"excerpt":{"rendered":"

      Por Jonathan Tennenbaum Parte 1 de 10 MSIa Informa, 28 de agosto de 2020.– El prop\u00f3sito de este trabajo no es atacar a la inteligencia artificial (IA) como tecnolog\u00eda. Aparte de los riesgos intr\u00ednsecos de cualquier descubrimiento revolucionario, la IA trae consigo un n\u00famero creciente de beneficios que han desencadenado una cascada de avances en …<\/p>\n","protected":false},"author":5,"featured_media":9575,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[37],"tags":[],"class_list":["post-9574","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-e-tecnologia"],"_links":{"self":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts\/9574","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/comments?post=9574"}],"version-history":[{"count":0,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/posts\/9574\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/media\/9575"}],"wp:attachment":[{"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/media?parent=9574"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/categories?post=9574"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/msiainforma.org\/es\/wp-json\/wp\/v2\/tags?post=9574"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}