Noam Chomsky, renombrado lingüista y filósofo, ha escrito un artículo de opinión para NYT en el que aborda el impacto de la inteligencia artificial (IA) y sus limitaciones. En su ensayo, Chomsky expresa tanto preocupación como optimismo en relación a los avances en IA, especialmente en el campo del aprendizaje automático.
Chomsky destaca la popularidad y el éxito de programas de aprendizaje automático como ChatGPT de OpenAI, Bard de Google y Bing Chat de Microsoft. Estos programas se destacan en la generación de lenguaje y pensamiento similar al humano mediante el análisis de grandes cantidades de datos y la identificación de patrones. Han sido aclamados como los primeros atisbos de una inteligencia artificial general, superando no solo las capacidades cuantitativas del cerebro humano en términos de velocidad de procesamiento y capacidad de memoria, sino también las capacidades cualitativas en términos de visión intelectual, creatividad artística y todas las demás facultades distintivamente humanas.
Las limitaciones de la inteligencia artificial
Sin embargo, Chomsky sostiene que el amanecer de ese día puede estar aún lejos, a pesar de lo que se pueda leer en titulares exagerados y de las inversiones imprudentes. En su ensayo, Chomsky argumenta: «La revelación borgiana del entendimiento no ha ocurrido ni ocurrirá si programas de aprendizaje automático como ChatGPT continúan dominando el campo de la IA». Aunque reconoce la utilidad de estos programas en ciertos ámbitos específicos, como la programación informática o la generación de rimas para poesía ligera, Chomsky insiste en que difieren profundamente de cómo razonamos y utilizamos el lenguaje humano, lo que impone limitaciones significativas a lo que pueden lograr y los dota de defectos ineludibles.
En sus propias palabras, Chomsky afirma: «Es cómico y trágico al mismo tiempo, como podría haber señalado Borges, que tanto dinero y atención se concentren en algo tan insignificante, algo tan trivial en contraste con la mente humana, que gracias al lenguaje, en palabras de Wilhelm von Humboldt, puede hacer ‘un uso infinito de medios finitos’, creando ideas y teorías de alcance universal».
La incapacidad de distinguir lo que no es, lo que podría y no podría ser
Chomsky argumenta que la mente humana no es una máquina estadística torpe para la coincidencia de patrones, que se alimenta de cientos de terabytes de datos y genera respuestas conversacionales o respuestas científicas más probables. Por el contrario, la mente humana es un sistema sorprendentemente eficiente y elegante que opera con pequeñas cantidades de información; su objetivo no es inferir correlaciones brutales entre puntos de datos, sino crear explicaciones.
En sus propias palabras, Chomsky nos ilustra sobre la distinción: «La mente humana es capaz de decir no solo lo que es, lo que fue y lo que será, eso es descripción y predicción, sino también lo que no es y lo que podría y no podría ser, esos son los ingredientes de una explicación, la marca de una verdadera inteligencia».
La importancia de las explicaciones causales
Chomsky destaca la importancia de la capacidad de ofrecer explicaciones causales en contraposición a la mera descripción y predicción. Menciona un ejemplo simple: «Supongamos que tienes una manzana en la mano y la sueltas. Observas el resultado y dices: ‘La manzana cae’. Esa es una descripción. Una predicción podría haber sido la afirmación: ‘La manzana caerá si abro mi mano’. Ambas son valiosas y ambas pueden ser correctas. Pero una explicación va más allá e incluye no solo descripciones y predicciones, sino también conjeturas contrafactuales como ‘cualquier objeto similar caería’, junto con la cláusula adicional ‘debido a la fuerza de gravedad’ o ‘debido a la curvatura del espacio-tiempo’, o cualquier otra cosa. Esa es una explicación causal: ‘La manzana no habría caído de no ser por la fuerza de gravedad’. Eso es pensar».
Chomsky argumenta que el meollo del aprendizaje automático se basa en la descripción y la predicción, sin postular ningún mecanismo causal o leyes físicas. A diferencia de los seres humanos, los programas de aprendizaje automático carecen de la capacidad más crítica de cualquier inteligencia: decir no solo lo que es el caso, lo que fue el caso y lo que será el caso, sino también lo que no es el caso y lo que podría y no podría ser el caso. Estos son los elementos de una explicación, la marca de una verdadera inteligencia.
La IA está estancada en una fase prehumana
Chomsky advierte que los programas de aprendizaje automático como ChatGPT están atrapados en una fase prehumana o no humana de la evolución cognitiva. Su defecto más profundo es la ausencia de la capacidad más crítica de cualquier inteligencia: decir no solo lo que es el caso, lo que fue el caso y lo que será el caso, sino también lo que no es el caso y lo que podría y no podría ser el caso. Esos son los ingredientes de una explicación, la marca de una verdadera inteligencia.
Chomsky subraya que los programas de aprendizaje automático como ChatGPT son, por diseño, ilimitados en lo que pueden «aprender» (es decir, memorizar); son incapaces de distinguir lo posible de lo imposible. A diferencia de los humanos, que están dotados de una gramática universal que limita los idiomas que podemos aprender a aquellos con una cierta elegancia casi matemática, estos programas pueden aprender idiomas posibles para los humanos e idiomas imposibles con la misma facilidad. Mientras que los humanos están limitados en los tipos de explicaciones que podemos conjeturar racionalmente, los sistemas de aprendizaje automático pueden aprender tanto que la Tierra es plana como que la Tierra es redonda. Se basan meramente en probabilidades que cambian con el tiempo.
La superficialidad de la IA
Chomsky advierte que las predicciones de los sistemas de aprendizaje automático siempre serán superficiales y dudosas. Debido a que estos programas no pueden explicar las reglas de la sintaxis del inglés, por ejemplo, es probable que predigan incorrectamente que «colorless green ideas sleep furiously» es una oración gramaticalmente correcta. Sin embargo, ningún hablante nativo de inglés aceptaría esta oración sin pestañear, porque viola las reglas gramaticales del idioma. Por lo tanto, estos programas no pueden ofrecer una comprensión profunda del lenguaje humano y sus sutilezas.
En resumen, Chomsky plantea serias dudas sobre las capacidades y limitaciones de los programas de aprendizaje automático como ChatGPT y señala que, aunque puedan ser útiles en ciertos contextos, difieren profundamente de la mente humana en términos de comprensión del lenguaje y generación de explicaciones causales. Además, advierte sobre la falta de moralidad inherente a estos sistemas y la necesidad de abordar las preocupaciones éticas y sociales asociadas con el avance de la IA.
Deja una respuesta