icon

GPT-3 o las computadoras escribiendo como humanos

El desarrollador de software Kevin Lacker probó GPT-3, la más reciente versión de un sistema de lenguaje de inteligencia artificial desarrollado por la empresa de software OpenAI LP, en Silicon Valley. El sistema aún no es público, pero provocó una tormenta en los círculos tecnológicos cuando OpenAI les dio acceso a investigadores y desarrolladores seleccionados para que pudieran observarlo y comentar: asombrosa y sin precedentes habilidad para responder preguntas de trivia, generar largos pasajes de texto coherente, diseñar aplicaciones de software simples y hasta ofrecer recetas para una mejor dieta. Algunos expertos piensan que emerge técnica llamada IA ​​neuro-simbólica. Aplicada a la industria de los medios de comunicación, por ejemplo, puede resultar terrible.

La nueva inteligencia artificial intentará aplicarse, por ejemplo, a la industria de los medios de comunicación.

OpenAI se lanzó en 2015 como una empresa de investigación de inteligencia artificial (IA) sin fines de lucro. 

En 2019, Microsoft Corp. invirtió US$ 1.000 millones en la subsidiaria con fines de lucro de OpenAI que desarrolla GPT-3.

GPT-3 es el sucesor de GPT-2, que se lanzó en febrero de 2019 y tenía 1.500 millones de parámetros, o ponderaciones que se pueden ajustar para mejorar las predicciones, en comparación con los 175.000 millones de GPT-3. 

Con una base de datos de 300.000 millones de palabras que aparece en Internet, GPT-3 predice lo que es más probable que indique un humano. 

GPT-3 es parte de una clase de sistemas de lenguaje, incluido el BERT de Google, que utiliza el aprendizaje profundo para clasificar palabras o predecir cadenas de texto. 

Sam Altman, director ejecutivo de OpenAI, dice que GPT-3 tiene dificultades con las tareas de razonamiento, en parte porque fue diseñado para enfocarse en la predicción de palabras, no en el razonamiento. Pero GPT-3 ya tiene una capacidad limitada para razonar, y eso podría mejorar, dice.

“No lo entrenamos para hacer eso, pero surgió en el proceso de mejorar en la predicción de la siguiente palabra en una secuencia”, dice. “Creemos que el aprendizaje profundo eventualmente podrá razonar bastante bien, pero tenemos mucha investigación por delante y, por supuesto, no podemos predecir eso con certeza”, agrega.

Yejin Choi, profesora de Ciencias de la Computación en la Universidad de Washington y gerente de investigación en el Instituto Allen de IA, integra un grupo de investigadores de inteligencia artificial que buscan corregir deficiencias de la IA combinando la técnica de inteligencia artificial que utiliza GPT-3, llamada "aprendizaje profundo", con otra técnica conocida como "aprendizaje simbólico".

El enfoque combinado, conocido como IA neuro-simbólica, podría ayudar a los sistemas de procesamiento del lenguaje natural a percibir símbolos rápidamente y luego razonar para responder preguntas e incluso explicar sus decisiones.

El "aprendizaje profundo" implica alimentar a las máquinas con enormes conjuntos de datos para que puedan aprender a reconocer o recrear imágenes o pasajes de texto, pero toma decisiones de formas que no se pueden explicar. 

El "aprendizaje simbólico" ilustra claramente las decisiones y la lógica de una máquina, pero requiere que los humanos codifiquen el conocimiento y las reglas. 

La idea es que si una máquina recibe un conocimiento explícito en forma de símbolos, como "bate" y "golpe", entonces podría usar lo que sabe para hacer inferencias sobre escenarios, como qué sucede si un bate golpea una pelota.

“Lo que falta en la IA actual es ir más allá del nivel de correlaciones estadísticas que los modelos de aprendizaje profundo tienden a aprender”, dice Mike Davies, director del laboratorio de computación neuromórfica de Intel Corp.

Si tiene éxito, la IA neuro-simbólica podría allanar el camino para los asistentes de voz que actúen basándose en la comprensión de las necesidades del usuario, no solo en preguntas o, para bien o para mal, escribir guiones de películas que reflejen una comprensión del mundo, lo que podría impactar en industrias incluyendo medios, cuidado de la salud, banca, manufactura, venta minorista y más.

La IA neuro-simbólica también podría mejorar la capacidad de un sistema para explicarse a sí mismo, evitando la crítica de que el aprendizaje profundo es una "caja negra" que llega a conclusiones de formas incomprensibles, dice Sriram Raghavan, vicepresidente de IBM Research AI.

Las 5 industrias que más invierten en procesamiento de lenguaje en USA (comercio minorista, banca, manufactura, atención médica y servicios de valores e inversión) duplicarán su gasto en IA, hasta US$ 3.200 millones para 2023 (en 2020, pese a la pandemia, se invierten US$ 1.600 millones, según la firma de investigación IDC).

El procesamiento del lenguaje natural ya se usa ampliamente. Impulsa chatbots de servicio al cliente, texto predictivo, análisis de sentimientos en las redes sociales y más. También sustenta los sistemas que generan texto escrito que suena humano, como los que redactan resúmenes de noticias o traducen datos comerciales numéricos en resúmenes en inglés sencillo.

“Esos sistemas aún son incipientes, pero podría imaginarse en el futuro, a medida que avanza la tecnología, desarrollar un campo creativo en términos de publicidad, medios y películas”, dice Francesco Marconi, ex jefe de investigación y desarrollo de The Wall Street Journal, quien aplicando Applied XL, utiliza procesamiento de lenguaje natural para generar resúmenes de datos ambientales y de salud.