La Unesco reconoce una serie de controversias en torno a la IA generativa, las cuales deberán ser superadas con el fin de minimizar los riesgos de su uso

20 de mayo de 2024, 9:51 AM
20 de mayo de 2024, 9:51 AM

La aparición y desarrollo de la inteligencia artificial generativa (IA generativa) desde 2022 ha producido una revolución que se extiende por todos los campos del conocimiento y la actividad humana; sin embargo, su rápido avance plantea una serie de desafíos y oportunidades, sobre todo en el campo de la educación.

En un principio incomprendida por los educadores, la IA generativa ha encontrado su camino a las aulas, primero de la mano de soluciones como ChatGPT y posteriormente a través de otras IAs y herramientas especializadas, las cuales han sido usadas por estudiantes y docentes, muchas veces sin una comprensión completa de sus potencialidades y riesgos.

Recientemente, la Organización de las Naciones Unidas para la Ciencia, la Educación y la Cultura (Unesco) presentó una guía para el uso de la IA generativa en la educación y la investigación, la cual reconoce ciertos cuestionamientos sobre la aplicación de esta tecnología en las aulas y plantea directrices para su aprovechamiento pleno.

La Unesco plantea, por ejemplo, que el mal uso de la IA generativa podría afectar los valores humanísticos fundamentales que promueven la intervención humana, la inclusión, la equidad, la igualdad de género, la diversidad lingüística y cultural, así como las opiniones y expresiones plurales, pero que, al mismo tiempo, al ser aplicada de manera correcta, puede automatizar el tratamiento de la información y la presentación de resultados en todas las representaciones simbólicas clave del pensamiento humano.

Asimismo, la organización internacional indica que la IA generativa permite la entrega de resultados, ofreciendo productos de conocimiento semiacabados. “Al liberar a los humanos de algunas categorías de habilidades de pensamiento de orden inferior, esta nueva generación de herramientas de IA podría tener profundas implicancias en la forma en que entendemos la inteligencia y el aprendizaje humanos”.

Al respecto Lorena Ulloa Bersatti, miembro de la Jefatura de Enseñanza Aprendizaje (JEA) de la Universidad Franz Tamayo, Unifranz, considera que la IA está revolucionando la educación superior al ofrecer innovación en la enseñanza, la personalización del aprendizaje, el ahorro de tiempo, la optimización del trabajo de los educadores y la gestión de recursos que aportan en el enriquecimiento de la experiencia de aprendizaje de los estudiantes, pero que el éxito o fracaso de su uso dependerá de la manera en la que se implemente.

“La IA puede ser una herramienta valiosa para avanzar en la educación y mantenerse a la vanguardia; sin embargo, su éxito dependerá de cómo se integre de manera efectiva en los procesos educativos”, puntualiza.

Unifranz

La IA generativa ha encontrado su camino a las aulas, primero de la mano de soluciones como ChatGPT

Riesgos

La Unesco reconoce una serie de controversias en torno a la IA generativa, las cuales deberán ser superadas con el fin de minimizar los riesgos de su uso.

Entre estas controversias se encuentran las siguientes:

1 Empeoramiento de la pobreza digital

Al depender la IA generativa de inmensas cantidades de datos y de una enorme potencia computacional para su entrenamiento, los avances y nuevas versiones sólo están al alcance de las más grandes empresas tecnológicas internacionales y de unas pocas economías (como Estados Unidos, la República Popular China y, en menor medida, Europa), excluyendo a la mayor parte del mundo.

2 Uso de contenidos sin consentimiento

Al ser construidos con grandes cantidades de datos, los modelos de IA recurren a éstos sin permiso de ningún propietario.

Muchos sistemas de IA generativa de imágenes y algunos de código han sido, en consecuencia, acusados de violar derechos de propiedad intelectual.

3 Reducir la diversidad de opiniones y marginar aún más las voces marginadas

ChatGPT y otras herramientas similares tienden a producir respuestas estándar que asumen los valores de los propietarios/creadores de los datos utilizados para entrenar los modelos. De hecho, si una secuencia de palabras aparece con frecuencia en los datos de entrenamiento -como es el caso de asuntos comunes y no controversiales y creencias dominantes- es probable que el GPT la repita en sus resultados.

Así se corre el riesgo de limitar y socavar el desarrollo de opiniones y expresiones de ideas plurales.

Medidas a tomar

La Unesco también plantea una serie de medidas y directrices para poder potenciar el uso justo y seguro de la IA, entre estas medidas se pueden encontrar:

1 Un enfoque centrado en el ser humano

Este enfoque debe estar orientado por los principios de los derechos humanos y la necesidad de proteger la dignidad de las personas y la diversidad cultural que define el patrimonio común del conocimiento.

En términos de gobernanza, un enfoque centrado en el ser humano requiere una regulación apropiada que pueda asegurar la intervención humana, la transparencia y la rendición pública de cuentas.

2 Regular el uso de la IA

Aprovechar sus beneficios potenciales para la educación y la investigación requiere el desarrollo de políticas adecuadas. Sólo un puñado de países ha adoptado políticas o planes específicos para el uso de la IA en la educación.

3 Promover la inclusión, la equidad y la diversidad lingüística y cultural

La Unesco señala que las herramientas de IA generativa no ayudarán a dar respuesta a los desafíos fundamentales en la educación o a la consecución de los compromisos del ODS 4 a menos que estas herramientas sean accesibles de manera inclusiva, independientemente del género, origen étnico, necesidades educativas especiales, estatus socioeconómico, ubicación geográfica, situación de desplazamiento. El desafío está en lograr que la IA generativa promueva la equidad, las diversidades lingüísticas y el pluralismo cultural.