“No hay que prohibir la inteligencia artificial, hay que entrenarla críticamente”

“No hay que prohibir la inteligencia artificial, hay que entrenarla críticamente”
Foto: Zona Docs

*Esta nota fue realizada por Zona Docs, parte de la alianza de medios de la Red de Periodistas de a Pie. Aquí puedes leer la original.

#ZonaFIL

En el marco de la Feria Internacional del Libro de Guadalajara se realizó el Seminario Internacional Comunicación y Sociedad: “La comunicación: del papiro a los algoritmos”, organizado por el Departamento de Estudios de la Comunicación Social, cuyo eje principal de análisis y discusión fue el uso e implementación de la inteligencia artificial.

Por Darwin Franco / @DarwinFranco 

No sólo el ecosistema mediático cambió el 30 de noviembre de 2022, cuando se lanzó de manera pública la aplicación de chatbot de inteligencia artificial de la empresa Open AI: Chat GPT (Chat Generative Pre-Trained Transformer), sino también la manera en la que concebimos nuestra relación con las tecnologías y la construcción del conocimiento.

Por ello, desde el Departamento de Estudios de la Comunicación Social, a través de su Revista Comunicación y Sociedad, idearon en la Feria Internacional del Libro de Guadalajara el panel: “La comunicación: del papiro a los algoritmos” en el que Rossana Reguillo, Gabriela Sued, Gabriel Pérez y Rodrigo González debatieron sobre cuáles son los retos y potencialidades del uso e implementación de la inteligencia artificial.

La primera pregunta del moderador, Rodrigo González, para abrir el debate fue: “¿Qué es la Inteligencia Artificial?”; a ella, el investigador de la Universidad Autónoma de Coahuila, Gabriel Pérez Salazar, respondió que -independientemente de las diversas aplicaciones que existen-, la inteligencia artificial no es más que: “un conjunto de sistemas informáticos y computacionales que se emplean para resolver un problema de manera autónoma”; es decir, se trata de un modelo del lenguaje que es creado con el propósito de mantener una conversación con el usuario.

Pero no sólo eso, apunta Pérez Salazar, el resultado de esa conversación arroja “un corpus de aproximaciones semánticas”; es decir, aplicaciones de Inteligencia Artificial -como Chat GPT- lo que hacen es utilizar la información que ha sido digitalizada y que está disponible en Internet; por lo tanto, aclara el investigador, “no arroja respuestas neutras, conscientes o pensadas”; al contrario, “nos otorga respuestas sesgadas por las propias concepciones culturales”.

“¿Quién define desde qué perspectivas se construyen estas respuestas? ¿Cómo se puede entrenar a la Inteligencia Artificial para evitar estos sesgos?, esas son las cuestiones que podríamos cuestionar e investigar, apuntó Pérez Salazar.

Siguiendo las ideas del investigador y para ejemplificar si diho, en el caso de Chat GPT ese “entrenamiento” puede hacer a través del “Aprendizaje de Refuerzo a través de Comentarios Humanos (RLHF, por sus siglas en inglés), lo que hace evidente de que su uso no sólo se reduce a preguntar y obtener respuestas, sino en generar una conversación para ir mejorando las búsquedas y los resultados.

Sobre ello, enfatizó Gabriela Sued -investigadora de la Universidad Nacional Autónoma de México (UNAM)- para quien los usos múltiples de la Inteligencia Artificial deberían de pasar más por el pensamiento crítico y la capacidad de agencia de las y los usuarios que por los componentes netamente tecnológicos.

Siguiendo esta idea, Rossana Reguillo -investigadora nacional emérita- resaltó que es importante superar el pánico social que se ha generado alrededor de la Inteligencia Artificial, pues CHAT GPT no sólo tiene un potencial enorme para la educación sino también porque “la inteligencia artificial es un potente objeto para pensar y para pensarnos como sociedad”.

Para la investigadora, la clave está en perderle el miedo para comprender cómo funciona la Inteligencia Artificial, pues por su composición tecnológico y programática existe la capacidad de entrenarlas críticamente, pero también de “entrenar críticamente a quienes las usan”, apuntó la también coordinadora de Signa-LAB. 

Lo que apuntan las y el experto es contrario a las posturas de muchas instituciones educativas que ven el uso de la Inteligencia Artificial un problema, razón por las que han optado no sólo por prohibirlas sino también por estigmatizar a las y los estudiantes que las usan.

“La idea no es prohibirlas, lo mejor sería entrenar las competencias en los estudiantes para ir más allá de sólo pedirles cosas… lo que los estudiantes hagan estará relacionado con su capacidad de agencia, no es prohibirles sino posicionar su uso estratégico dentro de los procesos educativos”, apuntó Gabriel Pérez Salazar.

A la par, precisa Gabriela Sued, hay reconocer que estamos en “un momento de transición”, pues quienes hicieron dichas tecnologías y las pusieron a disposición de las personas, “lo hicieron sin pensar en las consecuencias sociales”; sin embargo, si las tecnologías ya están aquí no podemos ignorarlas:

“hay que pensarlas a través de un pensamiento complejo, hay que hablar de ellas, hay que hablar de sus usos y hay que hablar de sus implicaciones, pues  las tecnologías son algo más que el aparato, son sistemas sociales y culturales”, apuntó.

Y en ese entramado donde, obviamente, acecha el mercado tecnológico está detrás de estas inteligencias artificiales, Rossana Reguillo considera que la potencia radica en “la capacidad de agencia de quienes deciden utilizar estas inteligencias artificiales”; por ello, expuso la importancia de impulsar el usó crítico de estas tecnologías para disputar “significados y sentido” con esas grandes empresas como Google o OpenIA.

“Hay que entrenar nuestro pensamiento crítico, pero también nuestra ética… porque sumados a un entrenamiento ético podríamos tener mejores herramientas para realizar mejores prompts”, precisó Reguillo.

Un prompt es la instrucción, pregunta o texto que se usa en los sistemas de inteligencia artificial para iniciar una conversación. Se trata, por así decirlo, de un comando que se emplea para que una Inteligencia Artificial realice una tarea o búsqueda concreta.

Dominar un prompt, como precisaron en la conferencia Rossana Reguillo y Gabriel Pérez, permitirá que el usuario pase de “sólo preguntar” a crear una interacción con la Inteligencia Artificial, lo que permitirá mejorar tanto resultados de búsqueda como la creación de diversos productos (imágenes, fotografía, música, etcétera).

“Debemos de relacionarnos con la tecnología mediante el habilitamiento del pensamiento crítico, el reforzamiento del sentido ético y el desarrollo de nuestras competencias tecnológicas”, puntualizó Rossana Reguillo.

A la par también destacaron que será, en esa interacción crítica y porqué no también creativa, que se pueda “disputar sentido desde la diversidad”, pero teniendo en cuenta -como advierte Gabriela Sued- que “no debemos de darle a la tecnología lo que nos hace humanos, eso no hay que dárselo”.

***

Aquí puede consultarse los contenidos de la Revista Comunicación y Sociedad, organizadora de este panel académico en la FIL Guadalajara:

https://comunicacionysociedad.cucsh.udg.mx/index.php/comsoc