Tecnochouvinismo

Imagen de Mike MacKenzie (Flickr) tomada por elordenmundial.com

Desde el surgimiento de la Inteligencia Artificial en el departamento de matemáticas de la Universidad de Darmouth a mediados de la década de los cincuenta hasta la derrota de Garry Kasparov ante Deep blue en una partida de ajedrez, no se había tenido una efervescencia como la que ha suscitado ChatGpt en particular y la Inteligencia Artificial en general.

Dentro de ese auge se da también lo que la profesora Meredith Bousard ha llamado “Tecnochouvinismo” que es la creencia ciega en la superioridad de las soluciones tecnológicas para resolver nuestros problemas. Por ejemplo, en temas relativos a reclutamiento de personal, ya se utiliza la IA para realizar la evaluación de los solicitantes. En Australia de acuerdo con una encuesta de la agencia del sector público australiano una cuarta parte de las empresas australianas utilizó IA para sus contrataciones en el año 2022.

La empresa líder en reclutamiento mediante IA en Australia, Sapia menciona que es la única forma de evitar sesgos en las entrevistas; sin embargo, la mayor parte de los solicitantes no sabe que serán evaluados por IA,  otras empresas de reclutamiento usan no solo un cuestionario, sino entrevistas, lo que podría poner en complicación a un no hablante nativo de la lengua en que se entreviste ya que la IA está modelada conforme la misma, también está el tema de la accesibilidad para las personas con discapacidad.

El departamento de industria de Australia ha desarrollado un marco de ética de IA, que incluye los principios de transparencia, explicabilidad ( determina cómo la IA llegó al resultado), responsabilidad y privacidad; sin embargo, el código es voluntario.

Un tema interesante es el del reconocimiento facial, en el cual la Inteligencia Artificial ha demostrado tener mejores resultados en personas con tez clara, eso podría dificultar la identificación de un solicitante a un puesto de trabajo, por ejemplo. Esta herramienta también se está usando para reconocer a personas que cuentan con ordenes de aprehensión o bien son de interés por sus presuntas actividades, el problema es el margen de error de reconocimiento y la normalización del uso en la vía pública de herramientas policiales.

Otro aspecto en donde la IA ha tomado importancia es en la medicina, al respecto la profesora Sandra Watcher de la Universidad de Oxford menciona  un estudio del año 2020 relacionado con la detección de cáncer de piel y el trabajo conjunto entre personas y computadoras, en el cual muchos médicos aceptaron las conclusiones de la IA a pesar de ir en contra de su opinión médica.

Antes de dejar a la IA a que resuelva nuestros problemas debemos tener en cuenta que existe sesgos que necesitan ser resueltos, si bien ya se trabaja en auditorías algorítmicas y marcos éticos del uso de la IA, es necesario que la IA se alimente de mejores datos para evitar sesgos y generar discriminaciones.