¿Por qué nos deberían preocupar los Algoritmos?

Un Algoritmo es como una receta de cocina, indican a una computadora o robot qué acción tomar dependiendo de la información que le entreguemos.

1. Pedir nombre y cuenta bancaria del usuario
2. Leer los números: 3, 2, 1
3. Sumar: 3+1+1
4. SI el resultado es menor a 5 volver al paso 2
5. SI el resultado es mayor a 5 ir al siguiente paso
6. Depositar 1,000,000 de dólares a la cuenta bancaria y nombre del usuario.
7. FIN

En el ejemplo anterior tristemente jamás nos depositarán a nuestra cuenta esa increíble cantidad de dinero y además este algoritmo se ejecutaría infinitamente pues entra en un bucle, es decir es un algoritmo mal construido. Así como este algoritmo hay muchos que se efectúan todo el tiempo en nuestro Facebook, Twitter, Youtube, etc. Incluso se está efectuando un algoritmo en este momento que lee estas letras, pero no se preocupe nosotros hacemos público nuestros aviso de privacidad que seguro ni ha leído.

Y así en todos los procesos que hacemos cuando interactuamos con una INTERFAZ hombre-máquina.

¿Qué nos debería preocupar?

Tengo la certeza que le ha ocurrido que va a realizar un trámite frente a un servidor público y le avisa que no podrá «procesar» su solicitud porque «el sistema no funciona», es decir los algoritmos no están disponibles (o están mal construidos).

Cuántos teclados de computadora han sufrido porque el sistema «gratuito» del Sistema Tributario no le permite realizar la factura, otra vez algoritmos no disponibles (o mal construidos).

O qué tal, se sube usted al avión y después le vienen a decir que tiene que bajarse porque hay otra persona con un boleto del mismo vuelo, misma hora, mismo asiento… pero no es usted. Usted con razón dice que no, entonces le mandan a la seguridad y lo bajan literalmente a «patadas»:

¿De quién es el problema? Según esta «nueva forma de pensar» el problema «no es nuestro» ni es del Algortimo que calculó que era usted quién tenía que bajarse del avión, no tampoco es usted el culpable, ni la aerolínea, ni los agentes de seguridad, ni de nadie porque esto fue decisión de un Algoritmo de la empresa.

Pero no deseo que usted estimado lector piense que el culpable de todo es la «tecnología» (y después vaya y publique esto con carita de enojo en su Facebook). No deseo eso porque siempre he pensado que:

La tecnología no es mala ni buena, eso sí no es neutra, o es mala o es buena

Los Algoritmos son construidos por empresas particulares y gobiernos pero creo deberían ser auditados por algún cuerpo colegiado donde se incluyeran a «humanistas» porque de otra manera este tipo de deslinde de responsabilidades sobre los consumidores y ciudadanos se incrementará día a día.

Ahora recuerdo que estaba haciendo cola para pagar la tenencia de mi automóvil y adelante de mí una persona mayor (80 años quizá) le explicaban que tenía que «bajar» su formato en el sitio web de hacienda del estado para luego imprimirlo, sacarle 2 copias y presentarse nuevamente en ventanilla (¡Vaya Algoritmo!).

¿Pero hijo? ¿qué es esa cosa de sitio web?

En ésta época de Inteligencia Artificial, se da usted cuenta de lo terrorífico que podría resultar que un Algoritmo se vuelva burócrata o que le sonría, como lo hacen los cajeros del banco, mientras usted debe entregar el dinero de su pensión porque según el Algoritmo usted ya no debería estar vivo en este planeta.

Le recomiendo ampliamente que utilice 10 minutos de su tiempo para ver la siguiente charla de Marta Peirano y que explica mucho mejor que yo este asunto de los algoritmos, además de señalar una característica común de las nuevas empresas tecnológicas: