AMICA | Montevideo

@|

¿Debemos asustarnos? El término inteligencia artificial data de 1955. Dos matemáticos llamados Marvin Minsky y John Mccarthy se propusieron explorar las ideas de Alan Turing, que decía que las máquinas llegarían a ser capaces de pensar por sí solas y ello se lograría enseñando a las máquinas a simular todas las posibles características de la mente humana. Pensamiento sin duda muy ambicioso, aunque el tiempo ha demostrado que se está en ese camino.

El tema es muy interesante. Claro que la máquina podrá aprender a reproducir cómo funciona la mente humana, pero ésta no es un número matemático, no es un algoritmo y sus razonamientos están vinculados con un ser individual que tiene prejuicios, preconceptos sobre las razas, los inmigrantes, las mujeres, los gays, la religión, etc.; o sea tienen sesgos y esos sesgos se incorporan a los algoritmos aun sin estar consciente de ello.

Las personas no son infalibles y las máquinas tampoco, y si no que lo digan los numerosos ciudadanos de bien del mundo que, debido a un error por datos mal cargados en su expediente por un Data Broker, suelen verse envueltos en graves problemas para conseguir trabajo o un crédito y hallan que su reputación comercial y personal se encuentra destruida. Y ni qué hablar con el reconocimiento facial, especialmente en personas de color. Esto es: el lado oscuro de los algoritmos.

Pero los algoritmos, así como la inteligencia artificial, llegaron para quedarse y aportar un gran progreso a la humanidad. Los sesgos algorítmicos, como los datos, se basan en información actual, tantos de los individuos como de la sociedad.

Es obvio que siendo este trabajo hecho por personas, esos algoritmos recogerán los sesgos que ellos y la sociedad de ese tiempo poseen, porque un algoritmo no es sino una fórmula matemática que le dice a un sistema cómo procesar los datos que tiene. Son como alguien dijo “Opiniones cerradas en matemática” y el ser humano es cualquier cosa, menos algo cerrado, fijo, inmutable, por lo que, frente al avance firme y determinado de la inteligencia artificial y las máquinas se deben extremar los recaudos tales como:

1) Exigir la transparencia del sector que crea los algoritmos, su eliminación al máximo posible de prejuicios y sesgos ideológicos, donde nos pueden llevar los sistemas de puntajes.

2) Auditar sus algoritmos. Que esto sea una obligación legal para todas las empresas que los utilizan. Los sesgos se pueden detectar y eliminar de un algoritmo modificando su código, y corregir esa data.

3) Finalmente y no menos importante, se debe imponer al encargado de aplicar los algoritmos, ya sean políticos, administrativos, jueces, gerentes de empresas, etc., todos humanos con prejuicios y sesgos, que hagan prevalecer al algoritmo sobre su opinión personal.

Y como párrafo final, una frase alentadora que se contrapone a la visión de Alan Turing: por mucho que avancen las máquinas, la inteligencia artificial y los algoritmos, todo ello es producto del hombre, y lo que el hombre construye lo puede modificar, mejorar o simplemente desactivar.

No obstante ello, creo que debemos prepararnos para grandes cambios en todos lo órdenes, que esto recién empieza y que la I.A. se va a meter en nuestros hogares y en nuestra vida en forma omnipresente, por lo que ruego que no perdamos en ese proceso nuestra condición de humanos inteligente, sociables, libres, pensantes, creadores y solidarios.

Sé que no será fácil aferrarse a nuestra condición humana y sostenerla a rajatabla. El ser humano con todas sus imperfecciones tendrá la palabra final… o eso esperamos.