Frente a estos cambios a nuestro mundo, surgen muchos miedos y preocupaciones que podemos consolidar en al menos dos grandes preguntas: En “Algoritmolandia,” ¿será posible coexistir de una manera digna con los robots? y ¿podemos confiar en los algoritmos que harán decisiones sobre nuestras vidas?

Para mitigar los riesgos éticos de la inteligencia artificial, tenemos que tomar un rol más activo en su desarrollo

Responder a estos desafíos es posible a partir de un humanismo tecnológico que ponga a las personas como núcleo de los esfuerzos. Aunque suene paradójico: si desea poner al ser humano en el centro de las preocupaciones relacionadas con la inteligencia artificial en nuestras vidas, América Latina y el Caribe (ALC) no pueden dejar de diseñar una política de los robots que guíe su desarrollo de una manera competitiva, rigorosa y a la vez, holística. Esto sirve para minimizar las brechas no solamente entre humano y máquina, sino también entre persona y persona.

Aunque parezcan científicos y objetivos, los algoritmos están impregnados de subjetividad. La lógica de los algoritmos es inductiva. Analizan información pasada y sobre ella hacen predicciones, corriendo el riesgo de mantener el statu quo. ¿Son las enormes inequidades, los prejuicios y las desigualdades de género un estado que quisiéramos perpetuar? Claramente, no.

Por eso es importante que, desde América Latina y el Caribe, participemos en espacios de diálogo multilaterales que garanticen la gobernanza de una IA inclusiva en la región y en el mundo, y que formulemos estrategias que toman en cuenta los riesgos éticos de inteligencia artificial articulados. Actualmente existen múltiples manifiestos con más de 12.000 firmas de científicos, emprendedores y expertos mundiales que advierten los riesgos diversos de dejar decisiones libradas a procesos autónomos sin una adecuada supervisión. Estos son algunos ejemplos que buscan sentar las bases éticas para que la IA no acentúe las desigualdades:

“La tecnología no puede estar por encima nuestro”

El Instituto de Ingeniería Eléctrica y Electrónica (IEEE, por sus siglas en inglés) publicó un manifiesto con principios éticos para evitar que los sistemas autónomos no violen derechos humanos básicos ni produzcan tampoco daños al ambiente. La llamada “Carta de Copenhague”, suscripta por prestigiosos científicos, invita a compartir una visión de progreso que trascienda al concepto de innovación recordando que el ser humano debe estar en el corazón de cualquier acción tecnológica. “La tecnología no puede estar por encima nuestro”, subraya el texto.

En el mismo sentido se expresaron los manifiestos éticos difundidos por el Future of Humanity Institute, de la Universidad de Oxford, y por Future of Society, que cuenta con el apoyo de Harvard, que señalan los riesgos de aplicaciones militares de IA y abogan por una gobernanza global que brinde un marco ético.

“Aseguremos que los sistemas de IA cada vez más capaces a la vez sean más robustos y beneficiosos”

La Carta Abierta del Future of Life Institute fue firmada, entre otros, por Stephen Hawking, y propone promover estudios interdisciplinarios en IA porque su penetración social tendrá enormes impactos legales, económicos, sociales, filosóficos. Destaca la necesidad de desarrollar sistemas “robustos” o resilientes en temas de confianza y ciberseguridad. La mirada precisa ser holística.

“Deberíamos desarrollar métodos que detecten y corrijan los errores y sesgos, en vez de que se repliquen”

El sector privado tampoco tomó una actitud pasiva. Los gigantes tecnológicos IBM, Amazon, Facebook, Google, DeepMind y Microsoft crearon el Consorcio de IA al Beneficio de las Personas y la Sociedad (Partnership on AI to Benefit People and Society). Sus objetivos son empoderar a la mayor cantidad de gente en el uso de herramientas de IA y participar en el debate sobre sus consecuencias legales, éticas, sociales y económicas. Surgen entonces profundos dilemas relacionados a los derechos humanos, a la privacidad, y a la representación.

“Proporcionemos espacio para que las personas expresen sus preocupaciones y experiencias con el sesgo codificado”

Hay un proyecto en el laboratorio de medios del MIT (Media Lab) llamado Liga de la Justicia Algorítmica, que está comprometido con la justicia, la responsabilidad y la transparencia de los sistemas codificados. Este proyecto fue creado por la investigadora Joy Buolamwini, quién descubrió que las tecnologías de reconocimiento facial no eran capaces de detectar a su cara, supuestamente porque el desarrollo de esta tecnología no había tomado en cuenta datos para reconocer a las personas Afrodescendientes.

Como el presidente del MIT, Rafael Reif reflexiona sobre esta iniciativa, “Resulta crucial que los tecnólogos inviten a sus colegas a colaborar desde el inicio de la fase de diseño, no una vez que el producto ya está casi terminado. Cuanto más podamos unir a investigadores que reflejen toda la diversidad de la experiencia humana, más chances tendremos de minimizar los sesgos.”

Una oportunidad de fortalecer nuestros valores como humanos

La articulación de consensos es el arma más eficaz para combatir los nuevos riesgos que acompañan a la IA, a los que se suman riesgos de control, riesgos sociales, económicos y éticos que urge minimizar. Los algoritmos nos ponen a prueba y nos desafían a mejorar nuestros propios valores, evitando ser sesgados cuando interrogamos las fórmulas. Depende de nosotros crear las nuevas reglas de la cobotización, cánones más amplios para que los humanos no sean dañados en su dignidad con la pérdida de empleos. Los algoritmos pueden tomar decisiones desde sus cajas negras o facilitar el acceso a bienes y servicios de mayor calidad. Para evitar lo primero y estimular lo segundo, tenemos que ordenarnos sobre una base de criterios de calidad, confiabilidad, acceso y transparencia.

América Latina debe apoyarse en el factor humano, en el talento, la pasión, el trabajo en equipo, la creatividad y todas las virtudes donde somos superiores a las máquinas. No podemos medir nuestros éxitos y fracasos solo en términos de productividad ni maravillarnos por gadgets ingeniosos si los dividendos digitales no se encauzan para hacernos mejores como individuos, si la tecnología no se traduce en políticas públicas aptas para mejorar la vida de las grandes mayorías.

 Por Gustavo Beliz, Director del Instituto para la Integración de América Latina y el Caribe (INTAL) del BID 

Gustavo Beliz

Director del Instituto para la Integración de América Latina y el Caribe (INTAL) del Banco Interamericano de Desarrollo (BID). En Argentina fue Ministro del Interior, Ministro de Justicia, Seguridad y Derechos Humanos, Presidente del Instituto Nacional de la Administración Pública, Secretario de la Función Pública y Diputado de la Ciudad Autónoma de Buenos Aires, entre otros cargos relevantes. Es abogado (Universidad de Buenos Aires) y cursó estudios de posgrado en la London School of Economics (LSE).

Autor

BID

Banco Interamericano de Desarrollo (BID). Trabajamos para mejorar la calidad de vida en América Latina y el Caribe. Ayudamos a mejorar la salud, la educación y la infraestructura a través del apoyo financiero y técnico a los países que trabajan para reducir la pobreza y la desigualdad. Nuestro objetivo es alcanzar el desarrollo de una manera sostenible y respetuosa con el clima. Con una historia que se remonta a 1959, hoy somos la principal fuente de financiamiento para el desarrollo para América Latina y el Caribe.