En esta semana, ha nacido el Comité de Ética y Regulación de la Inteligencia Artificial en la Industria Audiovisual en México a la par de la declaración presentada en el Congreso Mundial sobre Inteligencia Artificial, celebrada en China, donde se destacó la relevancia de un desarrollo ético y responsable de la inteligencia artificial, mientras que se respalda su uso para fortalecer las capacidades de los países en desarrollo.

Desde China, el primer ministro chino, Li Qiang puso sobre la mesa los retos nuevos en ámbitos como el derecho, la seguridad, el empleo y la ética, advirtiendo que los riesgos asociados a la inteligencia artificial van desde la filtración de datos y la violación de la privacidad y los derechos de autor hasta la desinformación y problemas éticos como la parcialidad y la discriminación.

El escándalo de asistencia infantil en Holanda

Esa realidad nos rebasó: en Países Bajos ya se vivió la discriminación racial por el uso de inteligencia artificial. Resulta que al momento de implementar un programa social de ayuda económica para familias de bajos ingresos que tuvieran bebés a su cargo, un software excluyó del acceso al programa a cualquier persona que no tuviera piel blanca, ojos claros y cabello lacio, pues en su algoritmo determinó que rasgos opuestos como piel morena, ojos oscuros y cabello rizado o afro eran características propias de migrantes, en tanto que el programa era tan sólo para holandeses, ciudadanos con esa nacionalidad, sin embargo fueron excluidos otros residentes que viven legalmente en ese lugar pero que no encajaban físicamente con el estereotipo hegemónico.

El escándalo fue tan grande que, en enero de 2021, el gobierno holandés renunció tras el escándalo de las prestaciones infantiles, que involucraba la elaboración de perfiles de riesgo algorítmicos de los beneficiarios en función de su nacionalidad. Aquí fue analizado el caso: https://www.youtube.com/watch?v=fBwn29-BQFQ

El perfilado racial no solo es violatorio a derechos fundamentales, sino que implica un criterio de exclusión en el que aquel sistema detectaba de forma racista a potenciales cometedores de fraude, o sea, ese programa podía implicar sanciones administrativas y penales tan sólo por un criterio racial identificado por el algoritmo de la inteligencia artificial.

Los esfuerzos industriales en México

En México, existen varias iniciativas de ley en torno a la inteligencia artificial pero aún no existe alguna legislación aprobada que establezca reglas claras. Eso implica que tanto para las empresas de tecnología como para los usuarios no haya reglas claras sobre los límites en el uso de estas herramientas. La justicia ha abordado únicamente el uso indebido de fotografías para crear contenido íntimo sin consentimiento, caso en el que un estudiante del Instituto Politécnico Nacional fue detenido por tomar imágenes de redes sociales de sus compañeras y alterarlas para colocarlas en venta.

Sin embargo, la industria audiovisual ha dado un paso al constituir oficialmente el Comité de Ética y Regulación de la Inteligencia Artificial en la Industria Audiovisual. Este comité tiene como objetivo principal el promover el uso ético y responsable de la inteligencia artificial en la industria audiovisual mediante la regulación, certificación, asesoría y capacitación.

En el caso de la industria audiovisual, la inteligencia artificial tiene aplicaciones fundamentales en las distintas fases de la producción audiovisual, tanto por las oportunidades, acompañadas de los riesgos que significan las distintas herramientas existentes.

Los fundadores de este comité señalan que a pesar de que se han propuesto regulaciones genéricas para la inteligencia artificial, estas resultan insuficientes para abordar las particularidades y desafíos específicos de la industria audiovisual. Por ello, este esfuerzo nace directamente de la propia industria, con el fin de desarrollar un marco regulatorio y ético que responda adecuadamente a sus necesidades y realidades.

El comité se enfocará en tres objetivos fundamentales para la creación de un marco ético y regulatorio robusto que pueda contemplar:

Estándares de industria: desarrollar estándares que favorezcan el uso responsable y ético de la inteligencia artificial en todas las fases y los miembros que participan en la producción audiovisual. Mismos que buscarán ser incluidos en la legislación.

Cláusulas para la industria: proponer y promover cláusulas contractuales que puedan ser adoptadas en las relaciones comerciales de la industria.

Códigos de ética: establecer códigos de ética claros y comprensibles que busquen maximizar los aspectos positivos del uso de la inteligencia artificial en la industria.

Este comité está presidido por Enrique Figueroa Anaya y se integra por Wario Duckerman, director del eje de inteligencia artificial, Xavier Careaga, abogado, director del eje de regulación, Julia Muñoz, directora del eje de ética, Claudia Del Castillo y Alberto Cohen, directores de relaciones públicas y manejo de prensa así como Arturo González, director de contactos y alianzas.

México podría incorporar elementos también de la propuesta china de regulación mundial de la inteligencia artificial que reconoce a la colaboración internacional como el mejor enfoque para lograr un equilibrio entre el ritmo de innovación de la inteligencia artificial y la necesidad de un desarrollo compartido.

Este esfuerzo incluye proyectos como la Iniciativa Global para la Gobernanza de la Inteligencia Artificial, lanzada por el país, así como una resolución adoptada por unanimidad en la 78 Asamblea General de la ONU para mejorar la cooperación internacional en el desarrollo de capacidades de inteligencia artificial.

X: @ifridaita