La incorporación de inteligencia artificial (IA) en el ámbito público en México ha experimentado un notable aumento en tiempos recientes. No obstante, este progreso tecnológico ha venido con inquietudes sobre la claridad y la responsabilidad en su aplicación dentro de las entidades del gobierno.
La implementación de la inteligencia artificial (IA) en el sector público mexicano ha crecido significativamente en los últimos años. Sin embargo, este avance tecnológico ha estado acompañado de preocupaciones relacionadas con la transparencia y la rendición de cuentas en su uso por parte de las instituciones gubernamentales.
Panorama actual de la IA en el sector público mexicano
Retos en la claridad y disponibilidad de la información
Con el objetivo de promover la transparencia, académicos del CIDE elaboraron un registro de los algoritmos empleados por el sector público en México. Este proyecto tiene como finalidad documentar las aplicaciones de IA en distintas entidades y señalar los obstáculos para acceder a información crucial sobre su uso, regulación y objetivos. Durante la fase de recolección de datos, se enviaron alrededor de 2,200 solicitudes de transparencia a organismos públicos. No obstante, numerosas dependencias mostraron resistencia al proporcionar información o contestaron de manera vaga. En algunas situaciones, las instituciones solo admitieron el uso de IA tras la presentación de recursos de revisión frente a los órganos de transparencia. Estados como el Estado de México y Nayarit sobresalieron por su falta de respuesta general.
Para fomentar la transparencia, académicos del CIDE desarrollaron un registro de algoritmos utilizados por el sector público en México. Este proyecto busca documentar las aplicaciones de IA presentes en diversas dependencias y resaltar los desafíos para acceder a información clave sobre su uso, regulación y objetivos. Durante la recopilación de datos, se enviaron aproximadamente 2,200 solicitudes de transparencia a entidades públicas. Sin embargo, muchas dependencias fueron renuentes a proporcionar información o respondieron de manera imprecisa. En algunos casos, las instituciones solo reconocieron el uso de IA tras presentar recursos de revisión ante los organismos de transparencia. Estados como el Estado de México y Nayarit destacaron por su falta de respuesta generalizada.
Desinformación y falta de comprensión sobre la IA
Aspectos éticos y peligros relacionados con el uso de la IA
El empleo de IA en el ámbito público ha dado pie a discusiones éticas relacionadas con la privacidad, la transparencia, la rendición de cuentas y el derecho al acceso a la información. La falta de claridad en los algoritmos puede minar la confianza de los ciudadanos en estas herramientas, especialmente si no se conocen los criterios que guían su funcionamiento o si existen sesgos que podrían desembocar en decisiones discriminatorias. Por ejemplo, durante la pandemia de COVID-19, se adoptaron chatbots como «Susana Distancia» y «Dr. Armando Vaccuno» para proporcionar información a la población. No obstante, surgieron inquietudes éticas sobre la transparencia y privacidad en su implementación, lo que resultó en una baja confianza y menor uso por parte de la población.
El uso de IA en el sector público también ha generado debates éticos relacionados con la privacidad, la transparencia, la rendición de cuentas y el derecho de acceso a la información. La opacidad en los algoritmos puede afectar la confianza de la ciudadanía en estas herramientas, especialmente si no se conocen los criterios bajo los cuales operan o si existen sesgos que puedan conducir a decisiones discriminatorias. Por ejemplo, durante la pandemia de COVID-19, se implementaron chatbots como «Susana Distancia» y «Dr. Armando Vaccuno» para informar a la población. Sin embargo, surgieron preocupaciones éticas sobre la transparencia y la privacidad en su uso, lo que llevó a una baja confianza y uso por parte de la ciudadanía.
Necesidad de un marco regulatorio adecuado
La falta de transparencia en el uso de IA por parte de los gobiernos resalta la necesidad de establecer marcos regulatorios que garanticen la auditabilidad y responsabilidad en el uso de estas tecnologías. Es esencial analizar las legislaciones en diferentes ámbitos e identificar cómo podrían ser utilizadas adecuadamente para garantizar que la implementación de IA respete los derechos de la ciudadanía y opere de manera ética y transparente.