Corrupción e inteligencia artificial
La sustitución de lo humano y la amenaza de un mundo hípertecnológico que profundiza las desigualdades, son dos de las alertas que lanzó la semana pasada el panel científico internacional independiente sobre Inteligencia Artificial (IA) de la Organización de las Naciones Unidas. El avance acelerado de esta tecnología supera la capacidad social de respuesta. Mientras se abren oportunidades para mejorar la educación, los diagnósticos en salud, la precisión en intervenciones quirúrgicas y la seguridad pública, se amplía la desigualdad. El 85% de las herramientas de IA es propiedad de empresas de Estados Unidos y China. En contraste, el sur global es un simple consumidor y el 25% de la población mundial carece de acceso a internet.
En combate a la corrupción, la automatización de pagos, trámites y servicios, la IA ha limitado lo que se conoce como “corrupción de ventanilla” —es decir, los sobornos o mordidas en pagos de trámites y servicios—. Incluso ha permitido la creación de herramientas como Alice, el robot brasileño diseñado por la Contraloría General de la Unión de ese país para monitorear procesos de compras públicas y contratos. Según un informe de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), sólo entre 2019 y 2022, Alice detonó 203 auditorías que suspendieron licitaciones sospechosas por un monto equivalente a mil 750 millones de dólares.
Activo desde 2017, el sistema PREVENT de la Agencia de Integridad Nacional de Rumania, analizó más de 117 mil procesos de compra pública y emitió 197 alertas por potenciales conflictos de interés. Desde el 2006, la Comisión de Comercio Justo de Corea desarrolló el Sistema de análisis de indicadores de manipulación de licitaciones (BRIAS por sus siglas en inglés) que analiza anomalías en el registro de compañías, precios y perfiles empresariales en licitaciones públicas.
Estos avances contrastan con nuevos dilemas: el primero es la calidad de los datos. La tendencia a confiar ciegamente en los resultados “neutrales” de los sistemas evita reconocer sesgos en su programación. El caso más citado es el sistema de contrataciones de personal de Amazon, cuyo algoritmo excluía sistemáticamente a mujeres y a personas racializadas.
Otro riesgo es el de la “captura algorítmica”: que funcionarios manipulen los datos para favorecer intereses particulares.
Finalmente, está la vulneración de derechos humanos. El panel de expertos lo señala en su informe: las asimetrías de información entre los ciudadanos —cuya comprensión avanza a un ritmo más lento que el del mercado— y la falta de rendición de cuentas sobre las consecuencias del uso de la IA, abre la puerta a la vulneración de derechos fundamentales. El poder de gestión de la IA en pocas manos puede propiciar el “dividendo del mentiroso”: la ventaja que obtiene, por ejemplo, un gobierno al falsificar datos, suplantar imágenes, y distorsionar la realidad. Esto se ha documentado en contextos electorales, al inhibir el voto o trastocar la equidad de la contienda.
En el siguiente periodo de sesiones se discutirá en la Cámara de diputados una regulación sobre IA en México. De 2022 a la fecha, se han presentado al menos 169 iniciativas en la materia. La cuestión es si prevalecerán los mejores estándares y si se adaptarán a la realidad de las instituciones mexicanas.
