La acelerada irrupción de la inteligencia artificial (IA) en nuestra vida cotidiana plantea nuevos desafíos de derechos humanos. Hoy algoritmos deciden quién obtiene un crédito, un empleo o atención médica, a veces con sesgos ocultos. Estas tecnologías, a la vez que prometen progreso, pueden amplificar la discriminación y habilitar formas de vigilancia masiva antes impensables. Frente a esta realidad, Baja California necesita continuar impulsando una agenda de derechos humanos de vanguardia, una que proteja la dignidad, la privacidad y los datos personales de las personas en la era digital.
Como toda herramienta poderosa, la IA tiene un doble filo; sus beneficios son innegables pero sus riesgos también. La capacidad de la IA para procesar datos a gran escala ha desatado alertas en la comunidad internacional. Organizaciones especializadas señalan que la escala y rapidez con que se despliegan sistemas de IA, sumado a la creencia de que son “imparciales”, plantean problemas inéditos.
Publicidad
Por ejemplo, algoritmos opacos pueden incorporar sesgos que derivan en discriminación con efectos más severos para grupos en situación de mayor desventaja que hoy se deben de entender como prioritarios, incluyendo desigualdades en razón de género. Cuando estos sistemas se aplican en ámbitos como la educación, la salud o la justicia, corren el riesgo de consolidar brechas y reproducir inequidades, especialmente si no existen mecanismos claros de supervisión, transparencia y corrección.
En la economía digital, los datos personales son el nuevo oro. Cada clic, búsqueda o imagen que compartimos alimenta a la IA. La gobernanza de datos es una herramienta esencial para superar la falsa dicotomía entre tecnología y privacidad; mediante marcos claros sobre recolección, uso y resguardo de información es posible maximizar el valor de los datos sin poner en riesgo derechos. António Guterres, Secretario General de la ONU, ha advertido que la gobernanza digital debe garantizar que la tecnología sirva a las personas y no al revés, reconociendo que la privacidad es un elemento central para la legitimidad y sostenibilidad de la innovación.
Publicidad
México dio un paso clave al reconocer, desde 2009, el derecho a la protección de datos personales en su Constitución. Toda persona tiene derecho a decidir sobre el uso de sus datos; esto es, a acceder, rectificar, cancelar u oponerse al tratamiento de su información, en los términos que fije la ley. Esto no es un capricho legal sino una necesidad en tiempos donde nuestra vida física ha migrado en buena parte a lo digital. Baja California, como Estado a la vanguardia en muchos ámbitos, debe también liderar en la protección de derechos digitales.
La nueva agenda en materia de derechos humanos para nuestro Estado debe integrar explícitamente los retos de la IA y la economía de los datos. Esto implica acciones concretas y colaborativas entre gobierno, sociedad civil, academia y sector privado. A continuación, algunos ejes clave a considerar en dicha agenda:
Publicidad
Legislación proactiva: Revisar y actualizar las leyes locales, para prevenir, tipificar y sancionar abusos facilitados por IA, desde la violencia digital, como la distribución de deepfakes sin consentimiento, hasta la discriminación algorítmica. Varias iniciativas a nivel nacional ya buscan un marco jurídico que equilibre los beneficios de la IA con la protección de los derechos de la ciudadanía.
Protección robusta de datos personales: Garantizar que en Baja California se cumplan al máximo las disposiciones de protección de datos. Esto implica dotar de recursos y facultades a las nuevas autoridades garantes estatales para supervisar tanto a instituciones públicas como empresas en el manejo de datos de las y los bajacalifornianosPolíticas de ciberseguridad también son esenciales para proteger datos sensibles de brechas o ataques maliciosos.
Transparencia y rendición de cuentas algorítmica: Si se utilizan sistemas de IA en decisiones que afecten a personas, sea en programas sociales, seguridad pública o trámites, se debe informar a la ciudadanía. Los algoritmos no deben ser cajas negras intocables. Una agenda moderna exigiría transparencia.
Capacitación y ética: Incorporar enfoque de derechos humanos en la formación de personas servidoras públicas, desarrolladores y tomadores de decisión locales cuando trabajen con IA. Un marco ético claro alineado con estándares internacionales como la Recomendación sobre la Ética de la IA de UNESCO, ayudará a que la innovación tecnológica se encamine a promover la igualdad, la inclusión y el bienestar, evitando daños.
La defensa de los derechos humanos debe avanzar al mismo ritmo que la tecnología, anticipando riesgos y construyendo garantías sólidas. Baja California está en condiciones de trazar una agenda digital propia, con las personas al centro, donde la innovación se mida también por su capacidad de proteger y empoderar. Apostar por un marco normativo y ético robusto en materia de IA y protección de datos no es un lujo, es la condición para que el desarrollo tecnológico sea legítimo, sostenible e incluyente. En esta nueva era, el verdadero progreso no se contará por la velocidad de los algoritmos, sino por la certeza de que cada avance preserva lo más valioso que tenemos, nuestra dignidad humana.
Melba Adriana Olvera fue presidenta de la Comisión Estatal de Derechos Humanos en Baja California.
Correo: [email protected]
