Tras el caso Zárate, el gobierno bonaerense impuso una normativa rígida que obliga a registrar, auditar y limitar el uso de IA.
La Provincia de Buenos Aires aprobó un marco obligatorio para regular el uso de la Inteligencia Artificial. La medida llega días después del caso Zárate, donde el municipio designó a un chatbot —“ZARA”— como Directora General de Atención al Vecino.
Matzkin manifestó en su red social X: “No solo apostamos a la I.A. para la promoción industrial, si no que confiamos en esta tecnología para mejorar cada ámbito de la gestión y de nuestra ciudad.”
Esto generó un fuerte debate público y Kicillof respondió con una resolución publicada en el Boletín Oficial que impone controles estrictos en toda la administración provincial.
La normativa abarca “el desarrollo, elaboración, investigación, innovación, contratación, adquisición, uso y/o despliegue” de IA. Según la Subsecretaría de Gobierno Digital, todos los organismos deberán cumplir con requisitos obligatorios de seguridad, transparencia, equidad, sustentabilidad y supervisión humana.
No es una guía ni una recomendación. Se trata de un régimen auditable con sanciones en caso de incumplimiento.
Esquema de riesgo
La resolución adopta un sistema de clasificación inspirado en el AI Act de la Unión Europea. Establece cuatro categorías: riesgo inaceptable, alto, limitado y nulo.
Lo particular es que los sistemas de riesgo inaceptable quedan directamente prohibidos en la Provincia de Buenos Aires. Allí se incluyen los que puedan afectar la seguridad, la salud, los derechos fundamentales o el “orden constitucional-democrático”.
El texto también prohíbe los sistemas que realicen “clasificación y/o scoring social”. Esto incluye cualquier mecanismo de evaluación automatizada del comportamiento ciudadano para condicionar beneficios, reputación o acceso a servicios públicos.
En la categoría de alto riesgo se ubican los sistemas de identificación biométrica, los que gestionan infraestructura crítica y los utilizados en educación, justicia y administración pública. Para todos ellos se exigirá una evaluación de impacto algorítmico previa.
Los sistemas de riesgo limitado —como chatbots o asistentes automáticos— deberán informar explícitamente a los ciudadanos cuando están interactuando con una máquina. Los de riesgo nulo, como filtros de spam, deben cumplir buenas prácticas técnicas.
Obligaciones, registros y supervisión permanente
El Estado deberá controlar toda la vida útil de cada sistema de IA. Los organismos públicos estarán obligados a realizar evaluaciones preliminares de riesgo, aplicar estrategias de gestión periódicas y “documentar cualquier sesgo o discriminación”.
Además, deberán asegurar la conservación de datos “el tiempo suficiente” para permitir auditorías.
Cuando haya tratamiento de datos personales, será obligatorio contar con “consentimiento libre, expreso, previo, inequívoco, específico e informado”. Si existe interacción con la ciudadanía, el Gobierno deberá advertir desde el inicio que la respuesta proviene de un sistema automatizado.
Otro punto clave es el registro obligatorio. Cada organismo deberá inscribir sus sistemas de IA en un padrón provincial administrado por la Subsecretaría de Gobierno Digital.
La normativa incorpora un criterio ambiental inédito. Exige que los sistemas de IA sean “sostenibles y sustentables” y ordena tomar medidas para evitar daños ecológicos. Esto incluye el consumo energético, la huella de carbono y el uso de recursos asociados al entrenamiento de modelos.
Un freno al desarrollo antes de que empiece
La normativa implica una intervención feroz sobre una tecnología que podría reducir costos, agilizar trámites y modernizar la administración pública. Sin embargo, el gobierno bonaerense eligió imponer controles rígidos y regulaciones previas a que explote el desarrollo.
La provincia crea un esquema restrictivo que limita la innovación, aumenta la burocracia y coloca a los organismos bajo amenaza de sanciones.
En un momento en el que la IA avanza en todo el mundo, la regulación de Kicillof aparece como un freno que condiciona su adopción en el sector público y privado. La herramienta que podría mejorar la eficiencia estatal y abrir nuevas oportunidades productivas queda ahora sujeta a un marco que desalienta su uso desde el primer día.
Derechadiario.com
