La regulación de IA en Europa ya alcanza a tu chatbot

El 2 de agosto entraron en vigor las obligaciones de transparencia de la Ley de IA en la Unión Europea. Desde esa fecha, todo sistema que interactúe con una persona (chatbot, asistente virtual, agente o avatar) debe informarle que está hablando con inteligencia artificial.

Asimismo, todo contenido generado con inteligencia artificial debe llevar una marca legible mediante herramientas tecnológicas. Cualquier deepfake exige además que esa marca sea visible, sin necesidad de una herramienta de detección. Las herramientas que ya estaban en el mercado antes del 2 de agosto tienen hasta el 2 de diciembre para incorporarla. Las sanciones por incumplir estas obligaciones de transparencia pueden ser de hasta 15 millones de euros o 3% de la facturación global, lo que resulte mayor.

Ninguna de estas reglas obliga hoy a una empresa que solo opera en México. Sin embargo, si atiendes clientes en la Unión Europea estas obligaciones podrían aplicarte, aunque tu empresa esté constituida en México. En cualquier caso, es probable que México adopte un criterio similar en materia de transparencia una vez que cuente con un marco integral para la regulación del uso de inteligencia artificial.

México todavía no tiene una ley general de inteligencia artificial. Desde el 2023 y con el incremento en el uso masivo de herramientas como ChatGPT, se han presentado diversas iniciativas en la materia, pero ninguna ha completado el proceso legislativo. El Ejecutivo celebrará durante agosto y septiembre tres foros regionales en Nuevo León, Chiapas y Guerrero para discutir su uso por menores de edad y se espera que sus conclusiones lleguen al Congreso como parte de una nueva iniciativa.

En el Senado se ha discutido crear una Agencia Nacional de Inteligencia Artificial con facultad para imponer multas proporcionales a la infracción que se cometa. De crearse una autoridad similar a esa figura, México tendría también una autoridad administrativa con facultades para imponer sanciones específicamente en materia de IA. Con ella llegará la necesidad de demostrar qué sistemas usas, para qué y bajo qué controles.

Lo que conviene tener listo no es el resultado de una auditoría, es un registro. Los marcos de referencia que ya existen en otros países piden, en esencia, responder las mismas preguntas: qué es, para qué se usa, quién responde y cómo se supervisa. Ese registro toma semanas en construirse y es recomendable no dejarlo a la improvisación.

La pregunta que responde este ejercicio es una. Si mañana te requieren acreditar qué contenido de tu empresa fue generado con inteligencia artificial, ¿cómo lo demuestras? La respuesta intuitiva es la marca que la ley europea obliga a incrustar en el archivo. Esa marca acredita el origen de un archivo, no lo que hizo tu empresa.

La marca resuelve parte de la pregunta, no toda. Por eso el ejercicio tiene dos partes.

Primera: averigua qué marca incluye cada uno de tus proveedores principales. Con los grandes (OpenAI, Google, Anthropic, Microsoft) no tiene caso preguntarles directamente, la información está publicada en sus portales y en la documentación de sus productos. Con los proveedores locales (una agencia, el desarrollador que armó tu asistente, la aplicación que corre un modelo de frontera detrás) la pregunta puede hacerse directamente.

Segunda: crea un registro de lo que sí salió de tu empresa, qué entregable se produjo con ayuda de inteligencia artificial, con qué herramienta y quién lo aprobó.

Ahí está el vínculo entre una parte y la otra: lo que respondan tus proveedores no sustituye ese registro. Te dice qué parte de tu contenido ya viene marcado de origen y qué parte tienes que documentar tú. Esa distinción resultará importante para cumplir con una obligación que tarde o temprano llegará a nuestro país.

Samuel Campos

Arquitectura Estratégica con IA