IA Generativa: impacto regulatorio y casos de uso para la función legal

Concretamente, el pasado 15 de junio, el Parlamento Europeo aprobó por mayoría absoluta la Propuesta de Reglamento de Inteligencia Artificial, cuyo objetivo último es establecer un marco normativo europeo que asegure un desarrollo de la IA bajo un entorno ético y legal. Este marco incluye normas de transparencia y gestión de riesgos, con el propósito de garantizar que los sistemas de IA se utilicen de manera responsable y segura, al mismo tiempo que se protegen los derechos y la privacidad de las personas.

Obligaciones legales y éticas para los proveedores de modelos fundacionales y de IA generativa

El Reglamento de Inteligencia Artificial se articula bajo un enfoque de regulación basado en el riesgo que generan los diferentes casos de uso de IA, clasificando así los sistemas de IA como prohibidos, de alto riesgo y bajo o mínimo riesgo. En este sentido, las obligaciones variarán en función de la categoría donde recaiga el sistema de IA.

En particular, tras la última actualización del Reglamento, los sistemas de Inteligencia Artificial Generativa estarían englobados dentro de la IA de propósito general, formando parte de la subcategoría de los modelos fundacionales.

Los proveedores de modelos fundacionales tendrán que cumplir determinadas obligaciones, entre las que destacan

1. Llevar a cabo una gestión de riesgos y gobernanza de los datos adecuada.
2. Diseñar y desarrollar sus modelos reduciendo el consumo de energía, el uso de recursos y los residuos.
3. Evaluar y mitigar los posibles riesgos para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho.
4. Registrar sus modelos en la base de datos de la UE antes de ser comercializados en el mercado.

Más requisitos de transparencia para la IA generativa

Asimismo, los sistemas de Inteligenica Artificial Generativa deberán cumplir con requisitos adicionales de transparencia, entre ellos:

1. Identificar el contenido que ha sido generado por IA.
2. Diseñar modelos que eviten generar contenido ilegal.
3. Publicar resúmenes detallados de los datos utilizados para entrenar el modelo protegidos por derechos de autor.

Desde una perspectiva ética, será de enorme relevancia desarrollar una hoja de ruta ética desde el diseño (ethics by design) que desemboque en políticas corporativas adecuadas, conectando así con los criterios ambientales, sociales y de gobernanza (ESG). Atendiendo a los principios desarrollados y publicados por las principales organizaciones internacionales como UNESCO o WEF, estos serían: Agencia y supervisión humana, Solidez y seguridad técnica, Privacidad y gobernanza de datos, Transparencia, Diversidad, no discriminación y justicia, Bienestar social y medioambiental, y Responsabilidad.

En este sentido, actualmente, numerosas organizaciones y empresas están trabajando en la creación de “Políticas de IA Confiable y Responsable” y “Hojas de Ruta de Cumplimiento Proactivo” como medidas clave para mejorar la gestión de los riesgos legales y éticos asociados a la inteligencia artificial.

Casos de uso para el sector legal

Más allá de las implicaciones legales que tienen estos sistemas, cabe destacar que la Inteligencia Artificial Generativa tiene múltiples aplicaciones prácticas en el sector legal. Por ejemplo, los departamentos legales pueden utilizar modelos de IA generativa, como GPT u otros, para analizar documentos y extraer información relevante, resumir el contenido de textos normativos, o automatizar tareas rutinarias como la redacción de contratos o respuestas a consultas legales frecuentes. Además, la Inteligencia Artificial Generativa también puede ser utilizada para analizar grandes cantidades de datos legales, identificar patrones y tendencias, y predecir resultados legales en base a precedentes históricos.

En definitiva, si se implementa correctamente, la IA generativa tiene el potencial de mejorar la eficiencia y la calidad del trabajo legal, liberando a los profesionales de tareas repetitivas y permitiéndoles centrarse en la toma de decisiones estratégicas.

Desafíos legales y éticos 

Sin embargo, también plantea desafíos legales y éticos, como la responsabilidad y la transparencia en la toma de decisiones basadas en la IA. A medida que la IA continúa avanzando, es crucial que los profesionales del ámbito legal y los organismos reguladores sigan de cerca su desarrollo ya que es necesario adaptar y establecer marcos legales adecuados para abordar los desafíos y garantizar que se utilice de manera sostenible y segura para el mercado.

Sin duda, la función legal desempeña un papel fundamental en el éxito y la evolución de la IA, lo que brinda una valiosa oportunidad para respaldar la innovación y la transformación digital de las organizaciones. Al utilizar la legislación como aliado competitivo, se pueden establecer bases sólidas para aprovechar al máximo el potencial de la tecnología y promover un entorno legal favorable que fomente la adopción y el desarrollo seguro de la IA.