Luz verde definitiva al Reglamento de IA: próximos pasos y recomendaciones
Su objetivo es prever un marco jurídico uniforme en UE para el adecuado desarrollo de la IA.
23 mayo, 2024
11 min
La regulación y la innovación no siempre han ido a la par. Sin embargo, este binomio ha dado un giro de 180º en los últimos años. Conscientes de que los avances tecnológicos son imparables y cada vez más frecuentes y que, por ello, establecer unas reglas comunes para todos es imprescindible, normas como el Reglamento europeo de IA empiezan a adoptar la flexibilidad que la innovación tecnológica necesita. Un cambio que también se está trasladando a los departamentos legales de las compañías, área que se ha convertido en aliada estratégica de las transformaciones.
El último, y mejor ejemplo de todo ello ha sido la reacción, tanto del regulador como de las compañías, a la democratización del uso de la inteligencia artificial. Si hace unos años esta tecnología era accesible a grandes compañías y requería unos conocimientos concretos, en el último año la irrupción de la IA generativa ha permitido su acceso a toda la población. Sin embargo, las organizaciones tienen la responsabilidad y obligación de garantizar su uso de forma ética y segura, lo que está suponiendo un despliegue de recursos que se realiza con cautela. Así lo pone de manifiesto el informe ‘Perspectivas España 2024: Inteligencia Artificial y Digitalización’, elaborado por KPMG en colaboración con CEOE, del que se desprende que un 17% de los empresarios españoles han incorporado ya esta tecnología en sus procesos, mientras que un 37% prevé hacerlo a lo largo de este ejercicio.
“Sin duda, esta apuesta decidida del tejido empresarial de incorporar la IA y la IA generativa en sus procesos va a ayudar a todas las organizaciones a entender mejor qué hacen otros equipos, a transformarse de manera más integradora y a situar en un papel protagonista a los equipos legales, que, aunque normalmente se han puesto de lado en el mundo de la transformación, ahora hemos abrazado la IA porque nos resulta intuitiva, porque es una tecnología del lenguaje”, comentó Noemí Brito, socia en el área Mercantil. Responsable del área de Propiedad Intelectual y Nuevas Tecnologías en KPMG Abogados, en el segundo encuentro del ciclo de diálogos ‘A prueba de inteligencia artificial’, organizados por El Economista y KPMG.
Un diálogo en el que intercambió reflexiones y experiencias con Pablo Blanco, director general de Asuntos Legales de Repsol y secretario general de su Consejo de Administración, quien hizo hincapié en la necesidad de “perderle el miedo” a la inteligencia artificial. “Hoy es imprescindible saber cómo formular la pregunta a la herramienta de IA generativa para que nos sepa responder, los conocidos prompts. Pero la tecnología evolucionará y será capaz de contestarnos, da igual cómo formulemos la pregunta. Y, para eso, debemos estar ahí desde ya, evolucionando con ella. Porque aún estamos en una fase de aprendizaje”.
Y, en ese proceso de aprendizaje, era fundamental contar con unas ‘reglas de juego’ comunes para todos ante una tecnología que se preveía lo cambiaría todo: la forma de trabajar, de relacionarse, de consumir y hasta de comunicarse. Así, la Unión Europea recogió el guante y en mayo de este año el Consejo de la UE aprobaba definitivamente el Reglamento de Inteligencia Artificial, convirtiéndose en la primera región del mundo en contar con un marco jurídico transversal y uniforme para el desarrollo confiable de la inteligencia artificial (IA).
Para Noemí Brito, esta norma establece una visión muy clara de lo que quiere la Unión Europea y de sus valores. Concretamente, establece dos grandes puntos: por un lado, una clasificación de riesgos de los sistemas de IA. Y, por otro, la posición que cada organización tiene en cuanto a su relación con los sistemas de IA. Así, “la gobernanza de la IA depende de ambas cuestiones. Porque, según seamos desplegadores, fabricantes o proveedores de esta tecnología, tendremos unas obligaciones diferentes en cada caso. Y los riesgos se suman al rol de cada compañía. Es por ello que hay una reflexión que debe hacerse de base: qué hago yo en torno a la IA, y qué tipo de sistema utilizo”, explicó.
Partiendo de esa base, las compañías que se han sumergido ya en el proceso de integrar esta tecnología o aquellas que están a punto de hacerlo, deben conocerla previamente y, sobre todo, familiarizarse con las implicaciones y casos de uso que tendrá en su organización en concreto. Para ello, “hay que explorar con cabeza y definir los casos de uso específicos y desarrollarlos con los equipos apropiados. Porque lo legales sabemos de nuestro negociado, pero para este tipo de proyectos, debemos conocer la tecnología y, para ello, debemos trabajar en equipos multidisciplinares”, aseguró Noemí Brito.
Si bien Europa sea la primera jurisdicción en regular de manera uniforme la IA, esto plantea una problemática en cuanto a que, a nivel global, no existe una norma similar. Con ello, organizaciones internacionales que operan en diferentes mercados, se enfrentar al reto de gobernar una tecnología que tendrá diferentes requisitos y obligaciones en diferentes países.
Así, al ser preguntado sobre si la ley se convertirá o no en aliada competitiva del sector, Pablo Blanco respondió con cautela: “Es difícil contestar ahora si favorece o no la competitividad. Primero debemos ver qué legislación toman otros países. Aunque sí que hay principios que deberán ser comunes y que hasta se pueden considerar deontológicos. En primer lugar, el principio de transparencia, porque si hablas con una herramienta de IA, tienes que hacerle saber al usuario que está hablando con una. Al igual que el principio de explicabilidad, es decir, qué grado de explicación necesitas aportar en un juicio para poder valorar la prueba. Y, por otro lado, en el asesoramiento dentro del mundo jurídico, cuando empleas este tipo de herramientas como base para construir ese asesoramiento, siempre debe haber un sistema de revisión humana, lo diga la norma o no”.
Pero si hay algo fundamental en toda transformación, sin importar su naturaleza, son las personas que la hacen realidad. Y esta no iba a ser ninguna excepción. Contar con personas formadas y con habilidades para liderarla es imprescindible y, por ello, el perfil de abogado que requieren las organizaciones hoy ha cambiado sustancialmente. “En términos generales, se incorporan perfiles más de operativa legal o de gestión. Ha habido una pequeña reinvención en estos roles y ahora buscamos perfiles transversales porque, aunque trabajen en un área concreta, necesitamos que puedan hablar con otras y eso aporta una riqueza brutal”, apuntó Noemí Brito.
Coincidió con ella Pablo Blanco, que añadió que ahora buscan un perfil digital de abogado, que tenga conocimiento de data analytics y de herramientas digitales más avanzadas. Es decir, un perfil más versátil, porque convivimos con IA y con los datos. “Si me preguntan, yo quiero abogados, no gestores de despachos, pero abogados que sean versátiles, que entiendan el lenguaje financiero, el digital que tengan soft skills, etc. Por supuesto, hace falta un upskilling, pero, en mi experiencia, la gente quiere abrazar lo nuevo y, cuando lo hacen, gusta y motiva”, apuntó.
Son las personas las que deben ayudar a garantizar una gobernanza de la IA que dé tranquilidad y seguridad a quienes trabajan con ella. Un aspecto cada vez más relevante: la preocupación por la gobernanza de los sistemas de IA ha aumentado en un 43% en cuestión de tres meses en las organizaciones, según datos de KPMG. Sin embargo, además del ‘cómo’, también es importante el ‘cuándo’. Y es que, para Pablo Blanco, el reto es la agilidad. Porque “tienes que tener la gobernanza del dato, pero la metodología que implantes impacta en tu operativa y eso puede afectar a la velocidad con la que operas”.
En definitiva, es posible que la revolución de la IA sea la primera de muchas y las áreas legales han adoptado una actitud proactiva que las ha posicionado como parte estratégica de las mismas, haciéndose necesarias desde el diseño del producto y/o servicio. Esa es la clave que hará que el avance en la innovación no solo sea más rápido sino, sobre todo, más seguro y sólido.
Deja un comentario