Los modelos de negocio evolucionan constantemente y con ellos, la utilización de las soluciones tecnológicas que los sustentan. En los últimos años, las capacidades de procesar y almacenar información han crecido exponencialmente, en gran parte gracias a las soluciones cloud y a arquitecturas mixtas y distribuidas. Este hecho, unido a la necesidad de ofrecer servicios cada vez más personalizados a clientes y potenciales clientes, sitúa a la analítica de datos y la toma de decisiones automatizadas en el centro de la ecuación.
Hasta el momento, tanto gobiernos como empresas privadas y organizaciones han venido trabajando en cumplir las respectivas regulaciones y buenas prácticas relativas a la seguridad y la privacidad de los datos, pero este contexto debe ser actualizado, incorporando la revisión de dichos algoritmos desde su concepción, ofreciendo transparencia y claridad en su diseño:
A principios de este 2020, la Unión Europea hacia oficial su postura respecto a cuál debe ser la estrategia de la Unión y los Estados Miembro respecto al nuevo entorno Digital. Dentro de este marco, se detallaban una serie de acciones para vertebrar dicha estrategia, entre los que cabe destacar:
Por último, destacar también la publicación del libro blanco de la UE en relación a la inteligencia artificial, orientado a la excelencia y la confianza de estos entornos.
La interpretabilidad de los modelos analíticos es inversamente proporcional a su complejidad. Así, al ir incrementando la complejidad nos empezamos a mover desde los modelos White Box (auto explicativos) hasta el extremo opuesto, los llamados Black Box que presentan mucha dificultad interpretativa debido a su complejidad.
No siempre ha de haber una relación entre la complejidad de un modelo y la mejor precisión que los mismos alcanzan, el desarrollo de la inteligencia artificial demuestra la mejor solvencia de aquellos modelos más complejos o que refieren a técnicas de combinatoria complejas (asambleados). Precisamente el gran avance en la precisión de dichos modelos ha significado una involución en su explicabilidad.
El perfil de riesgo de los modelos marca el nivel de control requerido en cada uno de ellos para poder responder a cuestiones como la interpretabilidad de datos de entrenamiento erróneos, en que lleven a discriminación por razones de género, religión edad, etc. así como poder explicar la precisión de los modelos analíticos o las variables que más se ajusten a los resultados esperados.
Por estas razones es fundamental el poder disponer de un método, framework y herramientas para ayudar a nuestros clientes a que sus soluciones, tengan integridad, sean explicables, estén libres de prejuicio y sean ágiles y robustas, para que se usen eficientemente y se confíe en ellas a la hora de la toma de decisiones.
Esto nos permite ayudar a que se mejore el control que tienen sobre sus sistemas IA para que se obtengan los resultados de negocio esperados.
Cada vez más, las compañías están aumentando la utilización de sistemas de inteligencia artificial y de análisis avanzados. El uso de estos sistemas proporciona grandes beneficios como puede ser el incremento de la efectividad de sus operaciones o el conocimiento personalizado de sus clientes, pero también expone a la compañía a riesgos hasta ahora no gestionados, así como a una reglamentación y cumplimiento en constante evolución.
En este punto irrumpe el concepto de la ética y cómo las empresas deben ser más transparentes desde la concepción de sus servicios y soluciones, ofreciendo claridad y responsabilidad sobre los resultados e implicaciones que dichos entornos, aplicados a sus servicios, conllevan dentro de la sociedad. No es ajeno a nosotros, que las mayores polémicas surgidas en los últimos años y que han copado muchas de las portadas y abierto los principales programas de actualidad, tenían que ver con la ética en el tratamiento de los datos y las consecuencias derivadas.
Desde nuestro punto de vista, no es para nada aventurado sentenciar que, en el plazo de dos o tres años, la transparencia de las empresas a este respecto será visto como un plus de garantía para sus potenciales clientes, un sello de tratamiento ético respecto a los datos.
Llegados a este punto y entendiendo también el papel que las empresas juegan en el conjunto de la sociedad, alineándose con las directrices anteriormente comentadas de la Unión Europea, garantizar la seguridad, la privacidad y la ética de los datos debe ser un must a cubrir.
Presentado el escenario actual y con las fichas sobre la mesa, es importante empezar a trabajar en estos pilares, ya no solo porque las empresas deban estar alineadas con la estrategia de la UE o porque deban cumplir con una serie de requisitos y regulaciones (actuales o en desarrollo), sino porque entendemos que en este trabajo se encuentra la virtud en este nuevo escenario digital y que, como ha venido ocurriendo tantas otras veces en el pasado, las organizaciones que mejor logren adaptarse y desempeñarse en este contexto, además de garantizar su resiliencia, obtendrán un claro retorno de su inversión.
Deja un comentario