Reglamento Europeo sobre Inteligencia Artificial
El pasado 22 de octubre, tuvo lugar en el MIL el evento “Reglamento Europeo sobre Inteligencia Artificial”. Este encuentro fue una oportunidad única para profundizar en las normativas emergentes sobre IA y descubrir soluciones tecnológicas que facilitarán el cumplimiento de estas regulaciones. Tuvimos el honor de contar con la presencia de tres destacados expertos quienes nos presentaron valiosos insights sobre los retos y oportunidades que plantea esta nueva era de la inteligencia artificial.
Desafíos y paradojas de la Inteligencia Artificial
Eduardo Gamero, catedrático de Derecho Administrativo en la UPO y consejero en Montero Aramburu & Gómez-Villares Atencia Abogados, comenzó la sesión ofreciendo una visión completa del reglamento europeo sobre Inteligencia Artificial (IA), destacando los pasos necesarios tanto en el sector público como en el privado para adaptarse a este marco. Resaltó las paradojas de la IA y cómo está transformando la sociedad, así como sus ventajas y riesgos. Subrayó que los empresarios están cada vez más preocupados por cómo adaptar sus modelos de negocio a la nueva realidad digital. Expresó que la IA es comparable a una «bomba atómica digital» por su impacto potencial en los derechos humanos, y señaló algunos ejemplos de tribunales que han bloqueado sistemas que emplean IA, como en Italia y Holanda.
También destacó tres derechos fundamentales que se ven afectados por la IA: la protección de datos, el derecho a la igualdad y el derecho a la defensa. Finalmente, mencionó como los objetivos del reglamento incluyen proporcionar seguridad jurídica y proteger los valores de la UE, a través de un enfoque basado en riesgos con un sistema de «semáforo» (rojo: prohibido, ámbar: tomar cautela, verde: no genera riesgo).
Clasificando los riesgos de los sistemas de IA
Por su parte, Álvaro Ramos, director de Nuevas Tecnologías y delegado de Protección de Datos en ClarkeModet, destacó la creciente autonomía e influencia de los sistemas de inteligencia artificial en las decisiones humanas, centrándose en su clasificación según el nivel de riesgo, un aspecto clave del nuevo marco legal europeo. Para ello, identificó cuatro categorías de riesgo:
1. Sistemas prohibidos, que utilizan técnicas de puntuación social o categorización biométrica, violando derechos fundamentales.
2. Sistemas de alto riesgo, que afectan productos de seguridad, como juguetes y vehículos, donde un fallo puede tener consecuencias graves.
3. Sistemas de riesgo sistémico, que pueden generar riesgos sociales más amplios, como en algoritmos de predicción en justicia o empleo.
4. Sistemas sin riesgo, que operan en contextos seguros, como aplicaciones de entretenimiento.
También subrayó la importancia de la transparencia, la gobernanza de datos y el cumplimiento de normativas de ciberseguridad para los sistemas de alto riesgo.
Álvaro Ramos concluyó su ponencia enfatizando que un software de IA debe cumplir con ciertos requisitos técnicos para ser patentable y que los desarrolladores deben proteger los secretos empresariales. Esta categorización resulta fundamental para enfrentar los desafíos éticos y legales asociados al desarrollo de la inteligencia artificial.
Serenity Compliance: la clave para el aseguramiento del cumplimiento normativo
Por último, Lorenzo Serratosa, presidente de Substrate AI y CEO de Subgen AI, comenzó recalcando la importancia del cumplimiento normativo en la implementación de la inteligencia artificial. Comparó el estado actual de la IA con los inicios del teléfono, observando que, aunque muchas empresas integran la IA en sus operaciones diarias, pocas realizan inversiones significativas en esta tecnología. Además, identificó el cumplimiento normativo como el principal obstáculo para la escalabilidad de la IA y presentó su plataforma, “Serenity Compliance”, como una solución efectiva para ayudar a las empresas a adherirse a las regulaciones vigentes.
Serenity Compliance permite a las organizaciones optimizar y estandarizar su documentación legal, asegurando así el cumplimiento normativo y facilitando la adopción global de la IA. Como ejemplo de su efectividad, mencionó el caso de la empresa Charles Taylor, que utiliza esta herramienta, garantizando que las aplicaciones de IA se alineen con las políticas empresariales. Esta plataforma se posiciona como un aliado estratégico en la transición hacia una integración responsable y regulada de la inteligencia artificial en el entorno empresarial.
¡Si no pudiste asistir al evento, puedes revivirlo en el siguiente vídeo de nuestro canal de YouTube!