Propósito y alcance
La presente Política establece los principios, compromisos y directrices que determinan el marco de referencia para establecer los objetivos que rigen el desarrollo, provisión, adquisición, despliegue, operación, monitorización y uso de soluciones y sistemas de Inteligencia Artificial (IA) dentro de NUMINTEC.
Su objetivo es asegurar que los sistemas de IA se desarrollan y utilizan de forma responsable, ética, segura, fiable y conforme con los requisitos legales, regulatorios y contractuales aplicables, así como con los valores, estrategias y objetivos de la organización.
Esta política aplica a todo el personal, proveedores, socios y terceros que intervengan en actividades vinculadas al ciclo de vida de sistemas de IA, ya sea en el proceso de desarrollo o el uso de herramientas, sistemas o modelos de IA.
Sea cual sea el puesto de trabajo y las funciones de cada persona trabajadora, todos somos plenamente responsables de su aplicación en nuestro ámbito de acción, asegurando así su eficacia, su uso responsable la mejora continua y la satisfacción de clientes y usuarios externos e internos
Esta Política para Uso y Desarrollo Responsable de Sistemas de Inteligencia Artificial es difundida, entendida, implantada y actualizada a todos los niveles de la compañía, así como puesta a disposición del público en general.
Principios para una IA responsable
Para garantizar un uso responsable de la IA, la Dirección de la NUMINTEC se compromete a que todos los sistemas y actividades relacionadas con IA respeten los siguientes principios:
- Legalidad, ética y cumplimiento: El desarrollo y uso de IA cumplirán las leyes, regulaciones, estándares internacionales y obligaciones contractuales aplicables.
Se evitarán los usos prohibidos o potencialmente dañinos identificados en las jurisdicciones en las que opera la organización. - Transparencia y explicabilidad: La organización promoverá modelos y procesos comprensibles para usuarios y partes interesadas, incluyendo información clara sobre propósito, límites y condiciones de uso de la IA.
- Equidad y no discriminación: Se minimizarán los sesgos en datos y modelos, asegurando la representatividad, integridad y calidad de los datos empleados.
- Seguridad, protección y robustez técnica: La seguridad de los sistemas de IA se diseñarán para garantizar protección y robustez frente a fallos, ataques específicos (p. ej., data poisoning, extracción de modelos) y usos indebidos.
- Privacidad y protección de datos personales: Los sistemas de IA respetarán los principios de privacidad desde el diseño y por defecto, siguiendo las obligaciones aplicables como responsable o encargado del tratamiento.
- Supervisión humana adecuada: Se garantizará que exista una supervisión humana proporcional al nivel de riesgo de cada sistema de IA, incluyendo capacidad de intervención o anulación.
- Impacto social positivo y minimización del daño: La organización evaluará el impacto en personas y grupos, especialmente aquellos en situación de vulnerabilidad, e integrará medidas para mitigar efectos adversos.
Compromiso para el desarrollo y uso responsable de IA
La presente política se alinea y complementa las políticas de desarrollo de software, seguridad de la información, privacidad y protección de datos personales, así como la política de calidad, integrando estas políticas en el ciclo de vida de desarrollo de los sistemas de IA.
NUMINTEC evaluará los riesgos específicos de IA, incluyendo riesgos técnicos, éticos, sociales y su impacto, según los controles, documentados en la Declaración de Aplicabilidad vigente (DC-056 Declaración de Aplicabilidad_42001).
Para ello la Dirección de Numintec asume los siguientes compromisos:
- Asegurar que se realizan las evaluaciones de impacto de IA de acuerdo con la naturaleza, contexto y riesgo de los sistemas.
- Proporcionar documentación técnica y de uso, incluyendo advertencias, limitaciones, requisitos de supervisión humana y canales de notificación de incidentes.
- Establecer controles para asegurar la calidad y seguridad de los datos.
- Evaluaciones de las responsabilidades contractuales de los proveedores en cuanto a los requisitos de desarrollo y uso responsable de IA, aportando la documentación necesaria.
- Proteger el medioambiente, incluyendo criterios de eficiencia energética, descarbonización y economía circular en el ciclo de vida de los sistemas de IA.
- Impulsar la formación y sensibilización de todo el personal en el uso y desarrollo responsable de los sistemas de IA.
- El cumplimiento de los requisitos contractuales, reglamentarios y legales aplicables.
- Aplicar un proceso de mejora continua para asegurar la evolución y adaptación de la gestión de los procesos que implican el desarrollo y uso de sistema de IA a los cambios, nuevas necesidades y carencias que se identifiquen a lo largo del tiempo.
DC-057 Política uso y desarrollo responsable de sistemas de IA Rev. 01
Aprobado por Albino Campo