En la velocidad y desarrollo de la inteligencia artificial surge la preocupación sobre su confianza.
Sin que sea una garantía de calidad infalible, los procesos de estandarización mundial como las normas ISO han buscado llevar prácticas comunes a organizaciones de diferentes países. Una iniciativa que se viene madurando es la implementación de la norma ISO 42001 como aquella que da los lineamientos generales para que los sistema de #AI se alineen bajo buenas prácticas.
Un primer paso para abordar estos temas es conocer la norma que da la nomenclatura y primeros lineamientos en torno a ello que es la nomra ISO/IEC 22989 de 2022. Acá dejamos sus principales parámetros para que la tengan en cuenta al momento de adoptar un sistema de #AI:
1. Propósito y Alcance
- Objetivo principal: Estandarizar conceptos y terminología para la inteligencia artificial (IA), facilitando la comunicación y la interoperabilidad entre partes interesadas de diversos sectores.
- Ámbito de aplicación: Útil para todos los tipos de organizaciones (empresas comerciales, agencias gubernamentales, organizaciones sin fines de lucro, etc.) y como base para el desarrollo de otros estándares relacionados con la IA.
2. Terminología Clave
- Agente de IA: Entidad automatizada que interactúa con su entorno para cumplir objetivos.
- Sistema de IA: Un sistema diseñado para generar resultados (contenido, predicciones, decisiones) basados en objetivos definidos por humanos.
- Autonomía y Heteronomía: La capacidad del sistema de actuar independientemente o bajo supervisión externa.
- Confiabilidad: Incluye propiedades como robustez, resiliencia, transparencia y explicabilidad.
3. Conceptos de IA
- Enfoques de IA:
- Simbólica: Basada en reglas explícitas y estructuras lógicas.
- Subsimbológica: Usa modelos estadísticos y aprendizaje automático (machine learning).
- Híbrida: Combina elementos de ambos enfoques.
- Clasificación de la IA:
- IA General (AGI): Resolución de una amplia gama de tareas de manera equivalente a los humanos.
- IA Específica (Narrow AI): Enfocada en resolver tareas específicas.
- Aprendizaje Automático: Incluye aprendizaje supervisado, no supervisado, semi-supervisado, por refuerzo y aprendizaje por transferencia.
4. Ciclo de Vida de un Sistema de IA
- Etapas principales:
- Diseño e Incepción: Definir objetivos, requerimientos y arquitectura inicial.
- Desarrollo y Verificación: Crear modelos, entrenarlos y asegurarse de que cumplen con las especificaciones.
- Implementación y Monitoreo: Desplegar el sistema, monitorear su desempeño y validar continuamente su funcionamiento.
- Retiro: Desactivar o reemplazar el sistema de manera segura cuando se vuelva obsoleto o innecesario.
- Evaluación continua: Incluir procesos de validación periódica y reentrenamiento para garantizar la relevancia del modelo frente a cambios en los datos o el contexto.
5. Gestión de Datos
- Ciclo de vida de los datos en la IA:
- Adquisición: Recolectar datos de fuentes relevantes y asegurarse de que sean adecuados para los objetivos del sistema.
- Preparación: Limpiar, etiquetar, filtrar y normalizar los datos para facilitar su uso.
- Control de calidad: Verificar la integridad, consistencia y ausencia de sesgos en los datos.
- Validación y Prueba: Usar conjuntos de datos independientes para evaluar el desempeño del sistema.
- Augmentación: Ampliar conjuntos de datos limitados mediante transformaciones.
6. Confiabilidad y Gestión de Riesgos
- Propiedades esenciales:
- Transparencia: Documentar y comunicar cómo opera el sistema.
- Explicabilidad: Explicar de manera comprensible las decisiones tomadas por el sistema.
- Sesgo y Equidad: Identificar y mitigar prejuicios en los algoritmos o datos que puedan afectar a ciertos grupos.
- Robustez: Mantener el rendimiento bajo condiciones adversas o inesperadas.
- Resiliencia: Capacidad de recuperarse rápidamente tras fallos.
- Verificación y Validación:
- Verificación asegura que el sistema cumple con las especificaciones.
- Validación confirma que cumple con los requerimientos de uso.
7. Interacción Humano-Máquina
- Colaboración eficiente: Diseñar sistemas que integren capacidades humanas e inteligencia artificial para resolver problemas complejos.
- Toma de decisiones asistida: Apoyo a los usuarios mediante recomendaciones basadas en datos.
8. Áreas de Aplicación
- Fraude: Detección basada en patrones en datos financieros o transacciones.
- Vehículos Autónomos: Procesamiento de datos en tiempo real para navegación y seguridad.
- Mantenimiento Predictivo: Predecir fallos en equipos para optimizar operaciones.
- Procesamiento del Lenguaje Natural: Incluye traducción automática, reconocimiento de voz y análisis de sentimientos.
9. Ecosistema de IA
- Participantes clave:
- Proveedores de IA: Desarrollan y suministran los sistemas.
- Consumidores de IA: Usan los sistemas para sus operaciones.
- Auditores y Reguladores: Garantizan la conformidad y el uso ético de los sistemas.
- Interacciones entre partes: Establecer estándares comunes para garantizar interoperabilidad y confianza.
10. Beneficios de la Estandarización
- Comparabilidad: Facilita la evaluación de sistemas basados en atributos clave como confiabilidad, seguridad y precisión.
- Transparencia y Ética: Promueve el desarrollo de tecnologías responsables que respeten la privacidad y los derechos humanos.
- Adopción más amplia: Facilita la comprensión y el uso de IA por parte de organizaciones y usuarios finales.
