Inteligencia artificial responsable
ConceptoPrincipios de diseño
NOVARIS está diseñando sus futuras capacidades de inteligencia artificial alrededor de principios de control, transparencia y responsabilidad.
Los permisos siguen siendo el límite
Una capacidad de inteligencia artificial no debe disponer de más acceso o autoridad que el contexto autorizado desde el que opera.
Responder no es lo mismo que actuar
El sistema debe distinguir entre analizar información, recomendar una acción y ejecutar una acción.
Las operaciones con impacto relevante deben estar sujetas a los permisos y controles correspondientes.
Trazabilidad
Cuando una capacidad de inteligencia artificial participe en una acción o decisión operacional, el sistema debe poder conservar evidencia suficiente para comprender qué ocurrió y bajo qué autoridad.
Los datos del cliente pertenecen al cliente
El acceso a información debe responder a permisos, contexto y finalidad autorizados.
La IA no sustituye automáticamente decisiones humanas sensibles
Las capacidades de inteligencia artificial no están concebidas para tomar de manera autónoma decisiones sensibles sobre personas sin las garantías, controles y revisión que correspondan.
Los modelos pueden equivocarse
Los sistemas de inteligencia artificial pueden producir respuestas incorrectas, incompletas o imprecisas. Su diseño debe contemplar incertidumbre, verificación y mecanismos seguros de fallo.
Estas son declaraciones sobre la dirección y principios de diseño de NOVARIS. Las capacidades de inteligencia artificial descritas en nuestro ecosistema permanecen actualmente en estado Concepto y no se presentan como funcionalidades disponibles.
NOVARIS no afirma actualmente qué modelos o proveedores utilizará para esas capacidades ni publica afirmaciones sobre precisión, resultados o ahorro que todavía no puedan demostrarse.