Inteligencia artificial responsable
Principios de diseño
NOVARIS está diseñando sus futuras capacidades de inteligencia artificial alrededor de principios de control, transparencia y responsabilidad.
Los permisos siguen siendo el límite
Una capacidad de inteligencia artificial no debe disponer de más acceso o autoridad que el contexto autorizado desde el que opera.
Responder no es lo mismo que actuar
El sistema debe distinguir entre analizar información, recomendar una acción y ejecutar una acción.
Las operaciones con impacto relevante deben estar sujetas a los permisos y controles correspondientes.
Trazabilidad
Cuando una capacidad de inteligencia artificial participe en una acción o decisión operacional, el sistema debe poder conservar evidencia suficiente para comprender qué ocurrió y bajo qué autoridad.
Los datos del cliente pertenecen al cliente
El acceso a información debe responder a permisos, contexto y finalidad autorizados.
La IA no sustituye automáticamente decisiones humanas sensibles
Las capacidades de inteligencia artificial no están concebidas para tomar de manera autónoma decisiones sensibles sobre personas sin las garantías, controles y revisión que correspondan.
Los modelos pueden equivocarse
Los sistemas de inteligencia artificial pueden producir respuestas incorrectas, incompletas o imprecisas. Su diseño debe contemplar incertidumbre, verificación y mecanismos seguros de fallo.
Estas son declaraciones sobre los principios de diseño que NOVARIS aplica a la inteligencia artificial en sus productos, incluidos el asistente de NOVARIS Go y NOVARIS Pro, que llegará próximamente.
En NOVARIS Go, el asistente usa modelos de Anthropic (Claude) a través de Vercel AI Gateway; las notas de voz se procesan con OpenAI y la voz del asistente se genera con ElevenLabs. Los datos de los clientes no se usan para entrenar inteligencia artificial: usamos servicios empresariales que no entrenan con los datos que se les envían. NOVARIS no publica afirmaciones sobre precisión, resultados o ahorros que todavía no puedan demostrarse.