¿Cuál es su proceso de gobernanza empresarial y su marco de evaluación de riesgos para las tecnologías de IA y ML?

Los procesos de gobernanza de Genesys están estrechamente vinculados a los procesos de desarrollo. Como parte de estos procesos, Genesys incorpora mecanismos como las evaluaciones del impacto en la privacidad de los datos, las revisiones de seguridad y cumplimiento, y las revisiones centradas en el riesgo del modelo de IA. Estas revisiones tienen lugar en varias fases del ciclo de vida del software para fomentar el desarrollo responsable de la IA y la mitigación de riesgos.

El proceso de formación e inferencia de modelos de Genesys Cloud, incluidas las métricas, el muestreo y la validación, sigue el proceso de revisión estándar compartido por todo el software de Genesys Cloud. La primera ronda de revisiones tiene lugar durante la fase de diseño como parte del ciclo de vida del diseño de software, donde los arquitectos de IA y los científicos de datos revisan y aprueban el diseño, junto con las revisiones de privacidad y seguridad. La segunda fase de revisiones se produce en la etapa de desarrollo, durante la cual todo el código de entrenamiento e inferencia del modelo es revisado por expertos antes de fusionarlo y desplegarlo. Esta etapa suele incluir puntos de referencia y la adición de pruebas específicas para cada modelo.

Además, el Comité de Ética de la IA de Genesys, que abarca funciones como la privacidad, la seguridad, la arquitectura, el producto y la IA, celebra reuniones trimestrales periódicas para evaluar nuestros productos y procesos desde la perspectiva de la ética y la gobernanza.

Este marco de gobernanza integral ayuda a garantizar que las tecnologías de inteligencia artificial y aprendizaje automático desplegadas por Genesys cumplan con los más altos estándares de seguridad, privacidad y consideraciones éticas.