La adopción de la inteligencia artificial en el entorno corporativo ya no es una promesa de futuro, sino una realidad cotidiana. Asistentes virtuales, modelos generativos y automatizaciones integradas se multiplican en las organizaciones.
Sin embargo, muchas empresas han empezado a utilizar la IA sin haber definido previamente las reglas del juego: ¿qué ocurre cuando el sistema falla, discrimina o toma una decisión errónea?
En el Keynote de Westfield del pasado 2 de septiembre de 2026, Dennis Kirpensteijn, fundador de Voltaire, abordó esta problemática desde una premisa central: la IA responsable no es únicamente un asunto técnico. Es una cuestión de liderazgo, cultura y responsabilidad organizacional.
La propia pregunta que abrió su presentación lo resume: ¿quién responde cuando la IA se equivoca?
El caso Air Canada: la empresa responde
Para ilustrar los riesgos de implementar IA sin reglas claras de responsabilidad, Kirpensteijn presentó el caso de Air Canada.
Un cliente consultó en la web de la aerolínea por un descuento en un vuelo. El chatbot proporcionó información incorrecta y, cuando el cliente reclamó, la empresa argumentó que el chatbot era responsable de sus propias respuestas.
El tribunal no aceptó ese argumento. Como recoge la presentación del keynote, la empresa responde por lo que comunica a través de su web, incluida la información proporcionada por su IA.
La lección planteada por Kirpensteijn va más allá de un fallo tecnológico: existía un vacío de responsabilidad. Faltaba definir quién respondía por lo que decía la máquina.
Ética y cultura: más allá del discurso
Muchas organizaciones pueden establecer principios sobre el uso ético de la tecnología. Pero, en el planteamiento presentado por Kirpensteijn, la ética debe convertirse en una práctica.
Cada principio tiene que traducirse en decisiones concretas: qué se hace, qué no se hace y quién lo decide. Si un principio no modifica ninguna decisión, se queda en una declaración sin aplicación práctica.
La cultura cumple un papel igualmente importante. En el contexto de la IA, esto significa establecer las reglas antes de poner en marcha un sistema, no improvisarlas después de que algo salga mal.
El punto de control: decide, aprueba o revisa
Uno de los elementos prácticos abordados durante el keynote es determinar en qué punto interviene una persona.
Kirpensteijn plantea tres posibilidades:
- La persona decide: la IA aporta material, pero la decisión se toma sin ella.
- La persona aprueba: la IA produce o redacta, pero una persona identificada aprueba el resultado antes de que salga.
- La persona revisa: la IA ejecuta el trabajo y posteriormente una persona lo revisa y deja documentado ese control.
La cuestión, por tanto, no es únicamente afirmar que existe supervisión humana, sino determinar dónde ocurre y quién es responsable de ejercerla.
El Canvas de Gobernanza de IA: una herramienta práctica
El Responsible AI Framework Canvas lleva esta reflexión a un marco práctico para las organizaciones.
En lugar de abordar la gobernanza de la IA únicamente desde la tecnología, el Canvas plantea preguntas relacionadas con responsabilidad, uso y límites, valores y misión, competencia y cultura, relación entre persona y máquina, transparencia, grupos de interés, gestión de riesgos e impacto y seguimiento.
El objetivo es trasladar la responsabilidad desde una declaración general hacia decisiones concretas dentro de la organización.
Nueve preguntas que sostienen la decisión
El marco presentado por Kirpensteijn organiza la conversación alrededor de nueve preguntas:
Valores y misión: ¿para qué usamos la IA y con qué la medimos?
Responsabilidad: ¿quién decide y quién responde si sale mal?
Uso y límites: ¿qué puede hacer la IA aquí y qué no hará nunca?
Competencia y cultura: ¿sabe la gente usarla y se atreve a dudar de ella?
Persona y máquina: ¿dónde sigue decidiendo una persona?
Transparencia: ¿sabe la gente cuándo hay una máquina decidiendo?
Grupos de interés: ¿quién carga con las consecuencias y pudo opinar antes?
Gestión de riesgos: ¿qué puede salir mal y quién lo vigila?
Impacto y seguimiento: ¿sirve de algo de verdad y quién lo comprueba?
Estas preguntas permiten trasladar la conversación sobre IA responsable desde los principios generales hacia situaciones concretas de decisión.
La IA responsable es una decisión de liderazgo
La inteligencia artificial abre nuevas posibilidades para apoyar, automatizar y ampliar capacidades dentro de las organizaciones. Pero su incorporación también exige definir propósito, límites y responsabilidad.
La conclusión del keynote sintetiza esta idea:
“La IA responsable no se decide en sistemas. Se decide en la dirección.”
Y comienza con una pregunta profundamente humana: ¿quién es responsable?
Dennis Kirpensteijn
Founder, Voltaire
https://www.linkedin.com/in/denniskirpensteijn
Continúa explorando
IA y liderazgo: cuando los algoritmos empiezan a gobernar | Metodología | Programas
