Durante el webinar de Humana Consultores sobre el tema, se abordaron los riesgos de la adopción no regulada de inteligencia artificial, los sesgos algorítmicos, la supervisión humana y herramientas prácticas, como una matriz de riesgos, para fortalecer la gobernanza de IA en organizaciones públicas y privadas.
«La gobernanza de la inteligencia artificial no es un costo; es la infraestructura de la confianza». Con esa afirmación, Ricardo Valenzuela, consultor en planificación estratégica y transformación digital, resumió el principal desafío que enfrentan hoy las organizaciones durante el webinar «Gobernanza en la era de la Inteligencia Artificial», organizado por Humana Consultores.
Durante la actividad, el especialista sostuvo que la gobernanza de IA debe transformarse en una prioridad estratégica por tres razones: los riesgos operacionales y reputacionales, el creciente marco regulatorio y la dependencia cada vez mayor de sistemas algorítmicos que muchas veces operan como «cajas negras».
Casos reales muestran que el riesgo es una realidad
Para ilustrar estos desafíos, Valenzuela presentó casos emblemáticos de sesgos algorítmicos y decisiones automatizadas que generaron consecuencias reputacionales y legales en organizaciones internacionales, como Apple, Amazon y Compass, además de experiencias recientes donde implementaciones aceleradas de IA no lograron los resultados esperados.
«La mejor inteligencia artificial puede convertirse en la más peligrosa si dejamos de supervisarla. Mientras más confiamos en el algoritmo, mayor es el riesgo de bajar nuestra capacidad crítica», advirtió.
Otro de los fenómenos abordados fue la denominada «adopción oculta», donde colaboradores incorporan herramientas de IA por iniciativa propia, sin políticas ni supervisión institucional, generando nuevos riesgos para la seguridad, la gestión de datos y el cumplimiento normativo.
De la tecnología a la confianza organizacional
El expositor presentó una matriz para evaluar el nivel de riesgo de distintas aplicaciones de IA y el modelo TRUST, orientado a fortalecer la gobernanza mediante principios de transparencia, responsabilidad, supervisión humana y alineamiento estratégico.
La conversación también incorporó experiencias de los asistentes. Silvia, participante del webinar, relató cómo una herramienta de IA entregó interpretaciones erróneas al analizar resultados de una encuesta, evidenciando la necesidad de validar permanentemente la información generada por estos sistemas.
Asimismo, durante la sesión se recordó que Chile avanza en el fortalecimiento de su marco regulatorio, destacando la entrada en vigencia de la Ley 21.719 sobre protección de datos personales, prevista para el 1 de diciembre de 2026, lo que incrementará las exigencias para las organizaciones que utilizan inteligencia artificial.
«El desafío no es reemplazar el criterio humano, sino fortalecerlo. La inteligencia artificial debe ampliar nuestras capacidades, no sustituir nuestra responsabilidad», concluyó Valenzuela.
Desde Humana Consultores señalaron que este ciclo de webinars busca entregar herramientas prácticas para que directivos y equipos de liderazgo puedan enfrentar los procesos de transformación digital con una mirada estratégica, ética y centrada en las personas.
