GOBIERNO DE CALIDAD/ Posibles riesgos de la IA generativa

Por Jorge Manrique, Rector del Colegio Jurista y director general de Gobierno de Calidad, consultoría de políticas públicas

La estrategia de IA generativa primero impactó la ingeniería de software, marketing y ventas, servicio al cliente y desarrollo de productos. Los sectores pioneros fueron los medios y entretenimiento, banca, bienes de consumo, telecomunicaciones, ciencias de la vida y empresas de tecnología. Ahora se extienden las posibilidades de esta tecnología y también los impactos que generará en distintos puestos de trabajo e industrias.

La versión pública de ChatGPT llegó a 100 millones de usuarios en solo dos meses, lo que la convirtió en la aplicación de más rápido crecimiento de la historia. Hoy sabemos que puede aumentar la productividad de los trabajadores en todas las industrias y lograr hasta 7.9 billones de dólares en valor a nivel mundial con la adopción de casos de uso específicos.

Lo que descubrimos cada día son las innumerables formas en que los trabajadores pueden usar la tecnología en sus actividades cotidianas. Sin embargo, nadie puede predecir todas las implicaciones de la IA generativa, pero conviene analizar posibles escenarios de uso y los beneficios que generaría.

Sin embargo, debemos ser cautelosos. Si la IA generativa no se gestiona bien, puede destruir valor y reputación. Plantea incluso más riesgos que la IA tradicional: problemas de privacidad y riesgos éticos, como la posibilidad de perpetuar sesgos ocultos en los datos.

Asimismo, existe una preocupación generalizada de que la IA generativa podría avivar la desinformación.

Es importante, entonces, que las empresas establezcan marcos jurídicos y normativos para los riesgos de la IA generativa conocidos y asumidos en toda la empresa, y que las actividades de IA dentro de la empresa se revisan, miden y auditan continuamente.

También deben establecerse mecanismos para explorar y evaluar continuamente los riesgos y las preocupaciones éticas que aún no se comprenden o no son evidentes. Es decir, la IA siempre debe estar sujeta a la supervisión efectiva de quienes la diseñan y utilizan.

El apoyo a este esfuerzo puede provenir de los marcos normativos gubernamentales y de la orientación que se está desarrollando sobre cómo usar y aplicar la IA generativa. Será importante que las empresas se mantengan al día.

La excesiva cautela, sin embargo, puede frenar los beneficios que reporta esta tecnología. Por ello, para seguir el ritmo de la IA generativa, las empresas deben cerciorarse de que se cuenta con la tecnología adecuada.

Las empresas que aún no encuentran formas de armonizar y facilitar el acceso a sus datos no podrán desbloquear gran parte del poder potencialmente transformador de la IA generativa. Igual de importante es la capacidad de diseñar una arquitectura de datos escalable que incluya procedimientos de gobernanza y seguridad de estos.

La introducción de la IA generativa, como cualquier cambio, también requiere una reevaluación del talento de la organización. Las empresas son conscientes de que necesitan volver a capacitar (reskill) a su fuerza laboral para competir en un mundo en el que los datos y la IA juegan un papel tan importante,

Por último, la cultura de una empresa determina su nivel de éxito con la IA generativa. Las empresas que luchan con la innovación y el cambio probablemente tendrán dificultades para mantener el ritmo.

En la implementación de la IA generativa las universidades juegan hoy un papel trascendental para lograr las implementaciones exitosas, que les conceda a las empresas ventajas competitivas pero también las blinde de posibles riesgos éticos y de manejo inadecuado de datos.