Cuatro preguntas esenciales que los directorios deben hacer sobre la IA generativa

Los directorios son responsables de cómo se utiliza la IA generativa en las empresas que supervisan. Hacer las preguntas correctas a los líderes de la empresa ayudará a desbloquear el valor de la tecnología mientras administra su riesgo.

Los ejecutivos de la empresa se esfuerzan por comprender y responder a la IA generativa. Esta tecnología aún es incipiente, pero de quienes la han usado, pocos dudan de su poder para alterar los modelos operativos en todas las industrias.

Recientemente brindamos una visión de cómo los directores ejecutivos podrían comenzar a prepararse para lo que se avecina . Pero, ¿cuál es el papel de la junta? Muchos miembros de la junta nos dicen que no están seguros de cómo apoyar a sus directores ejecutivos mientras lidian con los cambios que ha desatado la IA generativa, sobre todo porque la tecnología parece estar desarrollándose y siendo adoptada a la velocidad del rayo.

Los primeros casos de uso son impresionantes. Un desarrollador de software puede usar IA generativa para crear líneas completas de código. Los bufetes de abogados pueden responder preguntas complejas a partir de montones de documentación. Los científicos pueden crear nuevas secuencias de proteínas para acelerar el descubrimiento de fármacos. Pero la tecnología aún presenta riesgos reales, dejando a las empresas atrapadas entre el miedo a quedarse atrás, lo que implica la necesidad de integrar rápidamente la IA generativa en sus negocios, y el mismo miedo a equivocarse. La pregunta es cómo desbloquear el valor de la IA generativa y al mismo tiempo gestionar sus riesgos.

Los miembros de la junta pueden ayudar a sus equipos de gestión a avanzar haciendo las preguntas correctas. En este artículo, proporcionamos cuatro preguntas que las juntas deberían considerar hacer a los líderes de la empresa, así como una pregunta para que los miembros se hagan a sí mismos.

Preguntas para la gerencia

Los modelos generativos de IA (modelos de aprendizaje profundo entrenados en conjuntos extremadamente grandes de datos no estructurados) tienen el potencial de aumentar la eficiencia y la productividad, reducir los costos y generar un nuevo crecimiento. El poder de estos modelos «fundamentales» radica en el hecho de que, a diferencia de los modelos de aprendizaje profundo anteriores, pueden realizar no solo una función sino varias, como clasificar, editar, resumir, responder preguntas y redactar contenido nuevo. Esto permite que las empresas los utilicen para lanzar múltiples aplicaciones con relativa facilidad, incluso si los usuarios carecen de conocimientos profundos de inteligencia artificial y ciencia de datos.

Los miembros de la junta pueden equipar a su C-suite para aprovechar este poder potencial de manera reflexiva pero decisiva al hacer las siguientes cuatro preguntas generales.

¿Cómo afectará la IA generativa a nuestra industria y empresa a corto y largo plazo?

Formar cualquier estrategia de inteligencia artificial generativa sensata requerirá una comprensión de cómo la tecnología podría afectar a una industria y a los negocios dentro de ella a corto y largo plazo. Nuestra investigación sugiere que la primera ola de aplicaciones será en ingeniería de software, marketing y ventas, servicio al cliente y desarrollo de productos. Como resultado, el impacto inicial de la IA generativa probablemente estará en las industrias que dependen particularmente de estas funciones, por ejemplo, en medios y entretenimiento, banca, bienes de consumo, telecomunicaciones, ciencias de la vida y empresas de tecnología.

Aun así, las empresas de otras industrias no deberían demorarse en evaluar el valor potencial en juego para su empresa. La tecnología y su adopción avanzan demasiado rápido. Recuerde que la versión pública de ChatGPT llegó a 100 millones de usuarios en solo dos meses, lo que la convierte en la aplicación de más rápido crecimiento de la historia. Y nuestra investigación encuentra que la IA generativa puede aumentar la productividad de los trabajadores en todas las industrias, sumando hasta $ 7.9 billones en valor a nivel mundial a partir de la adopción de casos de uso específicos y las innumerables formas en que los trabajadores pueden usar la tecnología en las actividades cotidianas. Cada empresa querrá explorar oportunidades inmediatas para mejorar la eficiencia y la eficacia. Aquellos que no lo hacen pueden encontrarse rápidamente detrás de los competidores que responden a las consultas de los clientes con mayor precisión y rapidez o lanzan nuevos productos digitales más rápidamente porque la IA generativa está ayudando a escribir el código. También corren el riesgo de quedarse atrás en la curva de aprendizaje.

Al mismo tiempo, las empresas querrán empezar a mirar más allá. Nadie puede predecir todas las implicaciones de la IA generativa, pero tenerlas en cuenta es importante. ¿Cómo podría cambiar el entorno competitivo? ¿Cómo podría beneficiarse la empresa y dónde se ve vulnerable? ¿Y hay formas de preparar la estrategia y el modelo de negocio para el futuro?

¿Estamos equilibrando la creación de valor con una adecuada gestión de riesgos?

Una evaluación de las nuevas fronteras abiertas por la IA generativa hará que los equipos de gestión estén ansiosos por comenzar a innovar y capturar su valor. Pero ese afán deberá ir acompañado de cautela, ya que la IA generativa, si no se gestiona bien, tiene el potencial de destruir el valor y la reputación. Plantea los mismos, y más, riesgos que la IA tradicional.

Al igual que la IA tradicional, la IA generativa plantea problemas de privacidad y riesgos éticos, como la posibilidad de perpetuar el sesgo oculto en los datos de entrenamiento. Y aumenta el riesgo de una brecha de seguridad al abrir más áreas de ataque y nuevas formas de ataque. Por ejemplo, los deepfakes simplifican la suplantación de los líderes de la empresa, lo que aumenta los riesgos de reputación. También existen nuevos riesgos, como el riesgo de infringir materiales con derechos de autor, marcas registradas, patentados o protegidos legalmente de otro modo mediante el uso de datos recopilados por un modelo de IA generativa.

La IA generativa también tiene una propensión a alucinar, es decir, generar información inexacta, expresándola de una manera que parece tan natural y autorizada que las inexactitudes son difíciles de detectar. Esto podría resultar peligroso no solo para las empresas sino también para la sociedad en general. Existe una preocupación generalizada de que la IA generativa podría avivar la información errónea, y algunos expertos de la industria han dicho que podría ser tan peligroso para la sociedad como una pandemia o una guerra nuclear si no se regula adecuadamente.

Por lo tanto, las empresas deberán comprender el valor y los riesgos de cada caso de uso y determinar cómo se alinean con la tolerancia al riesgo de la empresa y otros objetivos. Por ejemplo, con respecto a los objetivos de sostenibilidad, podrían considerar las implicaciones de la IA generativa para el medio ambiente porque requiere una capacidad informática sustancial.

A partir de ahí, las juntas deben estar satisfechas de que la empresa haya establecido marcos legales y reglamentarios para los riesgos de IA generativos conocidos asumidos en toda la empresa y que las actividades de IA dentro de la empresa se revisen, midan y auditen continuamente. También querrán asegurarse de que existan mecanismos para explorar y evaluar continuamente los riesgos y las preocupaciones éticas que aún no se comprenden bien o incluso no son aparentes. ¿Cómo, por ejemplo, las empresas implementarán procesos para detectar alucinaciones y mitigar el riesgo de que información incorrecta provoque acciones incorrectas o incluso dañinas? ¿Cómo afectará la tecnología al empleo? ¿Y qué hay de los riesgos que plantean los terceros que utilizan la tecnología? Una visión temprana clara sobre dónde podrían estar los problemas es la clave para abordarlos.

La conclusión es que la IA siempre debe estar sujeta a la supervisión efectiva de quienes la diseñan y la utilizan. El apoyo para el esfuerzo puede provenir de los marcos regulatorios gubernamentales y la orientación que se está desarrollando sobre cómo usar y aplicar la IA generativa. Será importante que las empresas se mantengan al tanto de estos.

¿Cómo debemos organizarnos para la IA generativa?

Muchas empresas adoptaron un enfoque experimental para implementar generaciones anteriores de tecnología de IA, y las más interesadas en explorar sus posibilidades lanzaron pilotos en los bolsillos de la organización. Pero dada la velocidad de los desarrollos dentro de la IA generativa y los riesgos que plantea, las empresas necesitarán un enfoque más coordinado. Quedarse atascado en modo piloto realmente no es una opción. De hecho, el director ejecutivo de una multinacional llegó al extremo de pedir a cada uno de sus 50 líderes empresariales que implementara por completo dos casos de uso sin demora, tal era su convicción de que la IA generativa brindaría rápidamente una ventaja competitiva.

Los líderes de la empresa deben considerar la posibilidad de nombrar a un solo ejecutivo sénior para que asuma la responsabilidad de la supervisión y el control de todas las actividades de IA generativa. Un segundo paso inteligente es establecer un grupo multifuncional de personas de alto nivel que representen la ciencia de datos, ingeniería, legal, ciberseguridad, marketing, diseño y otras funciones comerciales. Tal equipo puede colaborar para formular e implementar una estrategia rápida y ampliamente.

Tenga en cuenta también que un modelo base puede respaldar múltiples casos de uso en una organización, por lo que los miembros de la junta querrán pedirle al líder de IA generativa designado que se asegure de que la organización adopte un enfoque coordinado. Esto promoverá la priorización de casos de uso que brinden resultados rápidos y de alto impacto. Posteriormente se pueden desarrollar casos de uso más complejos. Es importante destacar que un enfoque coordinado también ayudará a garantizar una visión completa de los riesgos asumidos.

La junta también querrá verificar que haya una estrategia para establecer lo que probablemente será una amplia gama de asociaciones y alianzas, por ejemplo, con proveedores que personalicen modelos para un sector específico, o con proveedores de infraestructura que ofrezcan capacidades como nube escalable. informática. Las asociaciones adecuadas con los expertos adecuados ayudarán a las empresas a moverse rápidamente para crear valor a partir de la IA generativa, aunque querrán tener cuidado para evitar el bloqueo de proveedores y supervisar los posibles riesgos de terceros.

¿Tenemos las capacidades necesarias?

Para seguir el ritmo de la IA generativa, es posible que las empresas deban revisar sus capacidades organizativas en tres frentes.

Tecnología

El primer frente es la tecnología. Una pila moderna de datos y tecnología será la clave del éxito en el uso de la IA generativa. Si bien los modelos básicos pueden admitir una amplia gama de casos de uso, muchos de los modelos más impactantes serán aquellos alimentados con datos adicionales, a menudo propietarios. Por lo tanto, las empresas que aún no han encontrado formas de armonizar y brindar acceso rápido a sus datos no podrán desbloquear gran parte del poder potencialmente transformador de la IA generativa. Igualmente importante es la capacidad de diseñar una arquitectura de datos escalable que incluya gobierno de datosy procedimientos de seguridad. Dependiendo del caso de uso, la infraestructura informática y de herramientas existente también podría necesitar una actualización. ¿Tiene claro el equipo de gestión los recursos informáticos, los sistemas de datos, las herramientas y los modelos necesarios? ¿Y tiene una estrategia para adquirirlos?

Talento

La introducción de la IA generativa, como cualquier cambio, también requiere una reevaluación del talento de la organización. Las empresas son conscientes de que necesitan volver a capacitar a la fuerza laboral para competir en un mundo donde los datos y la IA juegan un papel tan importante , aunque muchas luchan por atraer y retener a las personas que necesitan. Con la IA generativa, el desafío se volvió más difícil. Algunos roles desaparecerán, otros serán radicalmente diferentes y algunos serán nuevos. Dichos cambios probablemente afectarán a más personas en más dominios y más rápido de lo que ha sido el caso con la IA hasta la fecha.

Las nuevas habilidades precisas requeridas variarán según el caso de uso. Por ejemplo, si el caso de uso es relativamente sencillo y puede ser respaldado por un modelo básico listo para usar, un generalista puede liderar el esfuerzo con la ayuda de un ingeniero de datos y software. Pero con datos altamente especializados, como podría ser el caso del desarrollo de fármacos, es posible que la empresa necesite construir un modelo de IA generativa desde cero. En ese caso, es posible que la empresa necesite contratar expertos con doctorado en aprendizaje automático.

Por lo tanto, la junta querrá consultar al liderazgo si tiene una comprensión dinámica de sus necesidades de contratación de IA y un plan para cumplirlas. Además, será necesario capacitar a la fuerza laboral existente para integrar la IA generativa en su trabajo diario y equipar a algunos trabajadores para que asuman nuevos roles. Pero las habilidades tecnológicas no son la única consideración, ya que podría decirse que la IA generativa otorga una gran importancia a las habilidades analíticas y creativas más avanzadas para complementar las capacidades de la tecnología. Por lo tanto, es posible que el modelo de talento deba cambiar, pero teniendo en cuenta una advertencia planteada recientemente en el Foro Económico Mundial: el uso de IA como sustituto del trabajo del talento de nivel junior podría poner en peligro el desarrollo de la próxima generación de creadores, líderes y gerentes.

Cultura organizacional

Finalmente, la cultura de una empresa determina qué tan bien tendrá éxito con la IA generativa. Las empresas que luchan con la innovación y el cambio probablemente tendrán dificultades para mantener el ritmo. Es una gran pregunta, pero ¿tiene la empresa la cultura de aprendizaje que será clave para el éxito? ¿Y tiene la empresa un sentido compartido de responsabilidad y rendición de cuentas? Sin este sentido compartido, es más probable que entre en conflicto con los riesgos éticos asociados con la tecnología.

Ambas preguntas involucran cuestiones culturales que los directorios deberían considerar para incitar a sus equipos de gestión a examinar. Según lo que encuentren, reformular la cultura de una empresa puede resultar una tarea urgente.

Una pregunta para la junta

A medida que las juntas intentan apoyar a sus directores ejecutivos en la creación de valor a partir de la IA generativa y la gestión de sus riesgos, también querrán hacerse una pregunta preliminar y fundamental: ¿Estamos equipados para brindar ese apoyo?

A menos que los miembros de la junta comprendan la IA generativa y sus implicaciones, no podrán juzgar el impacto probable de la estrategia de IA generativa de una empresa y las decisiones relacionadas con inversiones, riesgos, talento, tecnología y más en la organización y sus partes interesadas. Sin embargo, nuestras conversaciones con los miembros de la junta revelaron que muchos de ellos admiten que les falta este entendimiento. Cuando ese es el caso, las juntas pueden considerar tres formas de mejorar las cosas.

La primera opción es revisar la composición de la junta y ajustarla según sea necesario para garantizar que haya suficiente experiencia tecnológica disponible. En el pasado, cuando las empresas han luchado por encontrar expertos en tecnología con la experiencia empresarial más amplia que se requiere de un miembro de la junta, algunas han obtenido apoyo adicional mediante la creación de juntas asesoras de tecnología que incluyen expertos en inteligencia artificial generativa. Sin embargo, es probable que la IA generativa tenga un impacto en todos los aspectos de las operaciones de una empresa: riesgo, remuneración, talento, ciberseguridad, finanzas y estrategia, por ejemplo. Podría decirse, por lo tanto, que la experiencia en IA debe generalizarse para que la junta en pleno y todos sus comités puedan considerar adecuadamente sus implicaciones.

En segundo lugar, la junta puede mejorar la comprensión de sus miembros sobre la IA generativa . Las sesiones de capacitación dirigidas por los propios expertos de la empresa y por expertos externos en la primera línea de los desarrollos pueden brindar a los miembros de la junta una comprensión de cómo funciona la IA generativa, cómo podría aplicarse en el negocio, el valor potencial en juego, los riesgos y el evolución de la tecnología.

En tercer lugar, la junta puede incorporar IA generativa en sus propios procesos de trabajo. La experiencia práctica en la sala de juntas puede generar familiaridad con la tecnología y la apreciación de su valor y riesgos. Además, debido a que la IA generativa puede mejorar la toma de decisiones, sería negligente por parte de los directorios no explorar su potencial para ayudarlos a desempeñar sus funciones lo mejor que puedan. Por ejemplo, pueden usarlo para plantear preguntas críticas adicionales sobre temas estratégicos o para brindar un punto de vista adicional a considerar al tomar una decisión.

---

La IA generativa se está desarrollando rápidamente y las empresas tendrán que equilibrar el ritmo y la innovación con precaución. El papel de la junta es desafiar constructivamente al equipo de gestión para garantizar que esto suceda, manteniendo a la organización a la vanguardia de este último desarrollo tecnológico pero intensamente consciente de los riesgos. Las preguntas planteadas aquí no son, por supuesto, exhaustivas, y surgirán más a medida que avance la tecnología. Pero son un buen lugar para comenzar. En última instancia, los miembros de la junta tienen la responsabilidad de cómo se usa la IA generativa en las empresas que supervisan, y las respuestas que reciben deberían ayudarlos a cumplir con esa responsabilidad de manera inteligente.

SOBRE LOS AUTORES)

Frithjof Lund es socio sénior en la oficina de Oslo de McKinsey, Dana Maor es socia sénior en la oficina de Tel Aviv, Nina Spielmann es experta sénior en la oficina de Zúrich y Alexander Sukharevsky es socio sénior en la oficina de Londres.

Fuente McKinsey – https://www.mckinsey.com/capabilities/quantumblack/our-insights/four-essential-questions-for-boards-to-ask-about-generative-ai