El número de directores de inteligencia synthetic (CAIO) casi se ha triplicado en los últimos cinco años, según LinkedIn. Empresas de todos los sectores se están dando cuenta de la necesidad de integrar la inteligencia synthetic (IA) en sus estrategias centrales desde arriba para evitar quedarse atrás. Estos líderes de IA son responsables de desarrollar un plan para la adopción y supervisión de la IA tanto en las empresas como en el gobierno federal.
Tras una reciente orden ejecutiva de la administración Biden y un aumento meteórico en la adopción de la IA en todos los sectores, la Oficina de Gestión y Presupuesto (OMB) publicó un memorando sobre cómo las agencias federales pueden aprovechar las oportunidades de la IA y al mismo tiempo gestionar sus riesgos.
Muchas agencias federales están designando CAIO para supervisar el uso de la IA dentro de sus dominios, promover la innovación responsable en la IA y abordar los riesgos asociados con la IA, incluida la IA generativa (gen AI), considerando su impacto en los ciudadanos. Pero, ¿cómo equilibrarán estas CAIO las medidas regulatorias y la innovación? ¿Cómo cultivarán la confianza?
Tres líderes de IBM ofrecen sus concepts sobre las importantes oportunidades y desafíos que enfrentan las nuevas CAIO en sus primeros 90 días:
1. “Considerar la seguridad, la inclusión, la confiabilidad y la gobernanza desde el principio”.
—Kush Varshney, miembro de IBM
Los primeros 90 días como director de IA serán intensos y rápidos, pero aun así debes reducir el ritmo y no tomar atajos. Considere la seguridad, la inclusión, la confiabilidad y la gobernanza desde el principio, en lugar de considerarlas como consideraciones que se agregarán al last. Pero no permita que la cautela y la perspectiva crítica de su agente de cambio social interno apaguen el optimismo de su tecnólogo interno. Recuerde que sólo porque la IA esté aquí ahora, su agencia no queda exenta de sus responsabilidades existentes hacia la gente. Considere a los más vulnerables entre nosotros al especificar el problema, comprender los datos y evaluar la solución.
No tenga miedo de replantear la justicia y pasar de simplemente dividir recursos limitados de manera equitativa a descubrir cómo puede cuidar a los más necesitados. No tengamos miedo de replantear la responsabilidad y pasar de simplemente cumplir con las regulaciones a administrar la tecnología. No tenga miedo de replantear la transparencia y pasar de simplemente documentar las decisiones tomadas después del hecho a buscar la opinión del público de antemano.
Al igual que la planificación urbana, la IA es infraestructura. Las decisiones que se tomen ahora pueden afectar a generaciones futuras. Guíese por el principio de séptima generación, pero no sucumba a argumentos de riesgo existencial a largo plazo a expensas de daños claros y presentes. Esté atento a los daños que hemos encontrado durante varios años a través del modelado tradicional de aprendizaje automático, y también a los daños nuevos y amplificados que estamos viendo a través de modelos básicos previamente entrenados. Elija modelos más pequeños cuyo costo y comportamiento puedan ser gobernados. Pilotar e innovar con una cartera de proyectos; reutilizar y reforzar soluciones a patrones comunes que surjan; y solo entonces entregar a escala a través de un enfoque de plataforma multimodelo.
2. “Crear un desarrollo de IA confiable”.
—Christina Montgomery, vicepresidenta y directora de privacidad y confianza de IBM
Para impulsar la eficiencia y la innovación y generar confianza, todas las CAIO deberían comenzar por implementar un programa de gobernanza de la IA para ayudar a abordar las cuestiones éticas, sociales y técnicas fundamentales para crear un desarrollo y una implementación de la IA confiables.
En los primeros 90 días, comience por realizar una evaluación de madurez organizacional de la línea de base de su agencia. Revise los marcos y las herramientas de evaluación para tener una indicación clara de las fortalezas y debilidades que afectarán su capacidad para implementar herramientas de inteligencia synthetic y ayudar con los riesgos asociados. Este proceso puede ayudarle a identificar un problema u oportunidad que una solución de IA puede abordar.
Más allá de los requisitos técnicos, también deberá documentar y articular la ética y los valores de toda la agencia con respecto a la creación y el uso de la IA, que informarán sus decisiones sobre el riesgo. Estas directrices deben abordar cuestiones como la privacidad de los datos, el sesgo, la transparencia, la responsabilidad y la seguridad.
IBM ha desarrollado principios de confianza y transparencia y un guide de “Ética por diseño” que puede ayudarle a usted y a su equipo a poner en práctica esos principios. Como parte de este proceso, establecer mecanismos de rendición de cuentas y supervisión para garantizar que el sistema de IA se utilice de manera responsable y ética. Esto incluye establecer líneas claras de rendición de cuentas y supervisión, así como procesos de seguimiento y auditoría para garantizar el cumplimiento de las directrices éticas.
A continuación, debe comenzar a adaptar las estructuras de gobernanza existentes de su agencia para respaldar la IA. La IA de calidad requiere datos de calidad. Muchos de sus programas y prácticas existentes (como la gestión de riesgos de terceros, adquisiciones, arquitectura empresarial, aspectos legales, privacidad y seguridad de la información) ya se superpondrán para crear eficiencia y aprovechar todo el poder de los equipos de su agencia.
La fecha límite del 1 de diciembre de 2024 para incorporar las prácticas mínimas de gestión de riesgos a la IA que afecta la seguridad y los derechos, o dejar de usar la IA hasta que se logre el cumplimiento, llegará más rápido de lo que piensa. En sus primeros 90 días en el trabajo, aproveche las herramientas automatizadas para agilizar el proceso y recurra a socios confiables, como IBM, para ayudarlo a implementar las estrategias que necesitará para crear soluciones de IA responsables.
3. “Establecer un enfoque que abarque toda la empresa”.
—Terry Halvorsen, vicepresidente de IBM, desarrollo de clientes federales
Durante más de una década, IBM ha estado trabajando con agencias federales de EE. UU. para ayudarlas a desarrollar la IA. La tecnología ha permitido avances importantes para muchas agencias federales en eficiencia operativa, productividad y toma de decisiones. Por ejemplo, la IA ha ayudado al Servicio de Impuestos Internos (IRS) a acelerar el procesamiento de las declaraciones de impuestos en papel (y la entrega de reembolsos de impuestos a los ciudadanos), al Departamento de Asuntos de Veteranos (VA) a reducir el tiempo que lleva procesar las reclamaciones de los veteranos, y el Comando de Fuerzas de la Flota de la Armada planifican y equilibran mejor los suministros de alimentos y, al mismo tiempo, reducen los riesgos relacionados con la cadena de suministro.
IBM también ha reconocido desde hace tiempo los riesgos potenciales de la adopción de la IA y ha abogado por una gobernanza sólida y por una IA que sea transparente, explicable, sólida, justa y segura. Para ayudar a mitigar los riesgos, simplificar la implementación y aprovechar las oportunidades, todas las CAIO recién nombradas deben establecer un enfoque de datos para toda la empresa y un marco de gobernanza para la adopción de la IA. La accesibilidad, el volumen y la complejidad de los datos son áreas que deben comprenderse y abordarse. “A nivel empresarial” sugiere que el desarrollo y la implementación de la IA y la gobernanza de datos salgan de los silos organizacionales tradicionales de las agencias. Involucre a las partes interesadas de toda su agencia, así como a cualquier socio de la industria. Mida sus resultados y aprenda sobre la marcha, tanto de los esfuerzos de su agencia como de los de sus pares en todo el gobierno.
Y, por último, el viejo dicho de “comenzar con el fin en mente” es tan cierto hoy como siempre. IBM recomienda que las CAIO alienten el seguimiento de un enfoque de IA basado en casos de uso, lo que significa identificar los resultados y experiencias específicos que espera crear y respaldar las tecnologías de IA específicas que utilizará (IA generativa, IA tradicional, and many others.) a partir de ahí.
Las CAIO predican con el ejemplo
El liderazgo público puede marcar la pauta para la adopción de la IA en todos los sectores. La creación del puesto CAIO juega un papel basic en el futuro de la IA, permitiendo a nuestro gobierno modelar un enfoque responsable para la adopción de la IA en las empresas, el gobierno y la industria.
IBM ha desarrollado herramientas y estrategias para ayudar a las agencias a adoptar la IA de manera eficiente y responsable en diversos entornos. Estamos listos para apoyar a estas nuevas CAIO a medida que comiencen a crear implementaciones de IA éticas y responsables dentro de sus agencias.
¿Se pregunta qué priorizar en su viaje hacia la IA?
Solicite una sesión informativa sobre estrategia de IA con IBM
¿Te resultó útil este artículo
SíNo
