El panorama de la IA ha cambiado drásticamente en el último año con la rápida adopción de la IA generativa (GenAI). Esto dificulta que las organizaciones sean cautelosas con la tecnología y ejerce presión sobre los programas de IA responsable (RAI) para mantenerse al día con los avances continuos.
Según el informe “Building Robust RAI Programs as Third-Party AI Tools Proliferate”, el 53% de las organizaciones utiliza exclusivamente herramientas de IA de terceros y no tienen herramientas diseñadas o desarrolladas internamente. Sin embargo, el 55% de todas las fallas relacionadas con esta tecnología, provienen justamente de herramientas de inteligencia artificial externas.
“El panorama de la IA, tanto desde el punto de vista tecnológico como normativo, ha cambiado radicalmente desde que publicamos nuestro informe el año pasado. De hecho, con la repentina y rápida adopción de herramientas de IA generativa, la IA se ha convertido en tema de conversación habitual”, afirma Elizabeth Renieris, editora invitada del SMR del MIT y coautora del informe.
Los líderes de RAI han aumentado del 16% al 29% año tras año. A pesar de este progreso, el 71% de las organizaciones no son líderes. Con los riesgos significativos que surgen de las herramientas de IA de terceros, es hora de que la mayoría de las organizaciones redoblen sus esfuerzos en RAI.
La gran mayoría (78%) de las organizaciones encuestadas depende en gran medida de la IA de terceros, lo que las expone a una serie de riesgos, incluido el daño a la reputación, la pérdida de confianza de los clientes, pérdidas financieras, sanciones regulatorias, desafíos de cumplimiento y litigios. Aun así, una quinta parte de las organizaciones que utilizan herramientas de IA de terceros no evalúa sus riesgos en absoluto.
El panorama regulatorio está evolucionando casi tan rápidamente como la IA misma, con muchas regulaciones nuevas específicas de la IA que entran en vigor de manera escalonada. Aproximadamente la mitad (51%) de las organizaciones encuestadas informa estar sujetas a regulaciones no específicas de la IA que, sin embargo, se aplican a su uso de la IA, incluyendo una alta proporción de organizaciones en servicios financieros, seguros, atención médica y sectores públicos.
Las organizaciones con un CEO que participa directamente en temas asociados con la inteligencia artificial responsable, tienen más probabilidades de invertir en ella, que aquellas con un CEO menos involucrado (39% frente al 22%).
América del Sur se rezaga en RAI, siendo la única región que experimentó una disminución del 3% en el porcentaje de organizaciones consideradas líderes en RAI desde 2022. La brecha en términos de madurez y adopción de RAI entre esta región y otras se está ampliando, lo que destaca la necesidad urgente de un mayor enfoque y acción en la implementación.
Fuente: Boston Consulting Group
