Expertos alertan sobre riesgos de Inteligencia Artificial en finanzas y empresas
Figuras destacadas de Silicon Valley han extendido sus preocupaciones sobre los peligros de la inteligencia artificial (IA) más allá del ámbito tecnológico. Ahora, la ansiedad respecto a la IA se ha trasladado al sistema jurídico, reuniones globales de líderes empresariales y reguladores clave de Wall Street.
La Autoridad Reguladora de la Industria Financiera (FINRA), entidad autorreguladora del sector de valores, recientemente clasificó a la IA como un «riesgo emergente». En paralelo, el Foro Económico Mundial de Davos, Suiza, publicó una encuesta que destaca la desinformación generada por la IA como la mayor amenaza a corto plazo para la economía mundial.
Estos informes se suman a las advertencias previas, como la afirmación del Consejo de Supervisión de la Estabilidad Financiera de Washington, que alertó sobre posibles «daños directos a los consumidores» causados por la IA. Gary Gensler, presidente de la Comisión del Mercado de Valores (SEC), también ha expresado públicamente su preocupación por el riesgo que representa el uso generalizado de modelos de IA en decisiones financieras.
Durante la conferencia anual del Foro Económico Mundial, la inteligencia artificial se ha convertido en un tema central, abordándose en varios paneles y eventos. Un informe reciente del foro revela que la desinformación generada por la IA, potenciada por chatbots, es identificada como el principal riesgo a corto plazo para la economía global.
En un contexto electoral, la encuesta del foro destaca el temor a que la IA facilite la propagación de noticias falsas y aumente los conflictos sociales. Informes indican que China ya está utilizando IA generativa para influir en la política de Taiwán, mediante la creación de contenidos de noticias falsas.
El sector financiero también ha expresado su inquietud. La FINRA señala que la IA plantea preocupaciones sobre precisión, privacidad, parcialidad y propiedad intelectual, a pesar de sus posibles beneficios en costos y eficiencia. El Consejo de Supervisión de la Estabilidad Financiera advierte sobre posibles decisiones sesgadas y fallos no detectados en el diseño de la IA, que podrían afectar la estabilidad financiera.
Gensler de la SEC ha sido crítico con la IA, solicitando información a asesores de inversión sobre su uso. La SEC ha propuesto nuevas normas para evitar conflictos de intereses entre asesores que emplean análisis predictivo de datos basado en IA y sus clientes.
Aunque las empresas financieras ven oportunidades para mejorar la comunicación y la gestión de carteras mediante la IA, también reconocen riesgos significativos. Algoritmos financieros podrían producir decisiones sesgadas, negando acceso al crédito a minorías o incluso desencadenando un colapso del mercado si múltiples instituciones confían en el mismo sistema de IA.
A medida que la IA se vuelve más compleja, algunos expertos temen que la automatización se convierta en una «caja negra», incapaz de explicar decisiones, socavando la confianza en transacciones financieras. La preocupación por los riesgos de la IA ha generado debates tanto en Silicon Valley como en foros globales, destacando la necesidad de abordar estos desafíos de manera efectiva y equilibrada.
