Los reguladores financieros estadounidenses han poner sus miras en la creciente proliferación de plataformas de inteligencia artificial, como ChatGPT de OpenAI. La tecnología naciente ya se está aprovechando para producir potentes algoritmos, informó The Atlanta Journal-Constitution.
“Existe esta narrativa de que la IA no está regulada en absoluto, lo cual no es realmente cierto”, dijo Ben Winters, asesor principal del Centro de información de privacidad electrónica, según el AJC. “Están diciendo: 'Solo porque usas IA para tomar una decisión, eso no significa que estás exento de responsabilidad con respecto a los impactos de esa decisión. Esta es nuestra opinión al respecto. Estamos mirando'”, dijo.
Las instituciones financieras ya han experimentado multas relacionadas con los sistemas automatizados. La Oficina de Protección Financiera del Consumidor (CFPB, por sus siglas en inglés) dijo que había impuesto multas contra los bancos que usaban el enfoque que resultó en la ejecución hipotecaria indebida, por ejemplo.
Un desafío para los reguladores es el conocimiento tecnológico necesario para navegar en la industria en rápida evolución. Según Rohit Chopra, director de CFPB, su agencia "ya ha comenzado a trabajar para continuar fortaleciéndose internamente cuando se trata de incorporar científicos de datos, tecnólogos y otros para asegurarse de que podamos enfrentar estos desafíos", según el AJC. .
La Comisión de Igualdad de Oportunidades en el Empleo, el Departamento de Justicia, la CFPB y la Comisión Federal de Comercio están asignando recursos para administrar la IA, dicen los representantes de cada grupo.
“Una de las cosas que estamos tratando de dejar en claro es que si las empresas ni siquiera entienden cómo su IA toma decisiones, realmente no pueden usarla”, dijo Chopra, informó el AJC. “En otros casos, estamos analizando cómo se cumplen nuestras leyes de préstamos justos en lo que respecta al uso de todos estos datos”, dijo.
Cuando las instituciones financieras emiten una decisión crediticia adversa, deben poder explicarla, de acuerdo con la Ley de informes crediticios justos y la Ley de igualdad de oportunidades crediticias. Sin embargo, con la IA, la toma de decisiones puede volverse opaca. En esos casos, según los reguladores, no se deben usar algoritmos.
“Creo que había una sensación de que, 'Oh, démoslo a los robots y no habrá más discriminación'”, dijo Chopra, según el AJC. “Creo que el aprendizaje es que eso en realidad no es cierto en absoluto. De alguna manera, el sesgo está integrado en los datos”.
La presidenta de la EEOC, Charlotte Burrows, tiene preocupaciones similares sobre el empleo, y enfatiza que habrá medidas contra el uso de IA que filtre a los solicitantes con discapacidades, por ejemplo.
En una conferencia celebrada a principios de mayo, un importante abogado de OpenAI sugirió que la industria ayudara a encabezar el marco regulatorio.
“Creo que primero comienza tratando de llegar a algún tipo de estándares”, dijo Jason Kwon, asesor general de OpenAI, durante una cumbre tecnológica en Washington, DC, según el AJC. “Esos podrían comenzar con los estándares de la industria y algún tipo de unión en torno a eso. Y las decisiones sobre si hacerlos obligatorios o no, y también cuál es el proceso para actualizarlos, esas cosas son probablemente un terreno fértil para más conversación”.
El jefe de OpenAI, Sam Altman, incluso sugirió que se formara un organismo regulador y de licencias de IA dirigido por el gobierno. La supervisión del gobierno “será fundamental para mitigar los riesgos de una inteligencia artificial cada vez más poderosa”, advirtió Altman.
Trackbacks / Pingbacks