La creciente prominencia y el desarrollo de la IA han dado lugar a una severa advertencia por parte del ingeniero que hizo posible la tecnología.
Geoffrey Hinton, el hombre detrás del avance de IA de 2012 que condujo al desarrollo del software de IA actual como ChatGPT, renunció a su trabajo como ingeniero de Google diciendo que ayudar a crear la IA fue un error, Fox Business reportaron.
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo Hinton a The New York Times a través de Fox Business. “Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas”.
Los temores de Hinton sobre el uso potencial de la IA para facilitar el mal comportamiento recuerdan una carta firmada por Elon Musk y más de 1,000 expertos en tecnología que dicen que la IA acarrea un riesgo potencialmente catastrófico para la sociedad en su conjunto.
“Los laboratorios de IA y los expertos independientes deben aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA que son rigurosamente auditados y supervisados por expertos externos independientes”, dice la carta. lee. “Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA”.
Hinton no firmó la carta porque no quería criticar públicamente a Google en ese momento, pero ahora dejó la compañía luego de una llamada telefónica el jueves con el CEO de Google, Sundar Pichai.
Hinton trabajó en Google durante más de 10 años y estaba trabajando con dos estudiantes graduados de Toronto en 2012 cuando lograron el avance que se convertiría en la base de ChatGPT y otros aspectos del desarrollo de IA. El maestro y sus alumnos crearon un algoritmo que podía identificar elementos comunes en las fotos, como perros y automóviles.
Ilya Sutskever, uno de los estudiantes de posgrado que trabajó con Hinton, ahora trabaja como científico jefe de OpenAI.
“Mira cómo era hace cinco años y cómo es ahora”, dijo Hinton, según Fox Business. “Toma la diferencia y propágala hacia adelante. Eso asusta."
