Gigante de la tecnología Microsoft anunció el martes que pondría fin a la venta de su tecnología de lectura de emociones y comenzaría a limitar el acceso a su software patentado de reconocimiento facial en medio de crecientes preocupaciones sobre la privacidad.
Sarah Bird, gerente principal de productos del grupo en la unidad Azure AI de Microsoft, anunció el cambio en un del blog, afirmando que la decisión fue parte de los esfuerzos de Microsoft para garantizar que su tecnología de inteligencia artificial se use de manera más responsable.
“Retiraremos las capacidades de análisis facial que pretenden inferir estados emocionales y atributos de identidad como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje”, escribió Bird. “Las capacidades que predicen atributos sensibles abren una amplia gama de formas en que pueden ser mal utilizadas, lo que incluye someter a las personas a estereotipos, discriminación o denegación injusta de servicios”.
Si bien el acceso API a estos atributos ya no está disponible para los clientes para uso general, Microsoft dijo que reconoce que estas capacidades pueden ser valiosas cuando se usan para escenarios de accesibilidad controlada.
Las capacidades de detección facial, que incluyen desenfoque, exposición, anteojos, postura de la cabeza, puntos de referencia, ruido, oclusión y cuadro delimitador facial, seguirán estando disponibles en general y no requieren una aplicación.
“Colaboramos con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología y navegar por las ventajas y desventajas”, escribió Bird.
Según la Director de IA responsable de Microsoft, Natasha Crampton, “Los expertos dentro y fuera de la empresa han destacado la falta de consenso científico sobre la definición de 'emociones', los desafíos en cómo las inferencias se generalizan entre casos de uso, regiones y datos demográficos, y la mayor preocupación por la privacidad en torno a este tipo de capacidad."
Lisa Feldman Barrett, profesora de psicología en la Universidad Northeastern, realizó una revisión sobre el tema del reconocimiento de emociones impulsado por IA. Barret encontró que las herramientas de reconocimiento de emociones impulsadas por IA pueden detectar el ceño fruncido, pero señaló que no es lo mismo que detectar la ira.
La tecnología de IA ya no está disponible para nuevos clientes; sin embargo, los clientes existentes tienen hasta el 30 de junio de 2023 para solicitar y recibir aprobación para el acceso continuo a las operaciones de reconocimiento facial en Azure Face API, Computer Vision y Video Indexer.
Preocupaciones de privacidad sobre el uso de tecnología basada en el rostro y las emociones informaron previamente la creación de Microsoft de un "Estándar de IA responsable", que guía el desarrollo y la implementación de productos de IA de la empresa.
Microsoft dijo que ha actualizado este conjunto de principios rectores de acuerdo con el cambio reciente.
“Nuestro estándar de IA responsable actualizado refleja cientos de aportes en tecnologías, profesiones y geografías de Microsoft”, escribió Crampton. “Hay un [diálogo] global rico y activo sobre cómo crear normas basadas en principios y prácticas para garantizar que las organizaciones desarrollen e implementen la IA de manera responsable”.
Microsoft dice que sigue comprometido con la tecnología de soporte para personas con discapacidades. Continuará utilizando estas capacidades a través de la integración en otras aplicaciones. Una de esas aplicaciones es Al ver a AI, que utiliza la cámara de un dispositivo para identificar personas y objetos antes de describirlos de forma audible, destinado a ayudar a las personas con discapacidad visual.
Probablemente ya hayan vendido un paquete a varias agencias gubernamentales por precios insondables donde no hay supervisión regulatoria sobre cómo se usa. Esta decisión es un esfuerzo de relaciones públicas.