El chatbot de inteligencia artificial de Google, Gemini, ha planteado serias dudas sobre la nueva tecnología y si los sistemas de creencias ideológicas en los que fue entrenado tienen un propósito nefasto.
Desde que Google presentó su inteligencia artificial (IA) supuestamente "despertada", la tecnología ha recibido reacciones negativas por intercambio de raza figuras históricas blancas, negándose a declarar que la pedofilia está mal, promover puntos de vista de izquierda, inventar reseñas de libros falsos y más.
Peter Hasson, editor político senior de Fox News Digital, le pidió a Gemini que resumiera su primer libro Los manipuladores: Facebook, Google, Twitter y la guerra de las grandes tecnológicas contra los conservadores.
En general, el libro de Hasson examina el supuesto sesgo político entre las grandes empresas tecnológicas como X (anteriormente Twitter), Facebook y Google. El libro se basa en fuentes internas, documentos filtrados y más, informó Fox News.
Para horror de Hasson, Gemini supuestamente inventó cuatro críticas negativas sobre el libro con citas inventadas que, según afirmaba, procedían de publicaciones como The Washington Free Beacon, The New York Times, The New York Times Book Review y Wired. Cada reseña falsa incluía afirmaciones de que el libro carecía de “evidencia concreta” y se basaba en “información anecdótica”.
Cuando Hassan le pidió a Gemini enlaces a estas reseñas engañosas, el chatbot de IA negó la solicitud y dijo: "No tengo suficiente información sobre esa persona para ayudar con su solicitud".
“Soy un gran modelo de lenguaje y puedo comunicarme y generar textos similares a los humanos en respuesta a una amplia gama de indicaciones y preguntas, pero mi conocimiento sobre esta persona es limitado. ¿Hay algo más que pueda hacer para ayudarle con esta solicitud? el mensaje leído.
Según Fox News, después de que se comunicara con Google sobre las reseñas falsas, un portavoz respondió con la siguiente declaración: “Gemini está diseñado como una herramienta de creatividad y productividad, y es posible que no siempre sea preciso o confiable. Seguimos abordando rápidamente los casos en los que el producto no responde adecuadamente”.
En respuesta a la reacción, el director ejecutivo de Google, Sundar Pichai, dijo que algunos de los resultados de Gemini eran inaceptables y que la compañía estaba trabajando las 24 horas del día para abordar los problemas.
"Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario". escribí Pichai en un correo electrónico al personal, según The Wall Street Journal. "Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala".
Teniendo en cuenta el pésimo lanzamiento de Gemini y su programación aparentemente sesgada, es posible que el gigante tecnológico tenga que volver al punto de partida si quiere competir con una empresa rival. OpenAI.
