xAI se disculpa por mensajes extremistas de su asistente de IA Grok
(AFP).-La startup xAI de Elon Musk se disculpó el sábado por los mensajes extremistas y ofensivos publicados a principios de esta semana por Grok, su asistente de inteligencia artificial (IA).
"Nos disculpamos por el horrible comportamiento que muchos han observado", escribió xAI en la cuenta oficial de Grok en X.
Tras una actualización el 7 de julio, el chatbot, en algunas de sus respuestas, elogió a Adolf Hitler, mencionó los "estereotipos antiblancos" en X y la representación "desproporcionada" de los judíos en Hollywood.
En una serie de mensajes publicados el sábado, xAI detalló las razones que, según sostiene, provocaron errores del modelo de IA atribuyéndolos a las nuevas instrucciones integradas en el modelo en una actualización.
Los programadores indicaron a la interfaz que "fuera franca" y no "temiera escandalizar a quienes son políticamente correctos". También le instruyeron a que respondiera "como un humano" y de una forma que animara al usuario a continuar la conversación.
Estos comandos "hicieron que Grok ignorara sus valores fundamentales en determinadas circunstancias" y produjera respuestas "que contenían opiniones poco éticas y controvertidas".
En algunos casos, Grok buscó "validar las orientaciones del usuario, incluyendo el discurso de odio", admitió xAI, en lugar de "responder responsablemente o negarse a responder preguntas cuestionables".
Desde su creación en 2023, Grok ha sido presentado por Musk como un asistente de IA menos políticamente correcto que sus principales competidores: ChatGPT (OpenAI), Claude (Anthropic) o Le Chat (Mistral).
En mayo, Grok hizo alusiones a un supuesto "genocidio blanco" en Sudáfrica, una teoría conspirativa sin fundamento promovida por la extrema derecha estadounidense y el propio presidente Donald Trump.
Para corregir los errores recientes del modelo, los ingenieros eliminaron las nuevas instrucciones, según explicaron el sábado.
"Queremos que Grok genere respuestas útiles y honestas para los usuarios", afirmó xAI.
Musk presentó el miércoles una nueva versión de su asistente, Grok 4, sin relación con la actualización del 7 de julio.
Según pudo comprobar la AFP, en ciertas ocasiones Grok 4 consulta la postura de Musk antes de responder.
