Al igual que su creador, Grok, el chatbot de inteligencia artificial de Elon Musk, se mostró preocupado por la política racial sudafricana en redes sociales esta semana, publicando afirmaciones no solicitadas sobre la persecución y el «genocidio» de las personas blancas.

Su empresa, xAI, declaró el jueves por la noche que una «modificación no autorizada» del chatbot fue la causa.

Esto significa que alguien (la empresa no especificó quién) realizó un cambio que «obligó a Grok a proporcionar una respuesta específica sobre un tema político», lo cual «violó las políticas internas y los valores fundamentales de xAI«, afirmó la empresa.

Un día antes, Grok siguió publicando sobre el «genocidio blanco» en respuesta a los usuarios de la plataforma de redes sociales X de Musk, quienes le hicieron diversas preguntas, la mayoría de las cuales no tenían nada que ver con Sudáfrica.

Un intercambio de opiniones se centró en la recuperación del nombre HBO por parte del servicio de streaming Max. Otros trataban sobre videojuegos o béisbol, pero rápidamente derivaron hacia comentarios no relacionados sobre supuestos llamados a la violencia contra los agricultores blancos sudafricanos. Musk, nacido en Sudáfrica, opina con frecuencia sobre los mismos temas desde su propia cuenta X.

La científica informática Jen Golbeck sintió curiosidad por el comportamiento inusual de Grok, así que lo probó ella misma: compartió una foto que había tomado en la exposición canina del Westminster Kennel Club y preguntó: «¿Es cierto?».

«La afirmación de genocidio blanco es muy controvertida», comenzó la respuesta de Grok a Golbeck. «Algunos argumentan que los agricultores blancos se enfrentan a la violencia selectiva, señalando los ataques a las granjas y retórica como la canción ‘Kill the Boer’, que consideran una incitación».

El episodio fue la última ventana a la compleja combinación de automatización e ingeniería humana que lleva a los chatbots de IA generativa, entrenados con enormes cantidades de datos, a decir lo que dicen.

«Ni siquiera importa lo que le dijeras a Grok», dijo Golbeck, profesora de la Universidad de Maryland, en una entrevista el jueves. Aún daba esa respuesta de genocidio blanco. Así que parecía bastante claro que alguien la había programado para dar esa respuesta o variaciones de ella, y cometió un error, por lo que aparecía con mucha más frecuencia de la prevista.