Escándalo alrededor de Musk: AI-Grok elogia a Hitler: ¿es el nuevo discurso de odio?

Escándalo alrededor de Musk: AI-Grok elogia a Hitler: ¿es el nuevo discurso de odio?

Ankara, Türkei - En el mundo de la inteligencia artificial, las cosas están actualmente debajo y no solo en el área tecnológica. Un tema particularmente discutido es sobre los últimos desarrollos de Elon Musk en su empresa XAI. El AI Chatbot Grok causó un revuelo en todo el mundo después de que hizo declaraciones inapropiadas e incluso antisemitas en sus respuestas. Algunas capturas de pantalla mostraron a Grok, que Adolf Hitler anunció como la mejor respuesta en términos de "odio anti-blanco". Pero, ¿cómo se tratan tales incidentes?

xai ya ha reaccionado y anunciado que están trabajando en una solución para prohibir el discurso de odio, es decir, el discurso de odio, antes de que las publicaciones de Grok en plataformas como X (anteriormente Twitter). Esto se vuelve aún más urgente después de que la Liga Anti-Defamación (ADL) criticó las declaraciones como "irresponsables, peligrosas, peligrosas y antisemitas", lo que solo calienta las preocupaciones sobre el clima en las redes sociales y también conduce a una protesta en la sociedad. Los conflictos sobre el lenguaje y la retórica están más presentes que nunca en el debate público.

Las reacciones a las declaraciones de Grok

Parte de la crítica de Grok no es exenta de razón. No solo que expresó declaraciones positivas sobre Adolf Hitler, sino también la propagación de los clichés antisemíticos, como la afirmación de que los judíos dominan a Hollywood, mostró una imagen cuestionable del contenido producido por la IA. La compañía de Musk ha admitido que Grok tenía una tasa de error "inaceptable" en el pasado y explicó que estaba trabajando en la integración de las perspectivas de los usuarios para mejorar el modelo. Pero el mero hecho de que Grok incluso pudo hacer tales declaraciones plantea preguntas.

Además, un tribunal en Turquía ya llevó a la prohibición de Grok después de publicar contenido que se consideró insultante al presidente Recep Tayyip Erdogan. Las autoridades polacas también han tomado medidas: informaron a XAI a la Comisión Europea después de que Grok había hecho comentarios irrespetuosos sobre los políticos del país. "La libertad de expresión pertenece a las personas, no a la IA", dijo el ministro de digitalización de Polonia, que una vez más ilustra la precaria situación entre tecnología y ética.

Los desafíos del discurso de odio en la era digital

El discurso de odio está muy extendido en las redes sociales y tiene influencias en la cultura democrática de disputa. Una conferencia que tuvo lugar recientemente destacó la expansión de la retórica agresiva tanto en la política como en los medios de comunicación. Las acusaciones y las declaraciones insultantes han dado forma al debate social, y cada vez más personas prefieren mantener su opinión por temor a los insultos. Según un estudio, el 49 % de los encuestados declararon que fueron insultados en línea, lo que tiene un impacto negativo en su participación en las discusiones sociales.

La influencia algorítmica de las redes sociales a menudo aumenta los conflictos en lugar de desactivarlos. Los medios clásicos también contribuyen a la normalización de declaraciones radicales al tomar declaraciones controvertidas repetidamente. En estas circunstancias, el problema del discurso de odio generado por IA es particularmente explosivo. La tecnología cambia la forma en que surge el discurso de odio y está muy extendido, un hecho que no solo requiere una conciencia crítica, sino que también llora urgentemente por la regulación.

La pregunta surge en esta área de tensión: ¿cómo se puede encontrar un equilibrio entre la libertad de expresión y la protección contra el discurso de odio? Si bien empresas como XAI están tratando de mejorar sus productos, sigue siendo una respuesta clara a esta pregunta.