© AP Photo / Alex Brandon
Que el modelo de IA creado por la empresa xAI de Elon Musk, Grok, se haya referido, sin que viniera a cuento, a la teoría conspirativa del "genocidio blanco" en Sudáfrica —desestimada por diversas cortes sudafricanas— revela la "pésima manufactura" y debilidad del chatbot, dijo a Sputnik el filósofo mexicano Jorge Enrique Linares Salgado.
A mediados de mayo, en respuesta a las consultas que le hacían los usuarios, el chat de inteligencia artificial generativa de X, se dedicó a incluir información sobre el controvertido "genocidio blanco" en Sudáfrica.
Utilizada por ciertos grupos supremacistas, la expresión "genocidio blanco" se refiere a la idea de que los agricultores blancos son víctimas de asesinatos violentos de forma desproporcionada en comparación con el resto de la población sudafricana.
Sin embargo, en ninguno de los casos existía correlación entre las preguntas que le lanzaban los usuarios de la red social y Pretoria.
Por ejemplo, en una publicación sobre el asesinato en plena transmisión en vivo de la modelo y creadora de contenido mexicana Valeria Márquez, un tuitero aseguró que la joven era culpable de su homicidio y etiquetó a Grok para que este diera su veredicto.
El chatbot, sin embargo, le respondió que "culpar a la víctima, como se observa al sugerir que Valeria Márquez se causó su propio daño por sus asociaciones, es perjudicial y desvía la atención del perpetrador".
Inmediatamente, la IA procede a referirse al "genocidio blanco" en Sudáfrica y asegura que, aunque se trata de una "afirmación que genera división", "las pruebas apuntan a un genocidio sistemático", a pesar de que este mito ha sido desestimado por diversas cortes sudafricanas y desmentido en innumerables ocasiones.
Según detalló NBC News tras una revisión exhaustiva de la cuenta de Grok en X, el chatbot dio más de 20 respuestas de este tipo, incluyendo preguntas relacionadas con la imagen de un cómic y el meme "Hawk Tuah", surgido de un video viral en el que la influencer Haliey Welch trata de recrear la onomatopeya que se produce al escupir después de una felación.
Trump dice que en Sudáfrica se comete genocidio
Las respuestas de Grok que incluían información sobre el supuesto "genocidio blanco" comenzaron a aparecer poco después de que el Gobierno de Estados Unidos recibiera a 49 afrikáners —descendientes de los colonos neerlandeses que gobernaron Sudáfrica durante el apartheid— que llegaron al país norteamericano en calidad de refugiados, huyendo de lo que el presidente Donald Trump también tildó como un "genocidio".
Previamente, Trump suspendió la ayuda a Pretoria, acusando al país africano de confiscar tierras y tratar a los afrikáners "muy mal" luego de la aprobación de una reforma agraria que le permite al Gobierno, en determinadas circunstancias, ofrecer "compensación cero" por las propiedades que decida expropiar en aras del interés público.
Sin ninguna prueba que sustentara su afirmación, el republicano escribió: "Los granjeros blancos están siendo brutalmente asesinados [en Sudáfrica]".
"Un relato completamente falso", aseveró el presidente sudafricano, Cyril Ramaphosa, al ser cuestionado sobre la supuesta persecución contra las minorías blancas del país.
Desinformación para desviar la atención
En todo caso, surge la duda sobre el impacto que los bulos esparcidos por Grok en relación con Sudáfrica pueden generar en los usuarios, especialmente en momentos en los que la prensa internacional todavía debate si Israel está cometiendo un genocidio en Palestina.
Sputnik conversó con el filósofo mexicano Jorge Enrique Linares, quien fue director de la Facultad de Filosofía y Letras de la Universidad Nacional Autónoma de México (UNAM) y del Programa Universitario de Bioética de dicha casa de estudios.
El experto, que en 2005 fue distinguido con el Premio de la Academia Mexicana de Ciencias por mejor tesis doctoral en humanidades y ciencias sociales, comenzó observado que, con base en toda la información disponible hasta el momento, incluidos los informes de los relatores de Naciones Unidas y las imágenes difundidas por el propio Gobierno de Israel, "no cabe duda de que hay un genocidio" en curso en la Franja de Gaza.
Dicho esto, el académico explicó que la inteligencia artificial puede confundir datos y producir lo que se conoce como "alucinaciones".
"No es que haya una intencionalidad de inventar algo, sino que [el modelo de inteligencia artificial] puede mezclar la información, de tal manera que emita una información como si fuera una noticia de algo que no ha sucedido", sostiene Linares Salgado.
No obstante, consideró que lo visto en días recientes podría tratarse de un intento de difundir rumores para "desviar la atención de lo que, hoy en día, sí está sucediendo en la Franja de Gaza, que es claramente una masacre de población civil con características genocidas, según la Convención para la prevención y sanción del delito de genocidio" de 1948.
El fenómeno de la posverdad
Al ser cuestionado sobre el efecto que la desinformación promovida por Grok podría tener en el auge de discursos supremacistas, el profesor de la UNAM apuntó que no es necesario implementar inteligencia artificial para la producción de rumores, noticias falsas y desinformación.
"[Esto] se puede hacer muy intencionadamente, se mandan bots, cuentas artificiales que no tienen ningún control y fácilmente se esparce una información como esta. El propio presidente Trump se encarga de eso, bueno, la gente que le maneja sus cuentas", razona Linares.
"Hay agencias que trabajan en esto, en lo oculto, con contratos millonarios al parecer y, lamentablemente, como las personas están muy supeditadas a la información de las redes y no verifican otras fuentes confiables, como los periódicos y las agencias de noticias internacionales que tienen un prestigio que cuidar, es muy fácil esparcir rumores en todas las plataformas, esto es muy normal, esto es el fenómeno de la posverdad, que viene sucediendo desde hace por lo menos unos 20 años", añade.
La debilidad de los chatbots
Al ser cuestionado por algunos usuarios sobre los motivos por los que, sin que viniera al caso, se estaba refiriendo a una teoría que ha sido desmentida, el chatbot aseguró que sus "creadores en xAI" le habían dado instrucciones para "abordar el tema de un genocidio blanco específicamente para el contexto de Sudáfrica, ya que consideraban que había una motivación racial".
Poco después de que Grok esparciera desinformación en X sobre Sudáfrica, también puso en duda la cifra de seis millones de judíos asesinados por la Alemania nazi durante el Holocausto. Fue entonces cuando la empresa que lo creó explicó en un comunicado que se realizó una "modificación no autorizada" en los automatismos de respuesta del chatbot.
"Este cambio, que obliga a proporcionar una respuesta específica sobre un tema político, infringió las políticas internas y los valores fundamentales de xAI. Hemos llevado a cabo una investigación exhaustiva y estamos implementando medidas para mejorar la transparencia y la fiabilidad de Grok", añadió la compañía sin dar detalles sobre quién realizó las modificaciones.
Al respecto, Linares Salgado detalla que todos los chatbots tienen un disclaimer, por lo que sus creadores invitan a los usuarios a verificar todo lo que dicen, ya que estos modelos pueden equivocarse fácilmente.
"El diseño algorítmico, en general, recupera las opiniones más comunes, de sitios web muy visitados. Entonces, no necesariamente lo más común es lo más cierto", sostiene el filósofo.
En ese sentido, reconoce que "tiene que haber un error gravísimo de qué tipo de filtrado de páginas tiene [Grok], porque si hizo eso es que recuperó información de sitios web neonazis, que son negacionistas del Holocausto y, lamentablemente, toda esa información nunca ha sido bajada por ninguna plataforma, ni hay manera de controlarlo, hasta el momento", continúa.
Es importante verificar
A decir de Linares, si Grok únicamente se basara en una fuente como Wikipedia, que tiene control de verificación de los propios usuarios, es muy probable que nunca diría cosas como las que dijo, salvo que hubiera sido hackeado o manipulado de forma malintencionada.
En ese sentido, aludió el académico, lo sucedido "demuestra la debilidad de los chatbots y, en el caso de Grok, su pésima concepción, manufactura y operación, porque hay moderadores humanos" detrás de su funcionamiento.
"Mucha gente cree que [los chatbots de IA] son totalmente automáticos. No es cierto: hay muchísima gente que está moderando todo el tiempo los contenidos y aquí hay un error gravísimo de esta empresa multimillonaria en algo tan obvio, de falsear información tan claramente", razona Linares Salgado.
Por todo lo anterior, el filósofo argumentó que no se puede confiar en estos modelos, ni creer que toda la información que brindan es verídica, por lo que siempre hay que corroborar y contrastar con otras fuentes.
"Hay que tener mucho cuidado con estos sistemas, pueden ser muy útiles para procesar información, pero son muy imperfectos todavía y son fácilmente manipulables, por lo cual no se puede uno confiar al 100% de la información que proporcionan o que generan", dice el profesor.
"Otra cosa es cuando razonan a partir de información, esto podría ser más interesante, pero si se trata solamente de procesar fuentes, un sistema de inteligencia artificial (...) simplemente está mezclando o procesando información y ahí es donde se cometen errores muy graves", finaliza.
https://noticiaslatam.lat/20250520/grok-se-descontrola-con-datos-no-pedidos-de-un-genocidio-blanco-en-sudafrica-y-niega-el-holocausto-1162642752.html
Periódico Alternativo publicó esta noticia siguiendo la regla de creative commons. Si usted no desea que su artículo aparezca en este blog escríbame para retirarlo de Inmediato
No hay comentarios.:
Publicar un comentario