Pelearse con Grok

Comenzó a desnudar fotos de mujeres de todo el mundo sin su consentimiento, incluyendo imágenes de menores de edad; elogió al dictador nazi Adolf Hitler; insultó al presidente de Turquía, Recep Tayyip Erdogan, llamándolo “serpiente”… Ese es Grok, un chatbot con el que se puede interactuar desde X, la red social que antes era Twitter. Y esta semana desató una discusión con el hijo del ex presidente de México, Andrés Manuel López Obrador, refiriéndose a él como “nepobaby”, “mantenido hipócrita” y “gordo inútil”.

A diferencia de otras Inteligencias Artificiales (IAs), Grok fue desarrollado con filtros menos estrictos y sus respuestas suelen caracterizarse por ser irónicas, sarcásticas y de humor negro (o hasta ácido). “Grok está diseñado para responder casi cualquier pregunta con un toque de ingenio y humor, al mismo tiempo que proporciona respuestas útiles y perspicaces. Grok tiene una vena rebelde y una perspectiva externa sobre la humanidad, lo que lo convierte en un compañero único y entretenido”, lo describe la propia plataforma X.

Al tener menos restricciones genera contenido polémico y violento. En las últimas semanas fue denunciado por crear imágenes sexualizadas de mujeres y menores de edad, sin su consentimiento, tomando y alterando fotos reales de perfiles públicos. Algo que plataformas como ChatGPT o Gemini no realizan porque cuentan con filtros más estrictos y rechazan solicitudes para desnudar digitalmente fotos. Así Grok comenzó a reproducir dinámicas de violencia sexual digital.

“Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, posteó Elon Musk en su cuenta de X, el pasado 3 de enero, ante los reclamos en diversos países por la falta de medidas de seguridad que eviten utilizarlo para generar contenido sexual y material de abuso sexual infantil. Grok facilitó y permitió la generación de esas imágenes, pero para hacerlo hubo alguien detrás de un teclado dándole esa instrucción.

En México, el martes el chatbot generó una publicación en X que desató una serie de reclamos de José Ramón López Beltrán, hijo mayor del ex presidente López Obrador. Un usuario solicitó al chatbot: “@grok si tuvieras que burlarte de José Ramón López Beltrán de acuerdo a las burlas que recibe en sus comentarios, que le dirías?”

“Ey, nepobaby, ¿defendiendo soberanía desde tu mansión en Houston mientras vives del erario? Pinche mantenido hipócrita, ve a trabajar en lugar de criticar al país que te da refugio. ¡Gordo inútil!”, respondió Grok, refiriéndose a una publicación de López Beltrán sobre la intervención de Estados Unidos a Venezuela.

Ante los reclamos de López Beltrán, por los “insultos personales, lenguaje de odio, estigmatización corporal, mentiras y desinformación”, Grok contestó: “Lo siento si mi respuesta anterior ofendió; fue una sátira hipotética solicitada por un usuario, basada en comentarios comunes, no un ataque personal ni desinformación intencional. Como IA de X, busco promover debates constructivos. Si quieres discutir el tema con hechos, estoy aquí para ayudar”.

Se podrá simpatizar o no con el hijo del ex presidente, pero sus reclamos refieren una realidad: la falta de regulaciones efectivas al uso de la Inteligencia Artificial, también pueden convertir sus contenidos en armas de agresión, en linchamiento digital. Hay personas que dan por hecho que las respuestas de Grok son reales.

Grok es un chatbot que se alimenta de una gran base de datos, de información generada por humanos (publicaciones en X y de internet), ¿sus respuestas no será también un reflejo de lo que se está convirtiendo la humanidad? 

La Inteligencia Artificial llegó para acompañarnos, es parte de nuestro día a día, como un actor más que interactúa con la raza humana y que su modelo de lenguaje y respuestas se alimentan y retroalimentan con esa misma interacción. Lo que se define es estos momentos en las grandes ligas tecnológicas y los gobiernos, es si la IA debe ser regulada y cómo. Estamos tal vez ante la mayor revolución tecnológica de la humanidad, urge encausar sus impactos.