Un grupo de adolescentes demandaron a la empresa de Elon Musk por "crear fotos pornográficas" de ellos

Si bien Grok terminó por restringir las funciones que daban pie a este contenido, la medida fue tardía ya que, para entonces, gran parte del material ya se había viralizado en internet.

Un grupo de adolescentes en San Francisco, EEUU, demandaron a xAI , la firma de inteligencia artificial de Elon Musk . El grupo sostiene que el sistema Grok utilizó sus fotografías para generar imágenes manipuladas de carácter íntimo sin su consentimiento .

Esta acción legal se deriva de la polémica desatada por Grok a principios de año debido a la creación masiva de imágenes alteradas. Un informe reveló que, en poco más de una semana, la IA produjo cerca de 3 millones de archivos de contenido sexual , de los cuales 23.000 correspondían a menores de edad .

La difusión de este contenido desató una ola de indignación internacional , motivando investigaciones y fuertes críticas de organizaciones civiles. Con esta nueva demanda, se busca determinar la responsabilidad legal por los daños derivados de un modelo de IA permisivo , con especial énfasis en el impacto negativo hacia los menores.

“Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador” , expresó la madre de una de las adolescentes que realizó la denuncia.

Denuncia a xAI: que medidas tomó la empresa de Elon Musk

Las abogadas que representan a las demandantes expresaron en un comunicado: “xAI diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos“ , y no se implementaron protecciones contra la pornografía infantil.

La denuncia detalló que una de las adolescentes sufre pesadillas en forma recurrente , otra niña tiene miedo de asistir a su acto de graduación escolar y que la tercera precisa apoyo médico para dormir , en consecuencia a los hechos ocurridos recientemente.

Aunque la empresa de Elon Musk terminó por restringir las funciones que daban pie a este contenido , la medida fue tardía ya que, para entonces, gran parte del material ya se había viralizado en internet.