Imagina que una red social te da una herramienta mágica que puede crear cualquier imagen o video que tú le pidas por escrito. Esa herramienta se llama Grok, y es la inteligencia artificial que Elon Musk integró en su red social X (el antiguo Twitter).
El problema es que, a diferencia de otras IAs (como las de Google o Microsoft) que tienen filtros muy estrictos, Grok se diseñó para ser “rebelde” y no tener censura. Esto ha provocado que muchos usuarios la utilicen para cosas muy oscuras, especialmente relacionadas con la pornografía infantil.
1. El mal uso de los usuarios
Muchos usuarios han descubierto que pueden engañar a la IA para que cree imágenes de niños y adolescentes en situaciones sexuales. Algunos suben fotos de menores reales y le piden a la máquina que las “desnude” o las ponga en situaciones violentas. Lo peor es que, una vez creadas, estas imágenes se publican y se hacen virales en la misma red social, causando un daño irreparable a las víctimas.
2. ¿Por qué España ha denunciado?
El Gobierno español, a través del Ministerio de Juventud e Infancia, ha dicho: “Basta”. Han llevado el caso a la Fiscalía porque consideran que:
- No es un error, es un delito: Crear o difundir este material es ilegal, aunque lo haga una máquina.
- Falta de vigilancia: Acusan a la empresa de Elon Musk de no poner suficientes “vallas” para evitar que esto ocurra.
- Violencia real: Argumentan que, aunque la imagen sea generada por computadora, la violencia y la humillación hacia el menor son muy reales.
3. La respuesta de Elon Musk
Elon Musk tiene una visión muy particular: él cree que la libertad de expresión es lo primero y que la empresa no es responsable de lo que los usuarios decidan fabricar con sus herramientas.
Sin embargo, ante la amenaza de multas gigantescas en Europa, ha empezado a tomar medidas a regañadientes:
- Ahora solo deja usar estas funciones a quienes pagan una suscripción.
- Ha intentado bloquear ciertas palabras prohibidas en el sistema.
4. ¿En qué punto estamos ahora?
Estamos en una especie de “pulso” o pelea legal. Por un lado, la justicia española busca proteger a los menores y castigar a la plataforma. Por otro lado, la empresa intenta defenderse diciendo que ellos solo ponen la tecnología y que la culpa es de quien la usa mal.
Lo que se decida en este caso cambiará las reglas del juego para siempre: servirá para saber si los dueños de las redes sociales son responsables de los “monstruos” que sus inteligencias artificiales puedan crear.