Indonesia bloquea a Grok por generación de imágenes sexuales sin consentimiento

El gobierno de Indonesia bloqueó este sábado el acceso a Grok, herramienta de inteligencia artificial vinculada a la red social X, al considerar que la creación de imágenes sexuales falsas sin consentimiento constituye una violación grave de los derechos humanos. La medida fue anunciada por el Ministerio de Comunicación y Asuntos Digitales.

De acuerdo con un comunicado oficial, la decisión se tomó luego de que Grok fuera utilizado para generar y difundir imágenes sexualizadas mediante IA. Las autoridades señalaron que el objetivo es proteger a mujeres, niños y a la comunidad en general de los riesgos del contenido pornográfico falso. El gobierno solicitó a X, que cuenta con alrededor de 25 millones de usuarios en el país, una explicación sobre los impactos negativos del uso de esta herramienta.

La suspensión se dio un día después de que X limitara a usuarios de pago la edición de imágenes con Grok, tras denuncias por la manipulación de fotografías de personas sin su consentimiento. Además, autoridades indonesias exigieron a la empresa xAI detallar medidas de mitigación y acciones para prevenir futuros usos indebidos de la tecnología.