El organismo regulador de medios del Reino Unido, Ofcom, abrió una investigación formal contra la red social X, propiedad de Elon Musk, pues Grok, su herramienta de inteligencia artificial, ha facilitado la creación y difusión de imágenes sexualmente explícitas sin consentimiento, incluidas aquellas que podrían considerarse material de abuso sexual infantil.
La investigación responde a múltiples informes sobre el uso de la IA integrada en la plataforma para generar y compartir imágenes de personas sin ropa o sexualizadas, incluyendo a menores de edad, lo que en el Reino Unido es ilegal, por lo que a partir de esta semana estará regulada bajo la Ley de Seguridad en Línea.
Ofcom ha señalado que se centrará en si X evaluó adecuadamente los riesgos asociados a su herramienta de IA, tomando medidas suficientes para evitar que los usuarios accedieran a este tipo de contenidos y si activó protocolos efectivos de protección, especialmente para menores de edad.
La normativa del país obliga a las plataformas tecnológicas a prevenir la exposición a contenido ilegal, retirarlo de inmediato una vez identificado y garantizar la seguridad de sus usuarios. En caso de incumplimiento, el regulador puede exigir medidas correctivas, imponer multas significativas o fijas, incluso solicitar bloqueos de acceso dentro del Reino Unido.
El anuncio de la investigación se produce en un contexto de presión política y social creciente, dado que India y Francia también han denunciado a X y exigido explicaciones. Las autoridades británicas han enfatizado que la generación de imágenes íntimas no consentidas mediante IA representa un abuso y una vulneración de la dignidad de las personas.
X respondió afirmando que elimina el contenido ilegal, suspende cuentas responsables y coopera con las autoridades, pero la investigación de Ofcom determinará si estas medidas serán suficientes, de acuero al marco legal vigente en el país.
Deja un comentario