La UE decide prohibir las aplicaciones de 'nudificación' tras el escándalo de Grok Deepfake

La Comisión Europea está investigando si se deben prohibir las aplicaciones de "fotografías" de IA que desnudan a personas en fotografías sin su consentimiento, tras la reacción pública por el contenido profundamente falso creado y distribuido por Grok en X. como informa Politico.

La semana pasada, los miembros del Parlamento Europeo pidieron que se prohibieran los dispositivos en virtud de la ley de inteligencia artificial más ambiciosa del bloque, citando un aumento en las imágenes pornográficas creadas a través de la plataforma y bendición en x. Aunque X anunció cambios destinados a reducir la difusión de noticias falsas, Politico informó que las medidas no afectaron a los usuarios del asistente de Grok.

Un portavoz de la comisión dijo a Politico que la administración está "investigando este asunto". Los legisladores sostienen que las aplicaciones deberían agregarse a la lista de actividades prohibidas por la ley, que estará prohibida a partir de febrero de 2025. algunos usan IA se considera perjudicial para la seguridad pública, los derechos fundamentales o la vida.

Estas restricciones específicas no incluyen contenido inapropiado o inapropiado. herramientas de traducción. El eurodiputado liberal irlandés Michael McNamara, que dirige el grupo AI del Parlamento, dijo a Politico que el argumento de Grok mostraba el deseo de ampliar la lista de prohibiciones. "Esto es algo muy malo que debía prohibirse", dijo, añadiendo que los legisladores no previeron la rápida propagación de los medios artificiales cuando se aprobó la ley en 2023.

Los expertos citaron a Politico diciendo que la exención refleja una falta de voluntad política para ampliar el alcance de las prohibiciones durante las negociaciones. La única medida clara de la ley sobre los bolsillos profundos es una requisitos de etiqueta Diseñado para ayudar a los usuarios a comprender el contenido creativo, entrará en vigor en agosto de 2026.

La Comisión debe realizar revisiones anuales de la lista restringida y proponer revisiones, aunque tal medida podría abrir negociaciones controvertidas. Un enfoque alternativo, dijo Politico, es autorizar bajo las condiciones que rigen los modelos de IA para fines generales, que según las empresas reducen los problemas del sistema -incluidos los "modelos no consensuados"- que la Oficina de IA de la UE puede formalizar. únete a x.

¿Necesitar ayuda?

Si tiene preguntas o inquietudes sobre pautas, reglas y regulaciones internacionales, no dude en comunicarse con Babel. Sus contadores públicos pueden brindarle conocimientos valiosos y garantizar que usted esté informado y sea relevante.