El uso de inteligencia artificial para crear contenido pornográfico podría llevarte a prisión. Una nueva legislación propuesta busca penalizar la producción de material sexual explícito generado por IA. Aquellos que produzcan deepfakes pornográficos podrían ser sancionados con multas o incluso encarcelamiento, dependiendo de la severidad del delito.
Este nuevo proyecto es parte del esfuerzo del Gobierno del Reino Unido para reforzar la seguridad en línea. El Ministerio de Justicia ha declarado que generar deepfakes explícitos sin el consentimiento de la persona implicada constituye una infracción penal. Las «personas reprensibles» que empleen esta tecnología para crear y distribuir dicho contenido en la red enfrentarán procesos judiciales y sanciones económicas.
«Crear un deepfake sexualmente explícito, aun sin la intención de distribuirlo, si busca causar alarma, humillación o angustia a la víctima, constituirá un delito penal», explicó la oficina gubernamental. La nueva legislación impondrá penas más severas a aquellos que difundan este tipo de contenido en internet. Si una imagen pornográfica generada por IA se propaga ampliamente y se vuelve viral, el responsable será condenado a prisión.
Los cambios en la Ley de Seguridad en Línea posibilitarán que se acuse a los infractores por dos delitos distintos: la creación y la distribución de las imágenes. El Ministerio de Justicia señaló que el uso de contenido falso generado por algoritmos ha aumentado significativamente en los últimos años. Un caso notorio reciente involucró a Taylor Swift, quien fue objeto de deepfakes sexuales que circulaban en X (anteriormente Twitter) en enero.
Reino Unido se alía con empresas tecnológicas para combatir la proliferación de imágenes pornográficas creadas con IA
La nueva propuesta legislativa será presentada al Parlamento para su aprobación, que recientemente clasificó como delito la distribución de imágenes sexuales sin consentimiento en línea. Los deepfakes, que son de particular preocupación no solo en el Reino Unido, sino también en otros países, están siendo objeto de estudio para establecer mecanismos legales eficaces que frenen estas prácticas ofensivas.
Como señaló Laura Farris, ministra de Víctimas y Salvaguardia:
Esto representa otra forma en que ciertas personas intentan degradar y deshumanizar a los demás, especialmente a las mujeres, y puede tener consecuencias devastadoras si el contenido se difunde de manera extensa. Esta legislación transmite un mensaje claro: producir este material es inmoral, a menudo misógino, y constituye un delito penal.
Yvette Cooper, secretaria de Interior en la sombra, resaltó que superponer el rostro de una persona en fotografías o vídeos sexuales constituye una grave infracción a su privacidad y autonomía.
Es crucial que tanto la policía como los fiscales dispongan de la capacitación y herramientas necesarias para aplicar estas leyes con rigor y evitar que los infractores queden impunes.
La proliferación de la inteligencia artificial ha simplificado la generación de contenido sexual explícito, a pesar de las medidas preventivas adoptadas por las empresas tecnológicas. Firmas como Nikon, Sony y Canon han sugerido la implementación de una firma digital para combatir la expansión de los deepfakes. Paralelamente, Google está desarrollando una herramienta que permite identificar las imágenes generadas por modelos de IA.
Aunque los deepfakes surgieron inicialmente en 2017 con imágenes pornográficas compartidas en Reddit, su uso se ha diversificado hacia otros campos. La avanzada capacidad de los modelos de lenguaje actualmente facilita la creación de imágenes hiperrealistas de políticos y figuras públicas, potencialmente manipulando la opinión pública.