Sony asegura que ya ha eliminado más de 75,000 canciones deepfake generadas por IA

Sony está en una lucha contra las canciones deepfake generadas por IA que imitan a algunos de sus artistas más famosos, como Harry Styles y Beyoncé. La compañía afirma que ha identificado y eliminado más de 75,000 canciones de plataformas en línea que reproducen a sus artistas en canciones falsas. Según Sony, esta cifra es probablemente solo una fracción de las deepfakes de IA que existen en línea.

La proliferación de canciones deepfake ha causado "daños comerciales directos a artistas de grabación legítimos, incluidos artistas del Reino Unido", declaró la compañía en una presentación al gobierno británico, que está considerando nuevas leyes de derechos de autor que permitirían el entrenamiento de modelos de IA utilizando material de artistas.

La IA generativa, que incluye chatbots como ChatGPT, todavía produce muchos errores y información completamente inventada. Los modelos de generación de imágenes y audio generalmente requieren menos precisión que la producción de texto. Por ejemplo, un perro puede variar mucho en su apariencia, mientras que ChatGPT no debería decirle a un usuario que "1+1 = arándano". Los defensores creen que la generación de imágenes y audio por IA ayudará a reducir los costos de producción, y que los humanos siempre serán necesarios para crear historias y narrativas atractivas. Sin embargo, también podría resultar en más películas de baja calidad, ya que los estudios apuntan a realizar películas con presupuestos más pequeños para hacer que el streaming sea más rentable.

Hay un debate en curso sobre si los consumidores notarán la diferencia entre las canciones generadas por IA, pero el lanzamiento en 2023 de una canción con facsímiles generados por IA de Drake y The Weeknd despertó el temor de que al público simplemente no le importe. Esto es preocupante, ya que los modelos solo imitan obras que ya han sido producidas. Aunque todavía está en el ámbito hipotético, uno puede imaginar un mundo en el que haya menos artistas reales creando música real que sirva de entrenamiento para los modelos, y los servicios de streaming estén llenos de contenido generado por IA de mala calidad, diseñado solo para el algoritmo.

El primer ministro del Reino Unido, Sir Keir Starmer, ha expresado su deseo de que el país sea un líder en IA y ha propuesto permitir a las empresas de IA entrenar sus modelos gratuitamente con fines comerciales utilizando una variedad de contenidos, no solo música. Muchas personas hoy no valoran tanto el contenido en un mundo donde todo se paga a través de una pequeña suscripción mensual o con publicidad. Las empresas como Sony tendrían que optar por excluirse para ser exentas bajo la propuesta, algo que la compañía considera como una carga pesada.

Algunos artistas han firmado acuerdos que permiten el uso de sus imágenes en IA, pero parecen ser la excepción a la norma. En el Reino Unido, han estado ocurriendo protestas contra las nuevas propuestas durante semanas, con artistas preocupados porque sería demasiado difícil hacer cumplir las violaciones de derechos de autor bajo estas reglas.

La preocupación más grande con la generación de IA hoy en día es la producción de deepfakes nude, en los que las caras de personas reales se superponen a cuerpos desnudos de manera altamente realista. Este problema ha crecido en las escuelas secundarias de EE.UU. El audio deepfake se está utilizando únicamente en fraudes phishing.

IA, música, derechos, artistas, tecnología