En los últimos tres años, los avances en inteligencia artificial general (IAG) han sido vertiginosos. Desde el 30 de noviembre de 2022, herramientas como ChatGPT (OpenAI), Copilot (Microsoft), Gemini (Google), IA Meta (Meta), Grok (X), Llama 3 (Meta), Ernie 4.0 (Baidu), Mistral 7B (Mistral), Claude (Anthropic) y Seekdeep (Nvidia) se han puesto a disposición masiva de la comunidad internacional, de forma gratuita, revolucionando la creación de contenido, la automatización y la interacción digital.
Para Carlos Christian Sueiro, profesor de Criminalidad Informática y especialista en Derecho Penal, esta expansión tecnológica plantea riesgos inéditos: “No me preocupa que la IA alucine, sino que sea la humanidad la que termine alucinando en pocos años”. Según él, la sofisticación de la IAG hace casi imposible distinguir lo real de lo generado artificialmente.
Deepfakes y la indistinguibilidad de lo real
Sueiro explica que la IAG ha alcanzado un nivel de realismo extremo en imágenes y sonidos, dando lugar a deepfakes que pueden engañar a cualquier observador. “Hoy es prácticamente imposible diferenciar a simple vista o oÃdo si estamos ante un hecho real o frente a una falsificación digital”, señala. Esta tecnologÃa no solo plantea riesgos de desinformación, sino también vulnerabilidades de seguridad, ya que la percepción humana ya no es suficiente para validar la autenticidad de información o registros audiovisuales.
La clonación de voces como problema de seguridad
Uno de los aspectos más preocupantes es la imitación de voces humanas por IA. La captura de registros de voz permite a los algoritmos reproducirlos con precisión inimaginable, lo que convierte a la voz en un patrón biométrico vulnerable. “Cualquier sistema que dependa de la voz para autenticación deja de ser confiable”, advierte Sueiro.IA Music y el caso Roxette
La tecnologÃa también ha llegado al terreno musical. Un ejemplo reciente es IA Music, un proyecto que generó casi una docena de canciones imitando estilos de diversos grupos. Entre ellos, destacan las producciones Roxette Style, con temas como:-
Midnight Call
-
Highway of Dreams
-
Tears on the Edge
-
Velvet Skies
-
Winter’s End
-
Whispers of Heart
-
Dream’s Fire
-
Falling into You (Embrace into You)
-
Endless Journey
-
Silent Words
Estas canciones reproducen con asombrosa precisión los registros de voz de Per Gessle y Marie Fredriksson, asà como el estilo musical caracterÃstico del dúo. Que Marie Fredriksson haya fallecido en 2019 evidencia que estas obras son creaciones de IA, no material original.
Además, las portadas de los temas fueron generadas Ãntegramente por IA, mostrando imágenes del dúo en distintas etapas de su vida, ajustadas al estilo de sus obras, sin ser fotografÃas reales. Según el fan que creó los temas:
“Esta producción se creó con inteligencia artificial como un proyecto independiente y sin fines de lucro. Es una iniciativa impulsada por la curiosidad y el deseo de explorar posibilidades creativas dentro de un universo ya establecido. Creada por un fan para fans, el objetivo es rendir homenaje a la obra original y ofrecer una visión imaginativa que respete el espÃritu del material original, sin ánimo de lucro”.
DesafÃos legales y de propiedad intelectual
Sueiro advierte que estas tecnologÃas generan problemas graves en materia de derechos de autor y copyright. “Cuando la IA genera música o voces idénticas a las de un artista, surge la pregunta de quién es titular de esos derechos: ¿el creador original, el fan que utilizó la IA, o la propia IA?”, plantea. Este tipo de situaciones anticipa un aumento de conflictos legales a medida que la IAG se vuelva más sofisticada y accesible.El futuro de la autenticidad y la percepción humana
Más allá de los aspectos legales y técnicos, Sueiro enfatiza la dimensión cultural y ética: la posibilidad de que la IA reproduzca artistas fallecidos o genere contenidos completos en su estilo cambia cómo percibimos la creatividad y la autorÃa. “Lo real y lo sintético convivirán de manera indistinguible, y la humanidad deberá adaptarse a esa nueva realidad”, asegura.En definitiva, para Sueiro, la voz como huella digital enfrenta un escenario donde la lÃnea entre lo humano y lo artificial se difumina. Entre la seguridad, los derechos de autor y la confianza en la información, la sociedad se encuentra ante un desafÃo histórico, que marcará la manera en que consumimos música, medios y contenidos digitales en los próximos años.