La voz, no debemos olvidar que es un atributo personal, propio e individual, teniendo unos rasgos distintivos únicos y singulares. Estos rasgos individualizan a cada persona de manera directa y permiten la identificación del individuo concreto. Pues bien, la inteligencia artificial está provocando que algunas de las llamadas empresas disruptivas, transiten por senda de la ilegalidad, al enfrentarse a esta tecnología, sin observar normativas como son la de privacidad o la de propiedad intelectual. Un claro ejemplo, es el uso de la voz de actores de doblaje.
Se debe solicitar su consentimiento para incluirlas en anuncios, videos promocionales de eventos o cortometrajes. Pues bien, existen multitud de videos en la red que carecen de dicho consentimiento. Un ejemplo de ellos es el uso de la IA para doblar cortometrajes, ya existen directores que graban el mismo en castellano y posteriormente utilizan herramientas de IA para “doblar” a otros idiomas.
Nos topamos con flagrantes vulneraciones de la normativa, que demuestran que en la sociedad no se tiene consciencia de que la voz está considerada como un dato personal, al igual que lo es cualquier información que permita determinar, directa o indirectamente la identidad, ya se trate de una matrícula de un vehículo, una imagen, etc.
La puesta en el mercado, para entidades y consumidores en general, de tratamientos que incluyen soluciones fundamentadas en tecnologías disruptivas, como las basadas en componentes IA, exige que se implementen garantías de calidad y seguridad. La disponibilidad de una tecnología o su novedad no es razón suficiente para comercializar productos que no cumplan con un nivel adecuado de calidad de servicio, especialmente cuando estos requisitos están establecidos en una norma.?
El empleo de estrategias de transparencia, gestión del riesgo y mecanismos de auditoría y certificación no sólo permitirán el cumplimiento de lo establecido en la normativa de privacidad, sino que mejorarán la confianza de los usuarios en los productos y servicios basados en IA.
El Reglamento de Inteligencia Artificial, también contiene obligaciones de transparencia, relacionadas con la obligación de advertir a las personas físicas de que están interactuando con un sistema de IA y la exigencia de transparencia sobre los contenidos con los que se entrena la IA. Este hecho, puede permitir conocer y proteger los contenidos de terceros que son utilizados por la IA.
Uno de los principales problemas de las soluciones de IA no es la IA en sí, sino cómo van a usar las personas y los nuevos sesgos psicológicos que se derivan de su empleo. En particular, es necesario prestar especial atención a atribuir responsabilidades a componentes IA sin supervisión y sin adoptar una posición crítica. La delegación de la toma de decisiones a máquinas no es nueva; ya ocurre con los algoritmos deterministas, pero el sesgo de atribuir una autoridad o peso superior a un resultado inferido por una solución de IA puede hacer incrementar los riesgos derivados de esta delegación de responsabilidad.
Alberto Cuesta, abogado y auditor de entornos tecnológicos
