Mujeres en IA: Emilia Gómez en la UE inició su carrera en IA con la música | TechCrunch

Para brindarles a las académicas y a otras personas centradas en la IA su debido (y esperado) tiempo en el centro de atención, TechCrunch está lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revolución de la IA. Publicaremos artículos a lo dadivoso del año a medida que continúe el auge de la IA, destacando trabajos secreto que a menudo pasan desapercibidos. Lea más perfiles aquí.

Emilia Gómez es investigadora principal del Centro Global de Investigación de la Comisión Europea y coordinadora científica de AI Watch, la iniciativa de la CE para monitorear los avances, la prohijamiento y el impacto de la IA en Europa. Su equipo contribuye con conocimientos científicos y técnicos a las políticas de IA de la CE, incluida la Ley de IA propuesta recientemente.

La investigación de Gómez se friso en el campo de la música computacional, donde contribuye a la comprensión de la forma en que los humanos describen la música y los métodos con los que se modela digitalmente. Partiendo del ámbito de la música, Gómez investiga el impacto de la IA en el comportamiento humano, en particular los artículos en el trabajo, las decisiones y el explicación cognitivo y socioemocional pueril.

Preguntas y respuestas

Brevemente, ¿cómo empezaste en la IA? ¿Qué te atrajo del campo?

Comencé mi investigación en IA, en particular en estudios automotriz, como desarrollador de algoritmos para la descripción cibernética de señales de audio musical en términos de harmonía, tonalidad, similitud, estilo o emoción, que se explotan en diferentes aplicaciones, desde plataformas musicales hasta educación. . Comencé a investigar cómo diseñar enfoques novedosos de estudios automotriz que se ocuparan de diferentes tareas computacionales en el campo de la música y sobre la relevancia del flujo de datos, incluida la creación y anotación de conjuntos de datos. Lo que me gustó en ese momento del estudios automotriz fueron sus capacidades de modelado y el cambio del diseño de algoritmos basado en el conocimiento al diseño de algoritmos basado en datos; por ejemplo, en extensión de diseñar descriptores basados ​​en nuestro conocimiento de acústica y música, ahora estábamos usando nuestro conocimiento para diseñar conjuntos de datos, arquitecturas y procedimientos de capacitación y evaluación.

A partir de mi experiencia como investigador de estudios automotriz y al ver mis algoritmos «en influencia» en diferentes dominios, desde plataformas musicales hasta conciertos de música sinfónica, me di cuenta del enorme impacto que esos algoritmos tienen en las personas (por ejemplo, oyentes, músicos) y dirigí mi investigación. en dirección a la evaluación de la IA en extensión del explicación, en particular en el estudio del impacto de la IA en el comportamiento humano y cómo evaluar los sistemas en términos de aspectos como la equidad, la supervisión humana o la transparencia. Este es el tema de investigación contemporáneo de mi equipo en el Centro Global de Investigación.

¿De qué trabajo estás más orgulloso (en el campo de la IA)?

En el aspecto colegial y técnico, estoy orgulloso de mis contribuciones a las arquitecturas de estudios automotriz específicas de la música en el Music Technology Group de Barcelona, ​​que han innovador el estado del arte en el campo, como se refleja en mis registros de citas. Por ejemplo, durante mi doctorado propuse un cálculo basado en datos para extraer la tonalidad de señales de audio (por ejemplo, si una dormitorio musical está en do veterano o re pequeño), que se ha convertido en una narración secreto en este campo, y más tarde codiseñé una máquina. métodos de estudios para la descripción cibernética de señales musicales en términos de harmonía (por ejemplo, se utilizan para inquirir canciones tarareando), tempo o para modelar emociones en la música. La mayoría de estos algoritmos están actualmente integrados en Essentia, una biblioteca de código destapado para descomposición, descripción y síntesis de audio y música y han sido explotados en muchos sistemas de recomendación.

Estoy particularmente orgulloso de Partida Sonora Positivo (LifeSoundTrack), un esquema premiado por el Premio de la Cruz Roja a Tecnologías Humanitarias, donde desarrollamos un recomendador de música personalizado adaptado a pacientes mayores con Alzheimer. Asimismo está PHENICX, un gran esquema financiado por la Unión Europea (UE) que coordiné sobre el uso de la música; e IA para crear experiencias musicales sinfónicas enriquecidas.

Amo la comunidad de informática musical y estoy acertado de convertirme en la primera mujer presidenta de la Sociedad Internacional para la Recuperación de Información Musical, a la que he contribuido durante toda mi carrera, con particular interés en aumentar la diversificación en este campo.

Actualmente, en mi función en la Comisión, a la que me incorporé en 2018 como comprobado principal, brindo apoyo comprobado y técnico a las políticas de IA desarrolladas en la UE, en particular la Ley de IA. De este trabajo fresco, que es menos visible en términos de publicaciones, estoy orgulloso de mis humildes contribuciones técnicas a la Ley de IA. Digo “humilde”, ya que como puedes imaginar, ¡hay muchas personas involucradas aquí! A modo de ejemplo, he contribuido mucho al trabajo sobre la armonización o traducción entre términos legales y técnicos (por ejemplo, proponiendo definiciones basadas en la letras existente) y sobre la evaluación de la implementación maña de requisitos legales, como la transparencia o la documentación técnica para altos estándares. sistemas de IA de aventura, modelos de IA de propósito militar e IA generativa.

Asimismo estoy congruo orgulloso del trabajo de mi equipo en el apoyo a la directiva de responsabilidad de la IA de la UE, donde estudiamos, entre otras, las características particulares que hacen que los sistemas de IA sean inherentemente riesgosos, como la error de causalidad, la opacidad, la imprevisibilidad o su auto- y continuo- capacidades de estudios y evaluaron las dificultades asociadas que se presentan cuando se negociación de probar la causalidad.

¿Cómo afrontar los desafíos de la industria tecnológica dominada por los hombres y, por extensión, de la industria de la inteligencia químico dominada por los hombres?

No se negociación solo de tecnología: ¡asimismo estoy navegando en un campo de investigación y políticas de IA dominado por hombres! No tengo una técnica ni una táctica, ya que es el único entorno que conozco. No sé cómo sería trabajar en un entorno profesional diverso o dominado por mujeres. “¿No sería bonito?”, como dice la canción de los Beach Boys. Honestamente, trato de evitar la frustración y divertirme en este tablado desafiante, trabajando en un mundo dominado por chicos muy asertivos y disfrutando colaborando con mujeres excelentes en el campo.

¿Qué consejo le darías a las mujeres que buscan ingresar al campo de la IA?

Yo les diría dos cosas:

Es muy necesario: ingrese a nuestro campo, ya que existe una carestia urgente de diversificación de visiones, enfoques e ideas. Por ejemplo, según el esquema divinAI, un esquema que cofundé para monitorear la diversificación en el campo de la IA, solo el 23% de los nombres de los autores en la Conferencia Internacional sobre Enseñanza Instintivo y el 29% en la Conferencia Internacional Conjunta sobre IA en 2023 eran mujeres. , independientemente de su identidad de mercaderías.

No está solo: hay muchas mujeres, colegas no binarios y aliados masculinos en el campo, aunque no seamos tan visibles ni reconocidos. ¡Búscalos y obtén su tutoría y apoyo! En este contexto, existen muchos grupos de afinidad presentes en el campo de la investigación. Por ejemplo, cuando me convertí en presidenta de la Sociedad Internacional para la Recuperación de Información Musical, participé muy activamente en la iniciativa Women in Music Information Retrieval, pionera en esfuerzos de diversificación en informática musical con un software de tutoría muy exitoso.

¿Cuáles son algunos de los problemas más apremiantes que enfrenta la IA a medida que evoluciona?

En mi opinión, los investigadores deberían enfrascarse tantos esfuerzos al explicación de la IA como a su evaluación, ya que actualmente existe una error de seguridad. La comunidad de investigación está tan ocupada avanzando en lo postrer en términos de capacidades y rendimiento de la IA y tan emocionada de ver sus algoritmos utilizados en el mundo positivo que se olvidan de realizar evaluaciones adecuadas, descomposición de impacto y auditorías externas. Cuanto más inteligentes sean los sistemas de IA, más inteligentes deberían ser sus evaluaciones. El campo de la evaluación de la IA está poco estudiado y esta es la causa de muchos incidentes que dan mala reputación a la IA, por ejemplo, sesgos raciales o de mercaderías presentes en conjuntos de datos o algoritmos.

¿Cuáles son algunas de las cuestiones que los usuarios de IA deberían tener en cuenta?

Los ciudadanos que utilizan herramientas impulsadas por la IA, como los chatbots, deben aprender que la IA no es mágica. La inteligencia químico es un producto de la inteligencia humana. Deben cultivarse sobre los principios de funcionamiento y las limitaciones de los algoritmos de IA para poder desafiarlos y utilizarlos de forma responsable. Asimismo es importante que los ciudadanos estén informados sobre la calidad de los productos de IA, cómo se evalúan o certifican, para que sepan en cuáles pueden abandonarse.

¿Cuál es la mejor forma de construir IA de forma responsable?

En mi opinión, la mejor forma de desarrollar productos de IA (con un buen impacto social y ambiental y de forma responsable) es desgastar los fortuna necesarios en evaluación, valoración del impacto social y mitigación de riesgos (por ejemplo, para los derechos fundamentales). antiguamente de divulgar un sistema de IA al mercado. Esto redunda en beneficio de las empresas y de la confianza en los productos, pero asimismo de la sociedad.

La IA responsable o IA confiable es una forma de construir algoritmos donde aspectos como la transparencia, la equidad, la supervisión humana o el bienestar social y ambiental deben abordarse desde el principio del proceso de diseño de la IA. En este sentido, la Ley de IA no solo establece el unificado para regular la inteligencia químico en todo el mundo, sino que asimismo refleja el pedantería europeo en la confiabilidad y la transparencia, permitiendo la innovación y al mismo tiempo protegiendo los derechos de los ciudadanos. Creo que esto aumentará la confianza de los ciudadanos en el producto y la tecnología.