proyectos de investigación
MUSTER: Multimodal processing of Spatial and TEmporal expRessions: Toward Understanding Space and Time in Language Enhanced by Vision.1>
Procesamiento multi-modal de expresiones espaciales y temporales: Hacia el entendimiento del espacio y tiempo en el lenguaje ayudado por la visión.
(2016 - 2018)
El proyecto MUSTER tiene como objetivo el crear un marco para la representación multimodal de las palabras y sus acepciones. MUSTER explorará el uso de información visual y perceptual derivadas de imágenes y videos, junto con representaciones basadas en texto. Así, en el proyecto se estudiarán formas de fusionar información de diversas modalidades (texto, imágenes y videos) en una única representación multimodal. El proyecto estudiará también si estas nuevas representaciones multimodales ayudan en la comprensión del lenguaje humano. Para ello, MUSTER propondrá evaluar representaciones multimodales de palabras y frases en tareas semánticas tales como el cálculo de similaridad semántica o la desambiguación de acepciones.
Página web:
Organización: CHIST-ERA MINECO
Investigador principal: Patrick Gallinari
Participantes:
Eneko Agirre, Aitor Soroa


