proyectos de investigación

MUSTER: Multimodal processing of Spatial and TEmporal expRessions: Toward Understanding Space and Time in Language Enhanced by Vision.


Procesamiento multi-modal de expresiones espaciales y temporales: Hacia el entendimiento del espacio y tiempo en el lenguaje ayudado por la visión.

(2016 - 2018)

El proyecto MUSTER tiene como objetivo el crear un marco para la representación multimodal de las palabras y sus acepciones. MUSTER explorará el uso de información visual y perceptual derivadas de imágenes y videos, junto con representaciones basadas en texto. Así, en el proyecto se estudiarán formas de fusionar información de diversas modalidades (texto, imágenes y videos) en una única representación multimodal. El proyecto estudiará también si estas nuevas representaciones multimodales ayudan en la comprensión del lenguaje humano. Para ello, MUSTER propondrá evaluar representaciones multimodales de palabras y frases en tareas semánticas tales como el cálculo de similaridad semántica o la desambiguación de acepciones.

Página web:
Organización:  CHIST-ERA MINECO
Investigador principal: Patrick Gallinari
Participantes
Eneko Agirre, Aitor Soroa


Atrás

HiTZ lo conforman los siguientes grupos de investigación: