Orai: «Nuestro modelo neuronal para la inteligencia artificial es el más avanzado en euskera para entornos escalables»
Mientras las soluciones y herramientas de inteligencia artificial siguen proliferando rápidamente, algunos obstáculos parecen permanecer. Es el caso del procesamiento del lenguaje natural para las lenguas con pocos recursos, como el euskera, aunque el centro de investigación Orai ya está aplicando nuevas estrategias con buenos resultados: ha desarrollado Llama-eus-8B, un nuevo modelo de lenguaje neuronal (LLM, Large Language Model) diseñado para facilitar el desarrollo de sistemas de inteligencia artificial que requieren la comprensión y generación del euskera escrito.
Orai es el centro de Elhuyar especializado en inteligencia artificial aplicada al procesamiento del lenguaje humano. Nació en 2022 de la mano del departamento de I+D de Elhuyar, que ya contaba con una trayectoria de 20 años en el ámbito del procesamiento del lenguaje natural (NLP, según sus siglas en inglés). “La consolidación del departamento en el área del Procesamiento del Lenguaje Natural, junto con las crecientes necesidades del mercado y la sociedad del País Vasco de contar con un agente especializado en la inteligencia artificial aplicada al lenguaje, impulsaron a Elhuyar a crear Orai, con actividades orientadas a la investigación y el desarrollo”, explica Xabier Saralegi, responsable de Tecnologías NLP.
Ahora, Orai ha desarrollado Llama-eus-8B, un modelo fundacional adaptado a las características lingüísticas del euskera y su entorno cultural. Se trata de un modelo neuronal con capacidades lingüísticas formales y funcionales, es decir, es capaz de comprender y generar euskera en contextos reales. “Esto lo convierte en una base de gran valor para el desarrollo de una amplia variedad de sistemas, como traductores automáticos, sistemas de diálogo, motores de búsqueda, correctores, generadores de contenido o sistemas de minería de textos donde sea necesario procesar el euskera”, afirma Saralegi.
Este tipo de tecnologías, según el responsable, son transversales y aplicables en diversos ámbitos, como la industria de contenidos, el sector sanitario, la industria, el ámbito legal, la comunicación o la enseñanza. “La principal oportunidad es la posibilidad de desarrollar tecnologías del lenguaje que ofrezcan resultados muy competitivos y escalables en el tratamiento del euskera”.
Actualmente, Orai está utilizando Llama-eus-8B en prototipos de traductores automáticos, generación de material didáctico y correctores, “con resultados muy prometedores que esperamos llevar pronto a plataformas y soluciones. Estamos plenamente convencidos de que otros agentes o empresas también lo irán integrando en sus soluciones, ya que, no debemos olvidar, se trata de un modelo de uso libre”, recuerda Saralegi.
Sin embargo, aún falta tiempo para el desarrollo de estos productos o soluciones: no será inmediato, ya que el proceso de adaptación de este modelo base a casos de uso reales aún requiere trabajo de desarrollo e investigación aplicada. A su vez, el centro mantiene el objetivo de seguir creciendo y convertirse en «en un referente tanto en el País Vasco como en España, además de participar en el mercado internacional”.
Aun así, las perspectivas para Llama-eus-8B son buenas: “En los test de laboratorio para evaluar las capacidades lingüísticas formales y funcionales en euskera (razonamiento, conocimiento del mundo, sentido común), ha demostrado ser el modelo fundacional con los mejores resultados entre los modelos de menos de 20.000 millones de parámetros. Sin embargo, aún ofrece resultados inferiores a los obtenidos en inglés, por lo que nuestro objetivo es seguir mejorando continuamente las capacidades del modelo y publicar versiones más avanzadas de manera progresiva”.
El Grupo SPRI impulsa la I+D de las empresas vascas con herramientas, activos, ayudas, grupos de trabajo y alianzas con el fin de potenciar la investigación y generar nuevas tecnologías. Consulta los programas de ayuda a la I+D como Elkartek, Emaitek o Hazitek.
Noticias relacionadas
El proyecto HIMUGI busca lograr un sistema de propulsión de hidrógeno con aplicaciones en movilidad y transporte
Cuenta con una amplia participación y colaboración entre entidades vascas y ha recibido la ayuda económica del programa Hazitek de SPRI.
El centro tecnológico Ceit ha promovido 20 spin-offs que generan más de 300 empleos y han traído una inversión cercana a los 30 M€
El consejero Mikel Jauregi visita Ceit, centro tecnológico de referencia en investigación aplicada y transferencia de tecnología a la empresa
El proyecto Infinite monitoriza sin contacto el ciclo de vida de las estructuras aeronáuticas
Liderado por el centro tecnológico Ideko, este proyecto europeo utiliza microhilos para controlar el estado de las estructuras de fibras de carbono para asegurar su calidad, sin necesidad de equipar las piezas con sensores cableados.
Vaillant Group lanza una nueva bomba de calor aire-agua más eficiente y con bajos niveles de ruido
Una vez concluido el proyecto Split, ha empezado a comercializar las máquinas en el mercado europeo, donde espera alcanzar las 30.000 ventas. Ha contado con el apoyo del Programa de Ayudas Hazitek de Grupo SPRI.
El proyecto Sintop optimiza la gestión postventa en la edificación residencial
Liderado por Construcciones Olabarri, se ha desarrollado una plataforma inteligente para registrar incidencias en obra terminada en tiempo real. Cuenta con el apoyo del Programa de Ayudas Hazitek de Grupo SPRI.
Un proyecto Hazitek desarrolla nuevos sistemas de diagnóstico y terapias para la Enfermedad Inflamatoria Intestinal
HANTURA, liderado por Faes Farma, ha concluido con nuevos medicamentos, el avance en el desarrollo de nuevas alternativas terapéuticas para el tratamiento de la enfermedad y herramientas digitales para mejorar el cuidado asistencial de los pacientes.
Tamag busca convertirse en referente en microtecnologías a nivel internacional
La micropyme donostiarra centra su actividad en I+D aplicada al desarrollo de nuevos productos y en la elaboración de microhilos amorfos magnéticos.
Tekniker impulsa el mantenimiento inteligente de carreteras con tecnología robótica avanzada
El centro tecnológico ha liderado las tareas relacionadas con el suministro de tecnologías robóticas y de automatización inteligentes para el diseño, la construcción y el mantenimiento de carreteras en el proyecto europeo Omicron.
El proyecto Robtwin apuesta por la fabricación avanzada en el sector de la automoción
Ingemat desarrolla una herramienta que implementa un nuevo concepto avanzado de gemelo digital. Ha contado con el apoyo del Programa de Ayudas Hazitek de Grupo SPRI.
EKOHOOD, una solución sostenible para el embalaje de transporte
El proyecto liderado por Plastigaur pretende crear una nueva gama de films con material reciclado post-consumo para el llamado packaging terciario. Ha contado con el apoyo del Programa de Ayudas Hazitek de Grupo SPRI.