Nace na USC ‘Carballo’, o primeiro modelo de linguaxe de grande escala da historia para o galego

O Proxecto Nós, que desenvolven o Centro Singular de Investigación en Tecnoloxías Intelixentes (CiTIUS) e o Instituto da Lingua Galega (ILG), ambos os dous da USC, vén de anunciar a creación de Carballo, un modelo de linguaxe de grande escala de alta calidade en galego que permitirá a creación de novas ferramentas e aplicacións de IA xerativa para a lingua propia de Galicia.

Carballo, o meirande creado nunca para o galego, é un modelo coñecido como fundacional por ser a peza básica -e esencial- para construír ferramentas versátiles e de moi alta calidade mediante IA xerativa con tecnoloxía lingüística, como chatbots, tradutores ou correctores automáticos.

Tal e como acontece con outros modelos fundacionais, Carballo precisa aínda de pequenas adaptacións técnicas para se converter nun sistema de diálogo co que poder manter unha conversa fluída e ofrecer respostas automáticas cunha interacción sinxela e intuitiva.

Porén, facendo unha analoxía coa IA xerativa máis coñecida na actualidade en todo o mundo (ChatGPT, propiedade da compañía OpenAI), é importante sinalar que a ferramenta resultante (Chat) non tería existido sen o modelo fundacional que o sustenta (GPT). Os modelos fundacionais non están adaptados nin afinados mediante instrucións dirixidas á resolución de tarefas específicas, e por iso non están deseñados para que o público xeral os utilice directamente. No entanto, estes modelos supoñen un paso indispensable cara ao desenvolvemento de aplicacións de IA disruptiva no eido da lingüística, tal e como as coñecemos xa na actualidade.

Nas profundidades de Carballo
Carballo é froito de dous proxectos de investigación: Nós, impulsado pola Xunta de Galicia, e ILENIA, promovido polo Ministerio para a Transformación Dixital e da Función Pública para o impulso de tódalas linguas oficiais do Estado. Neste sentido, o modelo galego está baseado en Flor1.3, o modelo homólogo desenvolvido previamente para o catalán no marco do proxecto AINA-ILENIA, que se desenvolve no Barcelona Supercomputing Centre (BSC-CNS).

Carballo conta cunha arquitectura GPT de 1.300 millóns de ‘parámetros’, ou sexa, 1.300 millóns de valores axustados ao longo dun proceso de adestramento a partir de corpus de texto, encamiñado a lograr que o modelo se desenvolva cunha alta competencia no uso do galego. O seu adestramento foi un gran desafío computacional, sendo necesaria a colaboración do CESGA (Centro de Supercomputación de Galicia), que conta co segundo supercomputador máis potente de todo o territorio estatal.

Para o adestramento de Carballo usouse un corpus masivo de textos en galego, chamado CorpusNós, formado por aproximadamente 2.100 millóns de palabras, o que supón o maior corpus textual en galego existente ata o día de hoxe. Unha parte significativa deste corpus foi elaborada no contexto do propio Proxecto Nós, en virtude de numerosos convenios e acordos de cesión con empresas e organizacións fornecedoras de datos textuais. Así, neste ciclo de desenvolvemento cooperativo desde os datos ‘en bruto’ teñen participado medios de comunicación como NósDiario, PrazaPública ou a CRTVG; as editoriais Galaxia e Laiovento; e diversas institucións públicas, como o Parlamento de Galicia, o Consello da Cultura Galega, as deputacións da Coruña e de Lugo ou a Real Academia Galega, entre moitas outras.

Recursos libres e gratuítos
O proxecto ILENIA, impulsado polo Ministerio para a Transformación Dixital e da Función Pública, ten como obxectivo xerar recursos dixitais que permitan desenvolver aplicacións multilingües nas diferentes linguas oficiais do Estado. Xunto á USC (Nós, galego) e o BSC-CNS (AINA, catalán), no proxecto participan tamén os centros CENID (proxecto VIVES, valenciano) e HiTZ (proxecto NEL-GAITU, éuscaro).

O modelo fundacional Carballo para o galego é un paso máis nesta estratexia de dispoñer das capacidades científico-tecnolóxicas para non depender de grandes corporacións alleas á realidade social e cultural de Galicia, creando recursos abertos e libres para que outras empresas e institucións poidan desenvolver tecnoloxías lingüísticas en galego de amplo interese social, e mesmo económico. Trátase, en suma, de axudar a crear un tecido empresarial dinámico que medre cos últimos avances da intelixencia artificial e que xire á volta da lingua galega, potenciando tamén as relacións co ámbito lusófono e, deste xeito, co mercado lingüístico do portugués, próximo aos 300 millóns de falantes. Compre subliñar que, xunto a Carballo, foi tamén desenvolvido en colaboración coa Universidade de Évora o primeiro modelo fundacional galego e portugués, Carvalho, co obxectivo de fortalecer a nosa lingua mediante a inclusión do portugués europeo.

Carballo foi publicado en aberto, co obxectivo de que tanto persoas expertas como empresas de software poidan utilizar o modelo para desenvolver novos produtos, facer axustes ou mesmo integrar o seu uso en aplicacións de utilidade para o público xeral.

Desde o CiTIUS remárcase o feito de que Carballo foi desenvolvido «conforme ás liñas mestras que guían a ‘IA Confiable’», un paradigma de Intelixencia Artificial ‘responsable’ aliñado cos principios TrustWorthy -‘digno de confianza’- recollidos no Regulamento Europeo de IA, primeira lei de intelixencia artificial do mundo, aprobada recentemente polo Parlamento Europeo.

Polo que respecta ao Proxecto Nós, o equipo responsable de Carballo continúa a traballar na mellora da calidade do modelo, así como no incremento do tamaño de novos modelos fundacionais e á súa adaptación á resolución de múltiples tarefas, tal e como fan xa ferramentas comerciais de uso estendido como ChatGPT. Polo de agora xa está dispoñible un demostrador, que mesmo permite un uso básico do modelo, xunto con algúns exemplos preconstruídos.