Toti es articles

Ensenhar ua maquina a parlar aranés

Publicat Aug 16, 20268 min de lectura
  • Aranés
  • Montanha
  • IA

Idèes clau

  • Maladeta Studio hè córrer en parallel dus esfòrç d'IA en aranés que non se comuniquen entre eri: un projècte de corpus qu'alimente un "fine-tune" de Salamandra-7B e un article academic, e Condò, un agent LoRA sus Qwen3.8-27B — non compartissen "pipeline" ne modèl.
  • Condò ei entrenat entà cridar sies aisinas de consulta determinista entà hèts de diccionari, conjugason verbau e gramatica en sòrta de memorizar-les, era madeisha filosofia d'ancoratge qu'ei emplegada en agent de resèrvas de WhatsApp de Lueira.
  • Condò v2 (30.485 exemples d'entrenament, 32,33 $ e 9,83 òres en ua H100 logada) aconseguís 97,9% de crides d'eines corrèctas, 99,1% de fidelitat e 100% d'evitacion d'activacion indeguda — mès contunhe privat, foncionant solament en LM Studio e un client de "chat" locau, encara non public.

Eth Val d'Aran a environ 10.000 abitants, tres lengües cooficiaus e environ 35.000 parladors d'aranés en tot eth mon, se comptes toti es que sen'ac son anadi. L'aranés ei ua varietat der occitan gascon, e ei eth tipe de lengua qu'apareish en papèr timbrat der ajuntament e en programa escolar, mès que non apareish, en cap quantitat rellevanta, enes donadas d'entrenament de GPT-4, Claude, Gemini o quinsevolh aute modèl generau. Demana a un d'eri que conjugue un vèrb en aranés e obtieràs quauquarren dit damb tota seguretat e completament faus. Simplament non i a pro tèxte per aquiu.

Maladeta Studio ei situat en Val d'Aran, e ath long des darrèri mesi auem acabat hènt córrer dus esfòrç separats entà hèr quauquarren damb aguesta bretja. Vòli escríuer sus toti dus damb onestetat, includida era part que resulte un shinhau incomòda d'admeter: non se comuniquen entre eri. Non a pòsta, ne coma ua estrategia intelligenta de cobrir apòstas — son simplament dus equips diferents laguens deth madeish estudi petit, trabalhant sus eth madeish problèma d'escassetat jacent, que non an agut encara era convèrsa sus se aurien de fusionar-se.

1. Dus esfòrç entath madeish problèma

Eth prumèr esfòrç ei eth projècte de Corpus Aranés, cridat internament ai-aranes. Ei un "backend" e ua interfaç entà recuélher, curar, tocejar e exportar un corpus en lengua aranesa, construït entà finaument hèr "fine-tuning" de Salamandra-7B — eth modèl fondamentau dubèrt centrat en catalan/castelhan deth Barcelona Supercomputing Center. Er "stack" ei Python e FastAPI, Celery entath "pipeline" de tractament, Postgres damb pgvector entà emmagazinatge e cèrca per semblança, e sentence-transformers entàs "embeddings". Eth preemplenament per traduccion automatica passe per DeepL, exceptat — e açò ei ua politica deliberada e documentada — que eth preemplenament damb DeepL se saute complètament entàs documents en aranés coma lengua origina, pr'amor que DeepL non supòrte er aranés pro plan entà arriscar-se a contaminar eth corpus damb esbossi dolents. Cada decision metodologica d'aguest tipe se documente coma un ADR numerat, pr'amor qu'aguest trabalh alimente un article academic qu'enviam entà LREC-COLING, e un article a besonh que es sues decisions sigan defensablas, non solament recordadas.

Eth dusau esfòrç ei Condò, que gess d'un repositòri diferent, aranes-agent-finetune. Condò ei un "fine-tune" LoRA de Qwen3.8-27B, entrenat coma agent d'usatge d'eines e traductor catalan↔aranés. Eth nòm ven de Jusèp Condò Sambeat (1867–1919), eth prumèr autor a escríuer aranés literari, qu'eth sòn "Vocabulari aranés" de 1915 ei çò mès pròche que era lengua a d'un tèxte fondamentau. Ei eth prumèr nòm de çò que cridam "Era Votz" — ua convencion de nomentatge qu'aparelhe cada modèl d'IA en aranés damb ua figura istorica que vertadèrament hec avançar era lengua, en sòrta d'un numèro de version.

Aguesti dus projèctes non compartissen "pipeline" de corpus, familha de modèl, ne metodologia d'avaluacion. Un alimente un article sus un modèl fondamentau catalan-castelhan; er aute ei un agent independent construït sus un modèl basa completament diferent. Non credi qu'aquerò sigue ua fòrça que posca reclamar. Ei ua descripcion onèsta de çò que se passe quan un estudi d'aguesta talha decidís qu'un problèma importe pro entà atacar-lo dus còps abans qu'arrés age agut temps de demanar-se se s'aurie d'atacar ua soleta viatge.

2. Ensenhar a un modèl qué consultar en lòc de qué memorizar

Era decision d'engenh mès interessanta ei ena arquitectura de Condò, e mereish èster explicada pr'amor qu'ei era part que generalize. Er enfòc obvi entà ensenhar a un modèl petit ua lengua de pòqui recorsi ei entà entestar vocabulari, taules de vèrbs e règles gramaticaus enes sòns pesi per mejan de "fine-tuning". Ei tanben quasi eth pejor enfòc possible, pr'amor qu'aquerò ei exactament eth tipe de contengut damb eth quau es modèls alucinen quan era lengua ei escassa — un modèl qu'a vist un vèrb aranés conjugat corrèctament dus còps en entrenament inventarà alègrament ua tresau conjugason, faussa, damb tota seguretat.

Atau que Condò non ensaje de memorizar arren d'açò. En sòrta d'açò, ei entrenat entà reconéisher quan ua question a besonh d'ua consulta ath diccionari, ua conjugason verbau o ua règla gramaticau, e entà cridar ua des sies CLIs de consulta determinista entà trapar era responsa — aisinas que víuen en un repositòri de "skills" separat e que simplament tornen eth hèt corrècte, totjorn, pr'amor que non generen arren. Eth modèl solament apren, dirèctament per mejan d'entrenament, es causes que genuïnament non se pòden consultar en ua taula: fluïditat, redaccion naturau, e traduccion a nivèu de frasa entre catalan e aranés.

Ei era madeisha idia sus era quau escriuí quan er agent de WhatsApp de Lueira comencèc a emplegar cridas a aisinas tipadas en sòrta de deishar qu'eth modèl generèsse liurament accions de resèrva — non deishes qu'eth modèl sigue era font de vertat entà arren qu'age ua font de vertat reau. Ei estranh véder eth madeish instint arquitectonic aparéisher tant en un sistèma de resèrva de classes de caiac coma en ua consulta de conjugason verbau, mès ei era madeisha apòsta: es modèls son bons damb eth lengatge e dolents damb es hèts, atau que bastisses era costura entre toti dus explicitament en sòrta d'esperar qu'eth modèl que as dauant resulte sàber es dues causes.

Ua version simplificada de coma ei açò ena practica:

User: Com se conjuga "anar" en preterit?

Model: [calls] conjugate(verb="anar", tense="preterit", lang="oc-aranese")
Tool: {"jo": "anè", "tu": "anères", "eth/era": "anè", ...}
Model: "Jo anè, tu anères, eth/era anè..."

Eth modèl decidic quau aisina cridar e redigic era responsa. Non inventèc era taula de conjugason.

3. Çò que v2 hec bèth de vertat, en chifras

Auem publicat dus checkpoints dinc ara: condo-27b-lora-v1 e er actuau condo-27b-lora-v2. v2 estèc reentrenat damb un conjunt de dades mès gran — 30.485 exemples en totau, damb tres hònts institucionaus-aranesas naues apondudes: publicacions de notícias deth Conselh Generau d'Aran, lheis deth Parlament de Catalonha e edictes de notificacion d'e-TAULER. Aguesta mescla importe mès de çò que semblarie — eth tèxte governamentau e legau ei dens, formau, e consistentament aranés corrècte, qu'ei exactament eth tipe de senhau qu'a besonh un modèl petit quan er alternativa ei raspar quinsevolh tèxte informau qu'existisque.

Er entrenament madeish: LoRA rang 16, alpha 16, sus Qwen3.8-27B, en ua H100 de 80GB logada en RunPod. Eth temps reau siguec de 9,83 òres. Eth còst reau siguec de 32,33 $. Era pèrda finau d'avaluacion siguec de 0,05652, era melhor des 22 execucions d'avaluacion registradas pendent er entrenament.

Er avaluacion se hec sus ua mòstra estratificada de 416 exemples en 50 categorias. Punts de v2: 97,9% de crides d'eines corrèctas, 99,1% de fidelitat, e 100% d'evitacion d'activacion indeguda — non cridar ua aisina quan non aurie de hè'c — mesurat sus un subconjunt de 272 exemples. Comparat damb v1, aguestes chifras son planas o lèu-lèu milhoradas: v1 madeish auie ja hèt eth saut de 82,1% a 98,1% en crides d'eines corrèctas, de 91,6% a 98,8% en fidelitat, e de 28,9% a 100% en evitar era activacion indeguda. Era lectura onèsta ei qu'eth gran saut se passèc en v1 — passar d'ua linha basa sense entrenar a un modèl que sap de manèra fisabla quan recórrer a ua aisina. Eth trabalh de v2 siguec consolidar aguest compòrtament damb mès dades, e mès institucionaus, e ac aconseguic, sense retrocéder en cap lòc. Ei ua istòria mens dramatica qu'un dusau gran saut, mès ei era istòria corrècta: non vòs qu'eth tòn dusau checkpoint sigue emocionant, vòs que sigue estable.

4. A on víu açò uei, e a on encara non

Condò foncione uei en dus lòcs: LM Studio, emplegant eth sòn supòrt natiu de MLX en Apple Silicon, e ua interfaç de "chat" en navegador que bastírem damb un client connectat ad aisinas en sòrta d'un simple "prompt" de "chat". Aguesta distincion importe — un "prompt" nud dauant d'aguest modèl a dus mòdes de falhida especifics: alucine vocabulari quan non pòt cridar ua aisina, e a viatges respon ena lengua incorrècta pr'amor qu'arren en un "prompt" simple fixe damb fermetat quina aurie d'emplegar. Eth client connectat ad aisinas solucione toti dus dirèctament, en balhar ath modèl un lòc a on consultar causes e en convertir era lengua de destinacion en ua part explicita e forçada dera convèrsa en sòrta d'ua inferéncia.

Aqueth trabalh alimente ua aplicacion de cara ath public cridada enaranes, un diccionari e traductor, e tanben i a Claude Agent Skills publicadas entà consultas de diccionari, conjugason verbau e gramatica aranesa — un repositòri petit damb eth sòn pròpi "pipeline" de publicacion, deliberadament mantengut separat deth trabalh d'entrenament deth modèl entà que posque publicar-se segons eth sòn pròpi calendari.

Çò que non ei encara public ei eth pròpi Condò. Es checkpoints deth modèl víuen en un hub privat de HuggingFace, e per ara ei explicitament d'usatge intèrn exclusiu. Era superficia publica d'aguest trabalh uei ei enaranes e es Claude skills — non eth modèl basa. E eth projècte de corpus non a publicat cap produit en absolut; eth sòn resultat ara madeish ei un article enviat e un conjunt de dades curat e creishent que pòt o non acabar alimentant bèth dia era madeisha familha de modèls sus era quau ei construït Condò.

L'aranés a environ 35.000 parladors. Aquerò ei ua minoria reau enquia laguens der occitan, qu'eth madeish ei ua lengua minoritària. Cap laboratòri d'IA de propaus generau non dedicarà temps d'engenh a ua lengua d'aguesta talha — non i a cas comerciau entad açò ena escala a on operen es laboratòris. Se quauquarren va a existir que permeta a un parlador d'aranés emplegar IA ena sua pròpia lengua, o ajude un aprenent, o balhe ad ua institucion coma eth Conselh Generau ua aisina que vertadèrament comprenga eth sòn pròpi aranés legau e administratiu, ei fòrça mès probable que vengue d'un estudi fisicament incrustat en lòc a on víu era lengua que de quinsevolh aute lòc. 32 $ de temps de GPU e 9,83 òres non ei gran causa entà despéner entà sàber-ac.

M'aurie agradat acabar açò damb ua istòria neta sus com eth projècte de corpus e Condò convergissen en ua soleta estrategia coerenta d'IA aranesa. Non ac son, encara non, e non credi que hèr veir eth contrari ajudèsse arrés. Dus equips guardèren eth madeish problèma d'escassetat e bastiren dues responses diferentas, e ara madeish açò ei simplament vertat, e leugèrament inefficient, e tanben en part er objectiu — qu'ua lengua tan petita reciba dus ensages independents e reaus de supòrt d'IA ja ei mès de çò que recebrie en quasi quinsevolh aute lòc.