[ HÄÄL ]

[ Algus ]

HÄÄL sai alguse eesmärgist uurida, kas eestikeelset kõnesünteesi on võimalik teha väiksema ja ressursitõhusa mudeliga, mida saab kasutada ka väljaspool suurt pilvetaristut.

Esimesed katsed keskendusid olemasoleva TTS-arhitektuuri kohandamisele eesti keelele. Väikese treeningmaterjaliga saadud tulemused näitasid, et valitud arhitektuur suudab õppida eestikeelse kõne põhilisi hääldus- ja intonatsioonimustreid.

Sellest kujunes projekti esimene tehniline lähtekoht. Töötav mudel ei olnud eesmärk omaette, vaid alus, mille pealt hakata hindama kvaliteeti, andmevajadust, mudeli suurust ja lokaalse kasutuse võimalusi.

[ Eesti keel ]

Eesti keele jaoks loodi eraldi tokenizer ning treeningmaterjali hakati puhastama ja ühtlustama. Esimene kontrollitud treeningbaas koosnes ligikaudu 80 tunnist eestikeelsest kõnest.

Selle etapi eesmärk oli kontrollida, kas arhitektuur suudab õppida eesti keele hääldust, rütmi, sõnavorme ja intonatsiooni piisavalt stabiilselt, et arendust oleks põhjendatud jätkata.

Saadud tulemused kinnitasid tehnilise suuna toimivust, kuid tõid samal ajal välja vajaduse suurema ja mitmekesisema treeningmaterjali, püsiva hindamismetoodika ning eesti keelele sobiva tekstieeltöötluse järele.

[ Rohkem andmeid ]

Järgmises etapis laiendati treeningmaterjali oluliselt. Kontrollitud materjalile lisati Kõneveebi kaudu kättesaadavaid eestikeelseid kõnekorpusi ning treeningbaas kasvas enam kui 600 000 helilõiguni.

Suurem andmemaht võimaldab mudelil õppida rohkem kõnelejaid, kõnetemposid, lauseehitusi ja hääldusvariante. Samal ajal muutub olulisemaks andmete kvaliteedi, päritolu ja kasutustingimuste kontroll.

Järgmises arendusetapis tuleb treeningmaterjal süstemaatiliselt auditeerida, eraldada erinevate kasutusõigustega allikad ning suurendada oma kontrollitud korpuse osakaalu. See on vajalik selleks, et mudeli tulevane kasutamine ja levitamine ei sõltuks ainult katsetamiseks sobivatest andmeallikatest.

[ 250 000 sammu ]

2026. aasta septembris jõudis esimene suurem treeningutsükkel 250 000 sammuni.

Selle checkpointi tulemused kinnitavad, et mudel suudab sünteesida arusaadavat eestikeelset kõnet ning kasutada erinevaid referentshääli. Samas ei tähenda üks edukas treeningutsükkel veel valmis kõnesünteesisüsteemi.

Edasiseks on vaja võrrelda checkpoint'e püsiva testikomplekti alusel, teha kontrollitud kuulamisteste ning eristada mudeli enda vead probleemidest, mis tulenevad tekstieeltöötlusest, treeningandmetest või referentsheli kvaliteedist.

Valitud checkpointist jätkatakse järeltreeningut täiendava ja paremini kontrollitud materjaliga. Plaanis on ligikaudu 150 000–250 000 täiendavat sammu, kuid treeningu pikkus otsustatakse mõõdetava kvaliteedi, mitte ette määratud sammunumbri järgi.

[ Hääl ei ole ainult mudel ]

Töötav närvivõrk on ainult üks osa kõnesünteesisüsteemist.

Praktiliseks kasutuseks vajab HÄÄL eraldi tekstieeltöötluse kihti, mis teisendab kirjaliku teksti enne sünteesi loomulikult hääldatavasse vormi.

See puudutab muu hulgas arve, kuupäevi, kellaaegu, rahasummasid, protsente, mõõtühikuid, veebiaadresse, e-posti aadresse, lühendeid ja tehnilisi tähistusi.

Selle kihi arendamine ja testimine on eraldiseisev keele- ja tarkvaraarenduse ülesanne ning seda ei lahenda ainult TTS-mudeli pikem treenimine.

21,5 °C

kakskümmend üks koma viis kraadi Celsiuse järgi

https://siseveeb.voco.ee

siseveeb punkt voco punkt ee

[ Pikem tekst ]

Laboritingimustes on lihtne testida üksikuid lauseid. Praktilises kasutuses tuleb süsteemil käsitleda ka lõike, artikleid ja pikemaid dokumente.

Selleks arendatakse segmentimise ja ühendamise kihti, mis jagab sisendi loogilisteks osadeks, sünteesib need eraldi ning ühendab tulemuse terviklikuks heliks.

Lahendus peab säilitama lausetevahelise tempo, pausid ja helitugevuse ning vähendama sõnade vahelejätmise ja katkenud sünteesi riski.

Pikema teksti töötlus vajab seetõttu eraldi arendust ja hindamist väljaspool mudeli enda treeningut.

[ Hääle ülekandmine ]

HÄÄL toetab referentshääle kasutamist, kuid selle funktsiooni kvaliteet ja piirid vajavad veel süsteemset hindamist.

Testida tuleb eri pikkuse, mürataseme, salvestusvahendi ja kõnelejatüübiga referentsheli ning mõõta, kui stabiilselt säilivad kõneleja omadused eri tekstide puhul.

Tehnilise hindamise kõrval tuleb eraldi lahendada ka hääle kasutusõigus. Treeningkorpuse litsents, mudeli levitamise õigus ja konkreetse inimese hääle kasutamise õigus ei ole sama küsimus.

Seetõttu kuuluvad järgmisse etappi nii referentshääle tehniline hindamine kui ka kasutusõiguste ja litsentside selge dokumenteerimine.

[ Kiirus ]

Praegune arendusversioon kasutab veel suuremat 24-kihilist treeningmudelit.

INT8-kvantiseerimisega on saadud esimesed tulemused, mis näitavad, et reaalajas või sellest kiiremini süntees on valitud riistvaral saavutatav.

Need mõõtmised on siiski tehtud arendusmudeliga ning neid ei käsitleta veel lõpliku kasutusversiooni jõudlusnäitajatena.

Järgmises etapis tuleb mõõta kiirust eri protsessoritel ja GPU-del, võrrelda kvantiseerimisviise ning määrata minimaalsed praktilised riistvaranõuded.

[ Väiksem mudel ]

Üks HÄÄLE põhieesmärke on vähendada kõnesünteesi arvutusvajadust.

Praegune 24-kihiline mudel toimib teacher-mudelina ja tehnilise võrdluspunktina. Järgmine uurimisetapp on sellest väiksema, näiteks 6-kihilise student-mudeli destilleerimine.

Väiksemat mudelit ei hinnata ainult faili suuruse järgi. Võrdluses mõõdetakse kõne kvaliteeti, sünteesikiirust, mäluvajadust ja üldistusvõimet.

Alles nende tulemuste põhjal saab otsustada, milline mudelivariant sobib serverisse, tavapärasesse tööjaama või väiksema ressursiga lokaalsesse seadmesse.

[ Järeltreening ]

250 000 sammu ei tähenda, et treening oleks lõppenud.

Järgmise etapi jaoks valitakse senise treeningu checkpoint vastavalt kuulamistestidele ja tehnilistele mõõtmistele.

Valitud mudelist jätkatakse järeltreeningut täiendava ning paremini kontrollitud treeningmaterjaliga.

Praeguse plaani järgi võib järgmine treeninguetapp lisada veel ligikaudu 150 000–250 000 sammu.

Täpne pikkus sõltub sellest, kas kvaliteedi paranemine jätkub ning millistes valdkondades jäävad vead alles.

Treeningu jätkamise eesmärk ei ole saavutada võimalikult suurt sammunumbrit, vaid parandada neid omadusi, mida hindamine näitab veel nõrgana.

[ Andmed ja õigused ]

Järgmise arendusetapi oluline osa on treeningandmete korrastamine ja oma korpuse suurendamine.

Avalikest ja olemasolevatest korpustest saadud materjali puhul tuleb dokumenteerida allikas, litsents ja lubatud kasutus.

Mudeli treenimise õigus ei tähenda automaatselt õigust levitada andmeid, avaldada mudelit või pakkuda selle põhjal kommertsteenust.

Oma kontrollitud korpus võimaldab paremini juhtida salvestuskvaliteeti, teksti koostist, hääldusjuhtumeid ja kõnelejate jaotust ning annab selgema aluse mudeli hilisemaks kasutamiseks.

Eraldi käsitletakse:

• treeningandmete litsentse
• kõnelejate nõusolekuid
• referentshäälte kasutusõigusi
• mudeli enda avaldamise tingimusi

[ Hindamine ]

Praegused kuulamistestid on olnud eelkõige arenduse suunamiseks. Järgmises etapis tuleb hindamine standardiseerida.

Selleks luuakse püsiv testikomplekt, mida treeningus ei kasutata, ning võrreldakse erinevaid checkpoint'e ja mudeliversioone samadel sisenditel.

Testikomplekt peab hõlmama tavateksti kõrval nimesid, arve, kuupäevi, lühendeid, võõrsõnu, tehnilisi termineid, pikki lauseid ja teisi keerulisemaid juhtumeid.

Lisaks sisemisele hindamisele on eesmärk kaasata sõltumatuid testijaid, et mudeli kvaliteeti ei hinnataks ainult arendusmeeskonna kuulamise põhjal.

[ Terviksüsteem ]

HÄÄL ei ole kavandatud eraldiseisva demonstratsioonina.

Kõnesüntees on üks osa pikemast tehnoloogilisest ahelast. Jätkuprojekt KUULA lisab eestikeelse Speech-to-Text (STT) sisendikihi ning nende vahele arendatav ühenduskiht võimaldab siduda kõnetuvastuse keelemudeli ja kõnesünteesiga.

Pikema eesmärgina moodustub ahel:

KUULA → LLM → HÄÄL

Selleks peab HÄÄL olema kasutatav selge API, stabiilse sisend- ja väljundformaadi ning dokumenteeritud käitumisega.

Seetõttu hõlmab järgmine arendusetapp lisaks mudelile ka API-t, integratsioonikihti ja käituskeskkonda.

[ Hetkeseis ]

HÄÄL on jõudnud etapini, kus põhitehnoloogia toimivus eesti keeles on tõendatud, kuid terviklik baastehnoloogia ei ole veel valmis.

Praegune arendusmudel annab aluse järgmisele etapile, mille keskmes on:

• treeningandmete ja litsentside korrastamine
• oma korpuse suurendamine
• kontrollitud järeltreening
• standardiseeritud kvaliteedihindamine
• teksti normaliseerimine
• pika teksti töötlemine
• referentshääle hindamine ja õigused
• teacher-mudeli destilleerimine väiksemaks mudeliks
• kvantimine ja jõudluse mõõtmine erineval riistvaral
• API ja lokaalse käituse lahendused

Paralleelselt algab KUULA Speech-to-Text (STT) kihi arendus ning nende vahele loodav ühenduskiht.

Järgmise etapi eesmärk ei ole lihtsalt pikemalt treenida juba olemasolevat mudelit. Eesmärk on viia töötav arendusmudel dokumenteeritud, mõõdetava ja kasutatava eestikeelse kõnetehnoloogia baaskomponendini.