O‘zbek tili uchun nomlangan obyektlarni avtomatik aniqlash va tasniflash dasturi

Shaxs, joy, tashkilot, sana va boshqa nom birliklarini bir zumda ajratib, BIO sxemasi asosida tasniflaydigan tabiiy tilni qayta ishlash vositasi.

Namuna natija
LOC Toshkent
shahridagi
ORG Asaka bank
filialiga
PER Aziz Karimov
bugun tashrif buyurdi.
Loyiha haqida

O'zbek tili uchun yaratilgan NER texnologiyasi

UzNER — o'zbek tilidagi matnlarda nomlangan obyektlarni aniqlash va tasniflashga mo'ljallangan dasturiy vosita. Bu tabiiy tilni qayta ishlash (NLP) sohasining raqamli lingvistika, axborot qidiruvi, mashina tarjimasi va sun'iy intellekt tizimlari uchun muhim yo'nalishidir.

🎯

Maqsad

Matn tarkibidagi shaxs nomlari, geografik obyektlar, tashkilotlar, vaqt birliklari, pul miqdorlari va boshqa muhim atamalarni aniqlab, ularni ma'lum toifalarga ajratish.

Natijalar elektron hujjatlar tahlili, axborot qidiruvi, media monitoring, raqamli arxivlar va korpus lingvistikasida qo'llaniladi.

🏷️

Toifalar

Dastlab nomlangan obyektlarning 26 ta turi belgilangan va shu asosda teglangan edi. Tahlillar davomida toifalar optimallashtirilib, yakuniy bosqichda eng muhim sinflarga qisqartirildi:

26 turi 12 toifa 9 yakuniy sinf
PER LOC ORG TIME MONEY MISC NUMERIC TEMPORAL WORK
⚙️

Metodologiya

Obyektlarni belgilash uchun xalqaro amaliyotda keng qo'llaniladigan BIO (Begin-Inside-Outside) teglash sxemasidan foydalanilgan — bu obyektning boshlanish va davomiy qismlarini aniq ajratib beradi.

BiLSTM
CRF
BERT
📚

Korpus va aniqlik

Model 10 ming tokenli o'zbek tili korpusi (shundan 5 ming tokeni qo'lda annotatsiyalangan) asosida o'qitilgan.

Zamonaviy transformer arxitekturasiga asoslangan BERT modeliga o'tish orqali aniqlik sezilarli oshirilib, hozirda 92% F1 ballga erishilgan.

🚀

Kelajak rejalari

Korpus hajmini kengaytirish, obyekt turlarini yanada takomillashtirish, real vaqt rejimida ishlovchi tizim yaratish va o'zbek tilining turli uslubiy qatlamlari uchun moslashtirilgan modellarni ishlab chiqish rejalashtirilgan. Dastur ochiq kodli (open source) tamoyili asosida rivojlantirilmoqda.

SM
Samatboyeva Madina To'lqinjon qizi
Loyiha rahbari · Toshkent davlat o'zbek tili va adabiyoti universiteti, Kompyuter lingvistikasi va raqamli texnologiyalar kafedrasi tayanch doktoranti
Innovatsion rivojlanish agentligi · "Akademik harakatchanlik" tanlovi doirasida yaratildi
Tahlil vositasi

Matnni sinab ko'rish

0/500