Ο στόχος αυτής της έκθεσης είναι να συγκρίνει την ποιότητα της μετάφρασης μεταξύ παλαιών και νέων γλωσσικών μοντέλων.
Τα νέα μοντέλα δεν έχουν μόνο βελτιωμένη ποιότητα αλλά απόδοση και χρήση μνήμης. Χρησιμοποιήσαμε τη δοκιμή Metric και κυρίως Flores 101 στην αναφορά.
Το BLEU είναι οι πιο δημοφιλείς μετρήσεις στον κόσμο για την αξιολόγηση της μηχανικής μετάφρασης. Το σετ δοκιμών Flores 101 κυκλοφόρησε από την Facebook Research και έχει τη μεγαλύτερη κάλυψη ζεύγους γλώσσας.
Περιγραφή ποιότητας μετρήσεων
Μπίλου
Το Bleu είναι μια αυτόματη μέτρηση που βασίζεται σε n-grams. Το TI μετρά την ακρίβεια των n-grams της εξόδου της μηχανικής μετάφρασης σε σύγκριση με την αναφορά, σταθμισμένη με ποινή συντομίας για να τιμωρήσει τις υπερβολικά σύντομες μεταφράσεις. Χρησιμοποιούμε μια συγκεκριμένη εφαρμογή του Bleu, που ονομάζεται Sacrebleu. Εξάγει βαθμολογίες κορμών, όχι βαθμολογίες τμήματος.
Αναφορές
- Papineni, Kishore, S. Roukos, Τ. Ward και Wei-Jing Zhu. "Bleu: Μια μέθοδος για την αυτόματη αξιολόγηση της μηχανικής μετάφρασης." ACL (2002).
- Δημοσίευση, Ματ. "Μια κλήση για σαφήνεια στην αναφορά των βαθμολογιών Bleu." WMT (2018).
ΚΟΜΗΤΗΣ
Ο Comet (διασταυρούμενη βελτιστοποιημένη μέτρηση για την αξιολόγηση της μετάφρασης) είναι μια μέτρηση για την αυτόματη αξιολόγηση της μηχανικής μετάφρασης που υπολογίζει την ομοιότητα μεταξύ μιας εξόδου μετάφρασης μηχανής και μιας μετάφρασης αναφοράς χρησιμοποιώντας ενσωμάτωση συμβολικού ή προτάσεων. Σε αντίθεση με άλλες μετρήσεις, ο Comet εκπαιδεύεται στην πρόβλεψη διαφορετικών τύπων ανθρώπινων κρίσεων με τη μορφή της προσπάθειας μετά την επεξεργασία, της άμεσης αξιολόγησης ή της ανάλυσης σφάλματος μετάφρασης.
Αναφορές
- Comet - https://machinetranslate.org/comet
- Comet: Αξιολόγηση μετάφρασης μηχανής υψηλής ποιότητας-https://unbabel.github.io/COMET/html/index.html#comet-high-quality-machine-translation-evaluation
Ενημερώσεις ιδιωτικού λογισμικού επί τόπου
Νέα έκδοση - 1.26.0.
Αλλαγές στη λειτουργικότητα:
- Βελτιωμένη εργασία με εναλλακτικές παραλλαγές μετάφρασης.
- Προστέθηκε κανονικοποιητής και denoiser για αναγνώριση ομιλίας.
- Βελτίωση της ποιότητας μετάφρασης NI
Ζεύγη γλωσσών
ΣΗΜΕΙΩΣΗ: Το χαμηλότερο μέγεθος των μοντέλων στον σκληρό δίσκο σημαίνει τη χαμηλότερη κατανάλωση μνήμη GPU που οδηγεί σε μειωμένο κόστος άνοιας. Το χαμηλότερο μέγεθος του μοντέλου έχει καλύτερη απόδοση στον χρόνο μετάφρασης. Η κατά προσέγγιση χρήση της μνήμης GPU υπολογίζεται ως μοντέλο σκληρού δίσκου μέγεθος x 1.2
| Language Pair | Current Model's Size, mb | Test Data | Previous Model's BLEU | Current Model's BLEU | Difference | Previous Model's COMET | Current Model's COMET | Difference |
|---|---|---|---|---|---|---|---|---|
| Αραβικά - Αγγλικά | 184,11 | Flores 101 | 44,91 | 45,6 | +0,69 | 87,69 | 87,88 | +0,19 |
| Βουλγαρικά - Αγγλικά | 184,01 | Flores 101 | 32,34 | 28,31 | +4,03 | 32,34 | 32,34 | +4,03 |
| Αγγλικά - βουλγαρικά | 184 | Flores 101 | 44,19 | 45,9 | +1,71 | 90,12 | 91,22 | +1,1 |
| Κορσική - Αγγλικά | 113,91 | Lingvanex | 56,28 | 59,9 | +3,62 | 83,3 | 83,86 | +0,56 |
| Gaelic - Αγγλικά | 113,91 | Flores 101 | 24,84 | 29,6 | +4,76 | 70,17 | 76,02 | +5,85 |
| Καζάκ - Αγγλικά | 113,91 | Flores 101 | 33,27 | 36,25 | +2,98 | 86,23 | 87,61 | +1,38 |
| Kinyarwanda - Αγγλικά | 113,91 | Flores 101 | 27,89 | 32,98 | +5,09 | 70,68 | 73,73 | +3,05 |
| Λετονία - Αγγλικά | 113,91 | Flores 101 | 36,94 | 38,95 | +2,01 | 86,93 | 87,67 | +0,74 |
| Αγγλικά - Λετονία | 113,91 | Flores 101 | 36,24 | 37,88 | +1,64 | 89,6 | 90,49 | +0,89 |
| Μαλαισία - Αγγλικά | 184,11 | Flores 101 | 42,96 | 46,09 | +3,13 | 87,68 | 88,84 | +1,16 |
| Malayalam - Αγγλικά | 113,91 | Flores 101 | 35,57 | 39,26 | +3,69 | 86,29 | 88,28 | +1,99 |
| Νορβηγία - Αγγλικά | 184 | Flores 101 | 43,27 | 44,2 | +0,93 | 88,33 | 88,78 | +0,45 |
| Αγγλικά - Νορβηγικά | 184,02 | Flores 101 | 35,13 | 35,85 | +0,72 | 89,47 | 90,25 | +0,78 |
| Ρουμανικά - Αγγλικά | 184 | Flores 101 | 42,8 | 45,22 | +2,42 | 88,77 | 89,3 | +0,53 |
| Αγγλικά - Ρουμανία | 179,58 | Flores 101 | 41,51 | 43,68 | +2,17 | 89,05 | 90,29 | +1,24 |
| Σλοβενική - Αγγλικά | 113,91 | Flores 101 | 33,97 | 38,25 | +4,28 | 86,59 | 87,76 | +1,17 |
| Αγγλικά - Σλοβενική | 113,91 | Flores 101 | 30,76 | 35,39 | +4,63 | 87,47 | 90,2 | +2,73 |
| Αγγλικά - Αλβανικά | 113,91 | Lingvanex | 56,16 | 57,04 | +0,88 | 87,85 | 89,03 | +1,18 |
| Αγγλικά - Ελληνικά | 184 | Flores 101 | 28,34 | 29,54 | +1,2 | 88,22 | 89,02 | +0,8 |
| Αγγλικά - Ισπανικά | 184,02 | Flores 101 | 30,1 | 30,16 | +0,06 | 86,69 | 86,74 | +0,05 |
| Αγγλικά - Τατάρ | 113,91 | Flores 101 | 18,6 | 19,01 | +0,41 | 69,05 | 69,26 | +0,21 |
| Αγγλικά - τουρκικά | 184 | Flores 101 | 32,77 | 35,33 | +2,56 | 88,85 | 90,82 | +1,97 |
