Ο στόχος αυτής της έκθεσης είναι να συγκρίνει την ποιότητα της μετάφρασης μεταξύ παλαιών και νέων γλωσσικών μοντέλων. Τα νέα μοντέλα δεν έχουν μόνο βελτιωμένη ποιότητα αλλά απόδοση και χρήση μνήμης. Χρησιμοποιήσαμε τη δοκιμή Metric και κυρίως Flores 101 στην αναφορά.
Το BLEU είναι οι πιο δημοφιλείς μετρήσεις στον κόσμο για την αξιολόγηση της μηχανικής μετάφρασης. Το σετ δοκιμών Flores 101 κυκλοφόρησε από την Facebook Research και έχει τη μεγαλύτερη κάλυψη ζεύγους γλώσσας.
Περιγραφή ποιότητας μετρήσεων
Μπίλου
Το Bleu είναι μια αυτόματη μέτρηση που βασίζεται σε n-grams. Μετράει την ακρίβεια των n-grams της εξόδου της μηχανικής μετάφρασης σε σύγκριση με την αναφορά, σταθμισμένη με ποινή συντομίας για να τιμωρήσει τις υπερβολικά σύντομες μεταφράσεις. Χρησιμοποιούμε μια συγκεκριμένη εφαρμογή του Bleu, που ονομάζεται Sacrebleu.
Εξάγει βαθμολογίες σώματος, όχι βαθμολογίες τμήματος.
Αναφορές
- Papineni, Kishore, S. Roukos, Τ. Ward και Wei-Jing Zhu. "Bleu: Μια μέθοδος για την αυτόματη αξιολόγηση της μηχανικής μετάφρασης." ACL (2002).
- Δημοσίευση, Ματ. "Μια κλήση για σαφήνεια στην αναφορά των βαθμολογιών Bleu." WMT (2018).
ΚΟΜΗΤΗΣ
Ο Comet (διασταυρούμενη βελτιστοποιημένη μέτρηση για την αξιολόγηση της μετάφρασης) είναι μια μέτρηση για την αυτόματη αξιολόγηση της μηχανικής μετάφρασης που υπολογίζει την ομοιότητα μεταξύ μιας εξόδου μετάφρασης μηχανής και μιας μετάφρασης αναφοράς χρησιμοποιώντας ενσωμάτωση συμβολικού ή προτάσεων. Σε αντίθεση με άλλες μετρήσεις, ο Comet εκπαιδεύεται στην πρόβλεψη διαφορετικών τύπων ανθρώπινων κρίσεων με τη μορφή της προσπάθειας μετά την επεξεργασία, της άμεσης αξιολόγησης ή της ανάλυσης σφάλματος μετάφρασης.
Αναφορές
- Comet - https://machinetranslate.org/comet
- Comet: Αξιολόγηση μετάφρασης μηχανής υψηλής ποιότητας-https://unbabel.github.io/COMET/html/index.html#comet-high-quality-machine-translation-evaluation
Ενημερώσεις ιδιωτικού λογισμικού επί τόπου
Νέα έκδοση - 1.36.0.
Αλλαγές στη λειτουργικότητα:
- Βελτιωμένη διαμόρφωση στον αναγνώριστο ομιλίας.
Νέα έκδοση - 1.35.0.
Αλλαγές στη λειτουργικότητα:
- Προστέθηκε η δυνατότητα διαμόρφωσης στο αναγνώστη ομιλίας.
- Προστέθηκαν χώροι κατά τη μετάφραση HTML από τις γλώσσες CJK (Κινέζικα, Ιαπωνικά, Κορεατικά).
Νέα έκδοση - 1.34.0.
Αλλαγές στη λειτουργικότητα:
- Προστέθηκε προχωρημένος μετατροπέας PDF.
- Σφάλματα μετάφρασης σταθερών εγγράφων.
- Προστέθηκε μια διασύνδεση στελέχη για τη δυνατότητα διαμόρφωσης στην ανάπτυξη.
Ζεύγη γλωσσών
Σημείωση: Το χαμηλότερο μέγεθος των μοντέλων στον σκληρό δίσκο σημαίνει τη χαμηλότερη κατανάλωση μνήμης GPU που οδηγεί σε μειωμένο κόστος ανάπτυξης. Το χαμηλότερο μέγεθος του μοντέλου έχει καλύτερη απόδοση στον χρόνο μετάφρασης. Η κατά προσέγγιση χρήση της μνήμης GPU υπολογίζεται ως μέγεθος μοντέλου σκληρού δίσκου x 1.2.
| Language Pair | Current Model's Size, mb | Test Data | Previous Model's BLEU | Current Model's BLEU | Difference | Previous Model's COMET | Current Model's COMET | Difference |
|---|---|---|---|---|---|---|---|---|
| Ελληνικά - Αγγλικά | 184,00 | Flores 101 | 36,16 | 36,19 | +0,03 | 87,32 | 87,38 | +0,06 |
| Κινέζικα (απλοποιημένα) - Αγγλικά | 184,11 | Flores 101 | 29,83 | 29,91 | +0,08 | 86,27 | 86,27 | +0,00 |
| Κορεάτικα - Αγγλικά | 113,91 | Lingvanex | 46,59 | 46,66 | +0,07 | 89,67 | 90,40 | +0,73 |
