LLM vs AI agent για μετάφραση και τι μπορεί να διαφύγει από το καθένα

Αν επιλέγετε μεταξύ ενός LLM και ενός AI agent για μετάφραση, η ετικέτα σας λέει ελάχιστα για το τι μπορεί να πάει στραβά. Μια μεμονωμένη κλήση LLM μπορεί να επιστρέψει μια σίγουρη λανθασμένη απάντηση χωρίς καμία προειδοποίηση. Ένας agent μπορεί να κάνει τη σωστή ερώτηση, αλλά κάθε βήμα που κάνει προσθέτει χρόνο και ένα ακόμη σημείο αποτυχίας.

Τρία διαφορετικά πράγματα συχνά μοιράζονται το όνομα "AI agent": μια μεμονωμένη κλήση LLM, μια ροή εργασιών που εκτελεί πολλά μοντέλα ταυτόχρονα και ένας agent που σχεδιάζει και ενεργεί σε έναν βρόχο. Εκτελούμε και τα τρία στο MachineTranslation.com. Οι παρακάτω διαφορές προκύπτουν από την εκτέλεσή τους σε παραγωγή.

Βασικά συμπεράσματα

• Μια μεμονωμένη κλήση LLM επιστρέφει μία απάντηση χωρίς καμία ένδειξη για το αν αυτή η απάντηση είναι σωστή.
• Ένας AI agent επιλέγει τα δικά του βήματα, επομένως κάθε επιπλέον βήμα προσθέτει χρόνο και ένα ακόμη σημείο αποτυχίας.
• Η συναίνεση πολλαπλών μοντέλων είναι μια ροή εργασιών με σταθερή διαδρομή, και η παράλληλη εκτέλεση 22 μοντέλων κάνει την αναμονή να ακολουθεί το πιο αργό μοντέλο, ενώ η διαδοχική εκτέλεσή τους θα την καθιστούσε το άθροισμα και των 22.
• Σε ένα παράδειγμα έναρξης, πέντε μοντέλα μετέφρασαν μια φράση τεσσάρων λέξεων και επέστρεψαν ένα αποτέλεσμα σε 751 χιλιοστά του δευτερολέπτου.
• Η συναίνεση δεν μπορεί να εντοπίσει μια επιλογή που κάθε μοντέλο κάνει με τον ίδιο τρόπο, όπως τα επίσημα ιαπωνικά για το "good morning", επομένως το MachineTranslation.com προσθέτει έναν AI Translation Agent που ζητά από τον χρήστη τα συμφραζόμενα που λείπουν.

Ποια είναι η διαφορά μεταξύ ενός LLM και ενός AI agent στη μετάφραση;

Ένα LLM είναι ένα μοντέλο. Στέλνετε κείμενο και λαμβάνετε κείμενο πίσω, σε μία κλήση. Ένας AI agent είναι ένα σύστημα κατασκευασμένο γύρω από ένα LLM. Η ομάδα μηχανικών της Anthropic διαχωρίζει τα δύο με βάση το ποιος αποφασίζει τα βήματα. Σε μια ροή εργασιών, ο κώδικας καθορίζει τα βήματα εκ των προτέρων. Σε έναν agent, το LLM επιλέγει τα δικά του βήματα και εργαλεία.

Αυτό δίνει τρεις μορφές για τη μετάφραση. Μια μεμονωμένη κλήση LLM είναι η απλούστερη και επιστρέφει μία απάντηση χωρίς καμία ένδειξη για το αν αυτή η απάντηση είναι σωστή. Μια ροή εργασιών, όπως η ταυτόχρονη εκτέλεση πολλών μοντέλων και η σύγκριση των αποτελεσμάτων, ακολουθεί μια σταθερή διαδρομή. Ένας agent λειτουργεί σε έναν βρόχο. Αποφασίζει τι να κάνει, το κάνει και ελέγχει το αποτέλεσμα. Μπορεί επίσης να κάνει μια ερώτηση στον χρήστη πριν συνεχίσει.

Μια μεμονωμένη κλήση LLM είναι ένα βήμα. Μια ροή εργασιών συναίνεσης στέλνει το ίδιο κείμενο σε πολλά μοντέλα ταυτόχρονα και στη συνέχεια συγκρίνει τα αποτελέσματα. Ένας agent επαναλαμβάνει τον κύκλο σχεδιασμού, δράσης και ελέγχου, και μπορεί να σταματήσει για να κάνει μια ερώτηση στον χρήστη.

Τι προσθέτουν οι AI agents στη μετάφραση και ποιο είναι το κόστος τους;

Ένας agent προσθέτει αποφάσεις τις οποίες δεν μπορεί να λάβει μια μεμονωμένη κλήση μοντέλου. Μπορεί να ρωτήσει αν μια πρόταση πρέπει να είναι επίσημη ή ανεπίσημη. Μπορεί επίσης να αναζητήσει έναν όρο και να ελέγξει το δικό του προσχέδιο. Κάθε ένα από αυτά είναι ένα επιπλέον βήμα, και κάθε βήμα προσθέτει χρόνο και ένα ακόμα σημείο αποτυχίας.

Η οδηγία της Anthropic είναι να ξεκινά κανείς με τον απλούστερο σχεδιασμό που λειτουργεί. Χρησιμοποιήστε ένα workflow για μια σαφώς καθορισμένη εργασία και χρησιμοποιήστε έναν agent όταν η εργασία απαιτεί ευέλικτες αποφάσεις. Ακολουθούμε τον ίδιο κανόνα. Το AI Translation Agent είναι ένα ξεχωριστό επίπεδο που παρεμβαίνει μόνο όταν μια πρόταση αφήνει κάτι ανοιχτό, όπως το πόσο επίσημο θα πρέπει να είναι το κείμενο.

Πού εντάσσεται το multi-model consensus;

Το multi-model consensus είναι ένα workflow με σταθερή διαδρομή. Το ίδιο κείμενο πηγαίνει σε κάθε μοντέλο ταυτόχρονα. Οι έξοδοι συγκρίνονται και επιστρέφεται η έκδοση στην οποία συμφωνούν τα περισσότερα μοντέλα. Η Anthropic ονομάζει την πρακτική της ταυτόχρονης εκτέλεσης πολλών προσπαθειών για την αύξηση της βεβαιότητας parallelization.

Το τεχνικό πρόβλημα είναι ο χρόνος. Αν 22 μοντέλα εκτελούνταν το ένα μετά το άλλο, η αναμονή θα ήταν το άθροισμα 22 κλήσεων. Εκτελούνται παράλληλα, επομένως η αναμονή καθορίζεται από το πιο αργό μοντέλο στο pool, όπως περιγράφουμε στον οδηγό μας για τη λήψη επαληθευμένων μεταφράσεων μέσα στο Claude ή το ChatGPT. Σε ένα παράδειγμα κατά την κυκλοφορία, πέντε μοντέλα μετέφρασαν μια φράση τεσσάρων λέξεων και επέστρεψαν ένα αποτέλεσμα σε 751 milliseconds. Το μεγαλύτερο κείμενο απαιτεί περισσότερο χρόνο και ισχύει ο ίδιος κανόνας.

Δοκιμάσαμε μεγέθη pool και καταλήξαμε στο 22. Με λιγότερα μοντέλα, το σήμα συμφωνίας εξασθενεί. Με περισσότερα, το latency αρχίζει να αυξάνεται. Ο χρήστης βλέπει ένα αποτέλεσμα. Η δουλειά που το έκανε γρήγορο έγινε πριν από το κλικ.

Τι διαφεύγει από το consensus που μπορεί να εντοπίσει ένας agent;

Το consensus μπορεί να δει μόνο τη διαφωνία μεταξύ των μοντέλων, επομένως δεν μπορεί να εντοπίσει μια επιλογή που κάθε μοντέλο κάνει με τον ίδιο τρόπο. Στις δοκιμές μας σε κοινές φράσεις, και τα επτά μοντέλα που εμφανίζονται μετέφρασαν το "good morning" στα ιαπωνικά με το επίσημο おはようございます, μια σιωπηρή απόφαση σχετικά με την ευγένεια για την οποία κανείς δεν ρώτησε τον χρήστη.

Το γαλλικό "Je t'aime" ακολούθησε το ίδιο μοτίβο. Τα μοντέλα συμφώνησαν σε μία μετάφραση, αλλά η φράση μπορεί να εκφράσει ρομαντική, πλατωνική ή οικογενειακή αγάπη, και η άμεση μετάφραση δεν διευκρινίζει ποια. Ένα βήμα σύγκρισης δεν έχει τίποτα να συγκρίνει όταν κάθε μοντέλο απαντά με τον ίδιο τρόπο.

Αυτό το κενό είναι ο λόγος για τον οποίο το AI Translation Agent εκτελείται ως δικό του επίπεδο. Ρωτά για το ύφος, το κοινό και τον τόνο μόνο όταν το κείμενο τα αφήνει ανοιχτά. Το consensus εντοπίζει τα μοντέλα που διαφωνούν. Ο agent εντοπίζει αυτά που όλα τους υποθέτουν.

Ποιοι είναι οι διαφορετικοί τύποι AI agents και ποιοι έχουν σημασία για τη μετάφραση;

Τα εγχειρίδια τεχνητής νοημοσύνης ταξινομούν τους πράκτορες με βάση τον τρόπο με τον οποίο αποφασίζουν τι θα κάνουν. Η κλασική λίστα εκτείνεται από απλούς ανακλαστικούς πράκτορες, οι οποίοι αντιδρούν στα τρέχοντα δεδομένα εισόδου, περνά από πράκτορες βάσει στόχων που σχεδιάζουν με γνώμονα ένα αποτέλεσμα, έως πράκτορες μάθησης που βελτιώνονται μέσω ανατροφοδότησης.

Από άποψη συστήματος, κάθε βήμα προς τα πάνω στη λίστα προσθέτει κατάσταση και βρόχους προς διαχείριση. Η μετάφραση επωφελείται περισσότερο από την κατηγορία των πρακτόρων βάσει στόχων, επειδή μια μετάφραση συχνά εξαρτάται από συμφραζόμενα που δεν περιέχονται στην τρέχουσα πρόταση. Ο AI Translation Agent μας βρίσκεται εκεί. Εργάζεται με στόχο μια μετάφραση που ταιριάζει στα συμφραζόμενα, και το βασικό του εργαλείο είναι μια ερώτηση προς τον χρήστη.

Υπάρχουν μεταφραστικά μοντέλα που δεν είναι LLM;

Ναι, επειδή τα συστήματα νευρωνικής μηχανικής μετάφρασης εκπαιδεύονται μόνο για να μεταφράζουν μεταξύ γλωσσών, γεγονός που τα καθιστά διαφορετικό είδος μοντέλου από ένα LLM γενικής χρήσης. Ορισμένα μοντέλα εντός της οικογένειας των LLM λειτουργούν επίσης διαφορετικά. Τα περισσότερα LLM παράγουν ένα token τη φορά. Το Mercury, από την Inception Labs, είναι ένα diffusion language model που παράγει μπλοκ κειμένου παράλληλα, κάτι που καλύπτουμε στην ανάρτησή μας σχετικά με την προσθήκη των Gemma και Mercury στην πλατφόρμα.

Το αν ταιριάζει καλύτερα ένα neural translation API ή ένα LLM εξαρτάται από την εργασία. Ένα neural translation API εξυπηρετεί ένα μοντέλο που έχει κατασκευαστεί για μία μόνο εργασία, ενώ ένα LLM μπορεί να ακολουθήσει οδηγίες και να χρησιμοποιήσει περισσότερα συμφραζόμενα. Η δεξαμενή μηχανών του MachineTranslation.com περιλαμβάνει τόσο παραδοσιακές μηχανές μηχανικής μετάφρασης όσο και LLM, επομένως ένα αίτημα μπορεί να χρησιμοποιήσει οποιοδήποτε από τα δύο είδη.

Ποια LLM είναι τα ισχυρότερα για μετάφραση;

Το ισχυρότερο LLM εξαρτάται από το γλωσσικό ζεύγος και την κατεύθυνση, επομένως δεν επιλέγουμε ένα σε επίπεδο πλατφόρμας. Η δεξαμενή περιλαμβάνει τα ChatGPT, Claude, Gemini, DeepSeek, Qwen, Grok και Mistral AI. Κάθε μοντέλο εκτελείται παράλληλα, επομένως η προσθήκη ή η αντικατάσταση ενός δεν αυξάνει τον χρόνο αναμονής. Τα αποτελέσματα ποιότητας για συγκεκριμένα μοντέλα προέρχονται από τις δοκιμές σύγκρισης μοντέλων που πραγματοποιούμε.

Πώς χρησιμοποιούν οι πράκτορες AI το MachineTranslation.com;

Οι πράκτορες AI και οι βοηθοί μπορούν να καλούν το MachineTranslation.com ως εργαλείο. Ο MCP connector επιτρέπει στους συνδρομητές επί πληρωμή να το χρησιμοποιούν από το Claude, το ChatGPT, το Copilot ή οποιονδήποτε βοηθό υποστηρίζει custom connectors. Το αίτημα εκτελείται παράλληλα στην ίδια δεξαμενή 22 μοντέλων και επιστρέφει την έκδοση στην οποία συμφωνούν τα περισσότερα από αυτά. Για τον βοηθό, η μετάφραση γίνεται μία κλήση εργαλείου. Η σύγκριση των μοντέλων παραμένει στη δική μας πλευρά, και η συνομιλία βλέπει μόνο το αποτέλεσμα.

Μπορείτε να παρακολουθήσετε την παράλληλη εκτέλεση και τις ερωτήσεις του πράκτορα στο δικό σας κείμενο. Επικολλήστε μια πρόταση στο MachineTranslation.com και τα μοντέλα εκτελούνται ταυτόχρονα. Ο πράκτορας ρωτά μόνο όταν η πρόταση αφήνει κάτι ανοιχτό.

Συχνές ερωτήσεις