LLM vs AI agent fyrir þýðingar og hvað hvort um sig getur misst af

Ef þú ert að velja á milli LLM og AI agent fyrir þýðingu segir heitið lítið um hvað getur farið úrskeiðis. Eitt stakt LLM-kall getur skilað öruggu en röngu svari án nokkurrar viðvörunar. Agent getur spurt réttu spurningarinnar, en hvert skref sem hann tekur bætir við tíma og enn einum stað þar sem eitthvað getur brugðist.

Þrír ólíkir hlutir deila oft heitinu „AI agent“: eitt LLM-kall, vinnuflæði sem keyrir mörg líkön í einu og agent sem skipuleggur og vinnur í lykkju. Við keyrum alla þrjá á MachineTranslation.com. Munurinn hér að neðan kemur af því að keyra þá í raunumhverfi.

Helstu atriði

• Eitt stakt LLM-kall skilar einu svari án nokkurrar vísbendingar um hvort það svar sé rétt.
• AI agent velur sín eigin skref, þannig að hvert aukaskref bætir við tíma og enn einum stað þar sem eitthvað getur brugðist.
• Samhljómur margra líkana er vinnuflæði með fastri leið, og að keyra 22 líkön samhliða gerir það að verkum að biðin ræðst af hægasta líkaninu, á meðan að keyra þau í röð myndi gera hana að summu allra 22.
• Í einu dæmi við kynningu þýddu fimm líkön fjögurra orða frasa og skiluðu niðurstöðu á 751 millisekúndum.
• Samhljómur getur ekki komið auga á val sem öll líkön taka á sama hátt, eins og formlega japönsku fyrir „good morning“, svo MachineTranslation.com bætir við AI Translation Agent sem spyr notandann um samhengið sem vantar.

Hver er munurinn á LLM og AI agent við þýðingar?

LLM er líkan. Þú sendir texta inn og færð texta til baka, í einu kalli. AI agent er kerfi byggt í kringum LLM. Verkfræðiteymi Anthropic aðskilur þetta tvennt út frá því hver ákveður skrefin. Í vinnuflæði ákvarðar kóði skrefin fyrirfram. Í agent velur LLM sín eigin skref og verkfæri.

Þetta gefur þrjár myndir fyrir þýðingu. Eitt stakt LLM-kall er einfaldast og skilar einu svari án nokkurrar vísbendingar um hvort það svar sé rétt. Vinnuflæði, eins og að keyra mörg líkön í einu og bera saman niðurstöðurnar, fylgir fastri leið. Agent vinnur í lykkju. Hann ákveður hvað skal gera, gerir það og athugar niðurstöðuna. Hann getur einnig spurt notandann spurningar áður en hann heldur áfram.

Eitt stakt LLM-kall er eitt skref. Vinnuflæði með samhljómi sendir sama textann til margra líkana samtímis og ber síðan saman úttökin. Agent fer í gegnum lykkju með því að skipuleggja, framkvæma og athuga, og getur stöðvað til að spyrja notandann spurningar.

Hverju bæta AI-agentar við þýðingu og hvað kosta þeir?

Agent bætir við ákvörðunum sem stakt módelkall getur ekki tekið. Hann getur spurt hvort setning eigi að vera formleg eða óformleg. Hann getur líka flett upp hugtaki og athugað eigið uppkast. Hvert þeirra er aukaskref, og hvert skref bætir við tíma og nýjum stað þar sem eitthvað getur brugðist.

Leiðbeiningar Anthropic eru að byrja á einfaldasta fyrirkomulaginu sem virkar. Notaðu verkflæði fyrir vel skilgreint verkefni og notaðu agent þegar verkefnið krefst sveigjanlegra ákvarðana. Við fylgjum sömu reglu. AI Translation Agent er sérstakt lag sem grípur aðeins inn í þegar setning skilur eitthvað eftir opið, svo sem hversu formlegur textinn ætti að vera.

Hvar passar multi-model consensus inn?

Multi-model consensus er verkflæði með fastri leið. Sami texti fer til allra módela í einu. Niðurstöðurnar eru bornar saman og þeirri útgáfu skilað sem flest módel eru sammála um. Anthropic kallar þá aðferð að keyra nokkrar tilraunir samtímis til að auka áreiðanleika parallelization.

Verkfræðilega vandamálið er tími. Ef 22 módel keyrðu hvert á eftir öðru væri biðin samtala 22 kalla. Þau keyra samhliða, svo biðin ræðst af hægasta módelinu í safninu, eins og við lýsum í leiðarvísi okkar um að fá staðfestar þýðingar innan Claude eða ChatGPT. Í einu kynningardæmi þýddu fimm módel fjögurra orða frasa og skiluðu niðurstöðu á 751 millisekúndu. Lengri texti tekur lengri tíma og sama regla gildir.

Við prófuðum stærðir á safninu og sættumst á 22. Með færri módelum veikist samkomulagsmerkið. Með fleirum byrjar latency að læðast inn. Notandinn sér eina niðurstöðu. Vinnan sem gerði hana hraða átti sér stað fyrir smellinn.

Hverju missir consensus af sem agent getur komið auga á?

Consensus getur aðeins séð ósamræmi milli módela, svo það getur ekki komið auga á val sem öll módel taka á sama hátt. Í prófunum okkar á algengum frösum þýddu öll sjö módelin sem sýnd voru "good morning" yfir á japönsku með hinu formlega おはようございます, þögul ákvörðun um kurteisi sem enginn spurði notandann um.

Franska "Je t'aime" fylgdi sama mynstri. Módelin voru sammála um eina þýðingu, en frasinn getur tjáð rómantíska, platónska eða fjölskylduást, og bein þýðing segir ekki til um hvað af því á við. Samanburðarskref hefur ekkert að bera saman þegar öll módel svara á sama hátt.

Þetta bil er ástæðan fyrir því að AI Translation Agent keyrir sem sérstakt lag. Hann spyr um stílstig, markhóp og tón aðeins þegar textinn skilur það eftir opið. Consensus grípur módelin sem eru ósammála. Agentinn grípur það sem þau gera öll ráð fyrir.

Hverjar eru ólíkar gerðir AI-agenta og hverjar skipta máli fyrir þýðingu?

Kennslubækur um gervigreind flokka erindreka eftir því hvernig þeir ákveða hvað skal gera. Hinn hefðbundni listi nær frá einföldum viðbragðserindrekum, sem bregðast við núverandi inntaki, í gegnum markmiðsdrifna erindreka sem skipuleggja að ákveðinni útkomu, yfir í lærandi erindreka sem taka framförum með endurgjöf.

Kerfislega séð felur hvert skref upp listann í sér meira ástand og fleiri lykkjur sem þarf að viðhalda. Þýðingar njóta mest góðs af markmiðsdrifna endanum, vegna þess að þýðing veltur oft á samhengi sem núverandi setning inniheldur ekki. AI Translation Agent er staðsettur þar. Hann vinnur að þýðingu sem passar við samhengið, og hans helsta verkfæri er spurning til notandans.

Eru til þýðingalíkön sem eru ekki LLM?

Já, vegna þess að kerfi fyrir taugavélþýðingar eru eingöngu þjálfuð til að þýða á milli tungumála, sem gerir þau að annars konar líkani en alhliða LLM. Sum líkön innan LLM-fjölskyldunnar virka einnig öðruvísi. Flest LLM búa til einn tóka í einu. Mercury, frá Inception Labs, er dreifingarmálslíkan sem býr til textablokkir samhliða, sem við fjöllum um í færslu okkar um að bæta Gemma og Mercury við vettvanginn.

Hvort API fyrir taugavélþýðingar eða LLM hentar betur veltur á verkefninu. API fyrir taugavélþýðingar þjónar líkani sem er smíðað fyrir eitt verkefni, á meðan LLM getur fylgt leiðbeiningum og nýtt meira samhengi. Vélasafn MachineTranslation.com inniheldur bæði hefðbundnar vélþýðingarvélar og LLM, svo ein beiðni getur notað hvora tegundina sem er.

Hvaða LLM eru sterkust fyrir þýðingar?

Sterkasta LLM fer eftir tungumálapari og þýðingarstefnu, svo við veljum ekki eitt á vettvangsstigi. Safnið inniheldur ChatGPT, Claude, Gemini, DeepSeek, Qwen, Grok og Mistral AI. Öll líkön keyra samhliða, svo það að bæta við eða skipta út líkani eykur ekki biðtímann. Niðurstöður um gæði tiltekinna líkana koma úr líkanasamanburðarprófunum okkar.

Hvernig nota gervigreindarerindrekar MachineTranslation.com?

Gervigreindarerindrekar og aðstoðarmenn geta kallað á MachineTranslation.com sem verkfæri. MCP-tengið gerir greiðandi áskrifendum kleift að nota það úr Claude, ChatGPT, Copilot eða hvaða aðstoðarmanni sem er sem styður sérsniðin tengi. Fyrirspurnin keyrir í gegnum sama safn 22 líkana samhliða og skilar þeirri útgáfu sem flest þeirra eru sammála um. Fyrir aðstoðarmanninn verður þýðing að einu verkfærakalli. Líkanasamanburðurinn fer fram okkar megin og samtalið sér aðeins niðurstöðuna.

Þú getur fylgst með samhliða keyrslunni og spurningum erindrekans á eigin texta. Límdu setningu inn á MachineTranslation.com og líkönin keyra öll í einu. Erindrekinn spyr aðeins þegar setningin skilur eitthvað eftir opið.

Algengar spurningar