4/25/2018 3:57:00 PM
機(jī)器翻譯是如何執(zhí)行的？原理是什么？
近年來，機(jī)器翻譯有了長足的進(jìn)步，這是自然語言處理與人工智能的一次重大飛躍。
所謂的機(jī)器翻譯可以看作是如下這張圖：
我們的翻譯機(jī)器就是其中帶有問號的黑箱，它的作用就是能夠?qū)⒁粋€(gè)語言的序列（如Economic growth has slowed down in recent years）轉(zhuǎn)化成目標(biāo)語言序列（如La croissance economique sest ralentie ces dernieres annees）。其中翻譯機(jī)器在正式工作之前可以利用已有的語料庫（Corpora）來進(jìn)行學(xué)習(xí)和訓(xùn)練。
所謂的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯就是利用神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)上述的黑箱翻譯機(jī)器。基于神經(jīng)網(wǎng)絡(luò)的很多技術(shù)都是從Bengio的那篇開創(chuàng)性論文（一種神經(jīng)網(wǎng)絡(luò)的語言模型）衍生出來的。它的架構(gòu)如下圖所示：
其中，我們用一個(gè)神經(jīng)網(wǎng)絡(luò)替換了上圖中的黑箱。在神經(jīng)網(wǎng)絡(luò)中存在著大量的鏈接權(quán)重，這些權(quán)重就是我們要通過數(shù)據(jù)訓(xùn)練、學(xué)習(xí)的參數(shù)。訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)可以將輸入的源語言轉(zhuǎn)換為輸出的目標(biāo)語言。我們要讓神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的目標(biāo)就是要能準(zhǔn)確的翻譯。這里的準(zhǔn)確是指機(jī)器生成的語句是比較符合我們?nèi)祟惖恼f話習(xí)慣的。這里的log p(f|e)就是指給定源語言后機(jī)器所產(chǎn)生的語言f的概率，我們希望這個(gè)概率對于實(shí)際的數(shù)據(jù)來說越大越好，這就是所謂的語言模型。
基于神經(jīng)網(wǎng)絡(luò)的機(jī)器翻譯模型的一個(gè)最大的優(yōu)點(diǎn)就在于它不需要我們用復(fù)雜的特征工程去設(shè)計(jì)其過程中的環(huán)節(jié)，也就是所謂的End2End（端到端）的模型。這種模型設(shè)計(jì)還可以避免中間環(huán)節(jié)的誤差累計(jì)。