پیش‌نویس:سنتز گفتار یادگیری عمیق

(این مقاله در حال ترجمه از ویکی انگلیسی است

لطفا حذف نشود.)

یادگیری عمیق سنتز گفتار، از شبکه‌های عصبی عمیق (DNN) برای تولید گفتار مصنوعی از متن (متن به گفتار) یا طیف (رمزگذارهای صوتی) استفاده می‌کند. شبکه های عصبی عمیق با استفاده از حجم زیادی از گفتار ضبط شده و در مورد سیستم متن به گفتار، برچسب های مرتبط و/یا متن ورودی آموزش داده می شوند.

بعضی از سنتز کننده های گفتار مبتنی بر DNN، رویکرد طبیعت صدای انسان را در پیش می گیرند.

فرمول های مرتبط

با توجه به یک متن ورودی یا یک سری از واحدهای زبانی $Y$ ، گفتار هدف $X$ را می توان توسط رابطه ی زیر به دست آورد:

$X=\arg \max P(X|Y,\theta )$

جایی که $\theta$ پارامتر مدل است.

معمولا ابتدا متن ورودی به یک تولید کننده ی ویژگی صوتی ارسال می شود، سپس ویژگی های آکوستیک به رمزگذارهای صوتی عصبی فرستاده می شود. برای مولد ویژگی صوتی، تابع زیان معمولاً L1 loss یا L2 loss است. محدودیتی که این توابع زیان دارند این است که توزیع ویژگی های صوتی خروجی باید از نوع گاوسی یا لاپلاسی باشد. در عمل، از آنجایی که محدوده ی صدای انسان در حدود 300 تا 4000 هرتز متغیر است، تابع هرینه طوری طراحی می شود که جریمه بیشتری در این محدوده داشته باشد:

$loss=\alpha {\text{loss}}_{\text{human}}+(1-\alpha ){\text{loss}}_{\text{other}}$

که ${\text{loss}}_{\text{human}}$ تلفات محدوده ی صدای انسان و $\alpha$ یک اسکالر(مقدار عددی) معمولاً در حدود 0.5 است. ویژگی آکوستیک معمولاً طیف نگار یا طیف نگاری در مقیاس Mel است . این ویژگی‌ها رابطه زمان-فرکانس سیگنال گفتار را می گیرند و بنابراین، تولید خروجی‌های هوشمند با این ویژگی‌های صوتی کافی است. ویژگی Mel-frequency cepstrum مورد استفاده در کار تشخیص گفتار، برای سنتز گفتار مناسب نیست؛ زیرا اطلاعات زیادی را کاهش می دهد.

تاریخچه مختصر

پرونده:WaveNet animation.gif

مجموعه ای از لایه های پیچشی معمولی اتساع یافته که در WaveNet استفاده می شود

در سپتامبر 2016، شرکت DeepMind، مدل WaveNet را پیشنهاد کرد، یک مدل تولید کننده ی عمیق از شکل‌ موج های صوتی خام، که نشان می‌دهد مدل‌های مبتنی بر یادگیری عمیق قادر هستند شکل موج های خام را مدل سازی کنند و از روی مشخصه های آکوستیک، مانند طیف‌نگارها یا طیف‌نگارهای مل گفتار تولید کنند. اگرچه WaveNet در ابتدا از نظر محاسباتی بسیار گران و کند در نظر گرفته می‌شد که در آن زمان این امکان وجود نداشت که از این مدل در محصولات مصرفی استفاده شود، اما یک سال پس از انتشار، DeepMind نسخه اصلاح‌شده WaveNet را به نام «Paralel WaveNet» معرفی کرد که مدلی تولیدی ۱۰۰۰ سریع‌تر از نسخه اصلی بود.

در اوایل سال 2017، میلا char2wav را پیشنهاد کرد که مدلی برای تولید شکل موج خام در یک روش end-to-end بود. در همان سال، گوگل و فیس‌بوک به ترتیب Tacotron و VoiceLoop را برای تولید ویژگی‌های صوتی مستقیماً از متن ورودی پیشنهاد کردند. ماه‌ها بعد، گوگل Tacotron2 را پیشنهاد کرد، که کدصدای WaveNet را با معماری اصلاح‌شده Tacotron ترکیب کرد تا سنتز گفتار سرتاسر را انجام دهد. Tacotron2 می تواند گفتاری با کیفیت بالا تولید کند که نزدیک به صدای انسان است. از آن زمان، روش‌های end-end تبدیل به داغ‌ترین موضوع تحقیقاتی شده‌اند، زیرا بسیاری از محققان در سراسر جهان متوجه قدرت ترکیب‌کننده‌های گفتار end-end شده‌اند.

یادگیری نیمه نظارتی

در حال حاضر، یادگیری خود نظارتی به دلیل استفاده بهتر از داده های بدون برچسب، توجه زیادی را به خود جلب کرده است. تحقیقات نشان داده است که با کمک تلفات خود نظارتی، نیاز به داده های جفت کاهش می یابد.

سازگاری اسپیکر صفر شات

سازگاری بلندگو با شات صفر امیدوارکننده است زیرا یک مدل واحد می تواند گفتاری با سبک ها و ویژگی های مختلف بلندگو تولید کند. در ژوئن 2018، گوگل پیشنهاد کرد که از مدل‌های تایید بلندگوهای از پیش آموزش‌دیده به‌عنوان رمزگذار بلندگو برای استخراج تعبیه‌های بلندگو استفاده کند. رمزگذارهای بلندگو سپس بخشی از مدل های عصبی متن به گفتار می شوند، به طوری که می توانند سبک و ویژگی های گفتار خروجی را تعیین کنند. این رویه به جامعه نشان داده است که می توان تنها از یک مدل برای تولید گفتار با سبک های متعدد استفاده کرد.

صداگذار عصبی

Speech synthesis example using the HiFi-GAN neural vocoder

در سنتز گفتار مبتنی بر یادگیری عمیق، رمزگذارهای صوتی عصبی نقش مهمی در تولید گفتار با کیفیت بالا از ویژگی‌های صوتی دارند. مدل WaveNet که در سال 2016 ارائه شد، عملکرد بسیار خوبی در کیفیت گفتار دارد. Wavenet احتمال مشترک یک شکل موج را فاکتور گرفت $\mathbf {x} =\{x_{1},...,x_{T}\}$ به عنوان حاصل ضرب احتمالات مشروط به صورت زیر

$p_{\theta }(\mathbf {x} )=\prod _{t=1}^{T}p(x_{t}|x_{1},...,x_{t-1})$

جایی که $\theta$ پارامتر مدل شامل بسیاری از لایه های پیچشی اتساع یافته است. بنابراین، هر نمونه صوتی $x_{t}$، مشروط به نمونه ها در تمام مراحل قبلی است. با این حال، ماهیت رگرسیون خودکار WaveNet روند استنتاج را به طور چشمگیری کند می کند. برای حل این مشکل، Parallel WaveNet پیشنهاد شد. WaveNet موازی یک مدل مبتنی بر جریان اتورگرسیو معکوس است که با knowledge distillationبا یک مدل WaveNet معلم از قبل آموزش دیده آموزش داده می شود. از آنجایی که چنین مدل‌های مبتنی بر جریان اتورگرسیو معکوس هنگام انجام استنتاج غیر رگرسیون خودکار هستند، سرعت استنتاج سریع‌تر از زمان واقعی است. در همین حال، Nvidia مدل WaveGlow مبتنی بر جریان را پیشنهاد کرد که می‌تواند گفتار را سریع‌تر از زمان واقعی تولید کند. با این حال، علی رغم سرعت استنتاج بالا، WaveNet موازی محدودیت نیاز به یک مدل WaveNet از پیش آموزش دیده را دارد، به طوری که WaveGlow هفته ها طول می کشد تا با دستگاه های محاسباتی محدود همگرا شود. این مشکل توسط موازی WaveGAN حل شده است، که یاد می گیرد گفتار را از طریق از دست دادن طیفی با وضوح چندگانه و استراتژی های یادگیری GAN تولید کند.