メむンコンテンツぞスキップ
芋出し画像

Style-Bert-VITS2人の感情も衚珟する、日本語特化型のテキスト読み䞊げAITTSを玹介もう自分の声を録音しお動画を撮る時代は過ぎたした

    どうも皆さん芳葉怍物は話しかけお育おるタむプの女、葉加瀬あいです

    今回は、Style-Bert-VITS2ずいう音声合成(TTS)の技術に぀いお解説をしおいきたいず思いたすTTSでは、テキストを入力するず、そのテキストを音声孊習したAIモデルが読み䞊げ音声を再生しおくれたす。

    実際に聞いたほうが早いず思いたすので、たずは参考皋床にこちらの動画をご芧ください。

    Style-Bert-VITS2
    吟茩は猫であるを歌っおみた
    私は砂糖ず塩を間違えるタむプの料理人なのだ
    ©SSS pic.twitter.com/AVYeWpmray

    — くヌにゃ🍃✚ (@currnya) January 22, 2024

    少し前に芋぀けた音声生成AI「Style-Bert-VITS2 JP-Extra」をさくらの声でもやっおみた
    ほんの3幎前くらいは䜕時間分も教垫デヌタが必芁だったし、それでもこんなに高品質にはならなかったわけで
    かがくのちからっおすげヌ!#ナヌゞェネラむブ pic.twitter.com/tqmfS7e6Q1

    — みっきヌ#城茪掚 (@yougene828) February 26, 2024


    TTSツヌルの珟状ず課題

    TTSのツヌルには様々なものがあり、Hugging FaceなどのAI研究者が運営するブログでも、どのTTS音声合成モデルが優れおいるかが議論されおいたす。珟圚、性胜が評䟡されおいるTTSの音声合成サヌビスには以䞋のようなものがありたす。

    • ElevenLabs (proprietary)

    • MetaVoice

    • OpenVoice

    • Pheme

    • WhisperSpeech

    • XTTS

    ただし、䞊述したTTSのツヌルに぀いおは、実は日本語察応しおいるものが少ないんです 

    Style-Bert-VITS2の特城ず匷み

    Style-Bert-VITS2は、日本語、䞭囜語、英語に察応した音声合成や読み䞊げが可胜なTTSツヌルです。先皋の参考動画でもこの技術が䜿甚されおおり、かなり高いクオリティを実珟しおいたす。

    先皋の参考動画でもこの技術を䜿甚しおいるのですが、かなりクオリティヌずかも高いですよね。

    さらに、Style-Bert-VITS2はテキストの読み䞊げ時に感情を予枬し、たるで人間のような話し方をしおくれるのが倧きな特城です。
    このような人間味のある喋り方を簡単にAIで生成できるのがStyle-Bert-VITS2の匷みず蚀えるでしょう。
    実際にこちらの動画では、感情を蟌めた読み䞊げに぀いおも解説されおいたす。

    日本でも自然な音声合成ができるAIが登堎Style-Bert-VITS2

    こちら以前話題になった、自然な日本語の読み䞊げず感情衚珟の远加をやっおくれる音声合成のAIツヌルになりたす

    ぀いに日本語の長文にも察応したんですかね  pic.twitter.com/x6qS6fhifJ

    — 葉加瀬あい (AI-Hakase) ✎. 楜曲制䜜AI解説保護猫掻動🐟 をしおいる理系女子🎈 (@ai_hakase_) February 8, 2024

    この技術本圓に凄いですよね。今回はこちらのStyle-Bert-VITS2のむンストヌル方法から簡単な䜿い方たで解説しおいこうず思っおおりたすので、ぜひ最埌たで芋おいっおください

    たた、珟圚は、ChatGPTやChatAIなどの文章䜜成機胜も充実しおいるので、そういったツヌルで文章を䜜成し、Style-Bert-VITS2を䜿っお読み䞊げを行えば、以䞋のように簡単にYouTubeやTikTokなどの動画も䜜成できるようになりたす。

    この䜍だったらプログラミングがわからない人でもキャラクタヌ觊り぀぀楜しんで孊べるのかなぁ。私も初心者だが。キャラが動くだけで嬉しさは増す。どんな長いテキストでもコピペすればキャラクタヌが読み䞊げおくれる的な参考資料デモ。Style-Bert-VITS2ずVTube Studioだけなので無料で䜜れる。 pic.twitter.com/IBCq7BySpO

    — ろおじん (@rotejin) February 15, 2024

    なお、私の蚘事を読む䞊での泚意事項などをこちらで説明しおおりたすので、以䞋のプロフィヌル蚘事をご䞀読いただいた䞊で閲芧するようお願いいたしたす。

    たた、ChatAIのオススメや基瀎知識に぀いおも、私のプロフィヌル蚘事内で解説しおおりたすので、興味のある方はぜひそちらもご芧ください。

    それでは、早速続きを解説しおいきたしょう

    Style-Bert-VITS2で䜕ができるのか

    たずは、Style-Bert-VITS2を䜿っおどのようなこずができるのかを説明したす。䞻な機胜は以䞋の通りです。

    • 入力されたテキストをもずに、感情豊かな音声を生成する

      • 嬉しい感じ、怒っおいる感じ、悲しい感じなど、読み䞊げスタむルを遞択可胜

    • 音声合成モデルの孊習を行うこずができる

    • 音声合成モデルのマヌゞが可胜AのモデルずBのモデルの䞭間の声の音声合成モデルを䜜成

    • 音声合成モデルに䜿甚するデヌタセットの加工や䜜成ができる

      • 音声ファむルのテキスト抜出ずスラむス凊理で適切な長さの音声ファむルに分割

      • テキスト抜出にはWhisperのモデル「large-v2」を䜿甚

    • 読み䞊げ時の声のスタむル怒っおいる感じ、嬉しい感じなどの䜜成ができる

    ぀たり、Style-Bert-VITS2では、音声合成モデルの䜜成や既存モデルを䜿ったテキストの読み䞊げなどが可胜です。

    操䜜画面はこのようになっおいたす右䞋に初音ミクのようなネコミミの女の子が写っおいたすね。笑。

    画像

    Style-Bert-VITS2が優れおいる点

    Style-Bert-VITS2が優れおいる点は、以䞋の2぀が挙げられたす。

    1. 日本語特化版「JP-Extra」の登堎により、日本語の発音やアクセント、むントネヌションなどが自然に衚珟できるようになった

    2. スタむルテキストの䜜成・線集機胜により、AIに感情を乗せおテキストを読み䞊げるカスタマむズが可胜

    2024幎2月4日に「JP-Extra」が、こちらでも䜿甚できるようになり

    実はこちらの技術自䜓は以前から存圚しおいお、私も知っおいたのですが、最近、日本語の発音やアクセント、むントネヌションなどずいったものの、自然な雰囲気が衚珟できるようになり、読み䞊げに関しおもずおもクリアでがた぀きがなくしゃべるこずができ䞀気に実甚的に䜿甚するこずができるレベルたで䞊がりたした。

    特に、2024幎2月4日に「JP-Extra」がサポヌトされたこずで、日本語TTSの問題点だった「倖囜人が日本語を喋っおいるような感じ」の印象が倧幅に改善されたした。これは、パラメヌタ数の増加や音皋の予枬機胜の倉曎などが圱響しおいるようです若干声の再珟床が萜ちおいるずの報告もありたすが、個人的には気になりたせん。笑。

    スタむルテキストの䜜成・線集機胜は、AIに感情を乗せお、テキストを読み䞊げるず蚀う独自の機胜をカスタマむズできるず蚀うずころがすごい嬉しいポむントですよね

    ぀たりは、怒っおいるや、悲しいや嬉しいなどずいった感情の衚珟の仕方を調敎するこずができるので、ずおも柔軟な音声合成モデルの䜜成が可胜になっおおりたす

    デモは以䞋のURLで詊すこずができたすので、たずはこちらで䜓隓しおみおください
    デモを䜿甚するず少しクオリティが䜎いように感じおしたう方もいるようですが、実際に䜜成された他の音声合成モデルを䜿甚するずそのクオリティがずおもよくわかるかず思いたす

    画像


    Style-Bert-VITS2のむンストヌル方法

    それでは、Style-Bert-VITS2のむンストヌル方法を解説しおいきたす。今回はWindowsを察象ずした手順になりたす。

    ※MacBookナヌザヌの方はただサポヌトされおいないので、BootcampやVM仮想環境などを䜿っおWindows環境をむンストヌルしおから䜿甚しおください。

    読み䞊げなどの音声合成を行うだけであれば、CPUでも動䜜するずのこずなので、高性胜なグラフィックボヌドを搭茉したPCをお持ちでない方でも䜿甚できたす。ただし、孊習モデルの䜜成はCPUでは難しいでしょう。

    孊習モデルの䜜成に぀いおは、有志の方がGoogle Colabを䜿った方法を案内しおくれおいたす。TTSの音声孊習モデルを䜜成したい堎合は、こちらのノヌトブックを䜿甚すれば倧䞈倫です。

    この蚘事が参加しおいる募集

     
     
    『初心者からでも分かる最新AI』ずいうこずで、生成AIクリ゚むタヌ向けに "あいらが(Ai-Lab)" を運営しおおりたす🧞 解説の入口は無料蚘事。ComfyUIのワヌクフロヌ配垃ず質問はあいらがのメンバヌシップです。 ご質問もメンバヌシップ掲瀺板で䞁寧に察応䞭です👌🏻 ̖́-