大神论坛

找回密码
快速注册
查看: 310 | 回复: 3

[原创] 真实拟声的文本到语音 模型训练教学 附全部工具和整合包

主题

帖子

1

积分

初入江湖

UID
658
积分
1
精华
威望
2 点
违规
大神币
68 枚
注册时间
2023-10-14 10:46
发表于 2023-12-05 22:07
本帖最后由 infharry 于 2023-12-05 22:07 编辑

演示Demo1 AI木鱼水心&AI懒羊羊

https://player.bilibili.com/player.html?bvid=BV1DC4y197Gp&autoplay=0

演示Demo2 AI舌尖上的中国

https://player.bilibili.com/player.html?bvid=BV1bb4y1L7mo&autoplay=0

介绍

可预测感情文本转语音(Predictive Emotional Text-to-Speech)是一种人工智能技术,它可以将文本转化为具有情感色彩的语音。这种技术主要依赖于机器学习和自然语言处理技术,以实现从文本到语音的转换,同时能够模拟出不同的情感表达,如快乐、悲伤、愤怒等。

可预测感情文本转语音技术的工作原理是,首先对大量的文本数据进行情感分析,以了解不同情感表达的语法和词汇使用情况。然后,利用这些信息,人工智能模型可以预测给定文本的情感倾向,并调整语音输出的音调和语速等参数,以匹配这种情感倾向。

流程包括文本预处理、声学模型处理训练和后处理三个步骤。首先,文本预处理会对标注的文本分析和处理,例如分词、词性标注和语法分析等。然后,声学模型训练会将文本转化为声学特征,这个过程通常需要大量的语音数据来训练。最后,后处理会对生成的语音波形进行优化和调整,以使其更符合直播带货的需求。

以下是可预测情感文本转语音模型训练的步骤

一、训练前的数据集与工具的准备

首先,我们需要准备所需的工具和整合包,包括各种软件和工具库。这些工具我会在下方分享出来

音频切片+音频标注+模型训练

本文学习有一定难度,且如果你时间有限,也可以选择在模型工坊中下载已经训练的声音模型,这些模型已经经过精细优化,可以直接下载导入使用。

演示声音模型已放到模型工坊 -------- (非推广)------------

bert-vits2.1 懒羊羊声音模型

当然,如果你想自己训练声音模型,可以根据下面的步骤进行操作。

首先,我们需要对训练声音素材进行提纯处理,去除掉背景音和杂音。这里推荐使用UVR工具进行声音提纯。

1、首先对要对训练声音素材声音提纯处理去除掉背景音和杂音 这里推荐UVR  

2、对声音素材进行切片

对音频进行切片

3、对分段音频进行文本标注

切片好的音频经过手动筛选过短的音频放入 raw_audio

点击 0.带标点符号的标注

标注完成

4、对标准的文本和处理好的音频数据集 进一步的筛选

https://github.com/cronrpc/SubFix 开源地址

本项目适配Bert-Vits2的list文件的标注格式,可以轻松添加到已有的自动标注数据处理的工作流中。
或者也可以使用本项目自带的一个音频自动标注方法,之后再进行精修。

二、模型的训练 文本预处理 bert emo 文件的生成

打开 bert vist2 整合包 启动 webui

1、创建文件夹

启动 webui 创建训练的模型 自己创建目录

2、将切好片的声音文件 放入 custom_character_voice

将标注好的文本放入 filelists

3、文本预处理

4、生成bert 文件

5、生成 emo文件

6、写入 训练参数 批大小 根据显卡设置 我这里设置16

训练中


训练中

注:若转载请注明大神论坛来源(本贴地址)与作者信息。


下方隐藏内容为本帖所有文件或源码下载链接:

游客你好,如果您要查看本帖隐藏链接需要登录才能查看, 请先登录

主题

帖子

19

积分

初入江湖

UID
70
积分
19
精华
威望
38 点
违规
大神币
68 枚
注册时间
2021-05-12 14:18
发表于 2023-12-05 23:24:18.0
大神

主题

帖子

33

积分

初入江湖

UID
313
积分
33
精华
威望
66 点
违规
大神币
66 枚
注册时间
2022-03-29 21:35
发表于 2023-12-12 08:26:48.0
1111

主题

帖子

33

积分

初入江湖

UID
313
积分
33
精华
威望
66 点
违规
大神币
66 枚
注册时间
2022-03-29 21:35
发表于 2023-12-12 08:26:48.0
1111

返回顶部