您现在的位置是:首页 > 互联网网站首页互联网

一种可以创作创造性诗歌的语言生成系统

  • 互联网
  • 2020-03-25 17:12:44

在过去的几十年里,研究人员开发了越来越先进的人工智能(AI)工具和计算技术,可以应用于各种环境。在这些技术中,能够产生书面或口头语言的技术已经引起了相当大的注意,特别是随着新语音助手、机器人和新交互式设备的引进。

科罗拉多大学(UC)——科罗拉多斯普林斯和德鲁里大学的研究人员最近开发了一种独特的语言生成系统,可以产生创造性的诗歌诗句。他们的系统在arXiv上预先发布的一篇论文中提出,是对OpenAI开发的一种预先训练好的语言模型GPT-2的微调。

加州大学科罗拉多斯普林斯分校(UC Colorado Springs)教授尤加尔·卡利塔(Jugal Kalita)是这项最新研究的负责人,从他在宾夕法尼亚大学(University of Pennsylvania)的研究生时期开始,他在过去30年里一直在进行自然语言生成的研究。他的第一篇关于自然语言生成的论文发表于1988年,其目标是按照一套基本规则,写出可能出现在典型期刊上的文本段落。最近,受人工神经网络在自然语言处理(NLP)方面的进步启发,卡丽塔教授和他的学生开始开发用于生成短文、对话和创造性写作的深度学习技术。

卡丽塔教授对TechXplore说:“研究自动生成诗歌这一主题的想法出现在2019年夏初,当时来自密苏里州德鲁里大学(Drury University)科罗拉多斯普林斯市科罗拉多大学(University of Colorado, Colorado Springs)的暑期研究实习生布伦丹·贝纳(Brendan Bena)对自动生成歌词表现出了兴趣。”“他最初想要创造一个系统,试图模仿歌词中所表达的情感。”

由于大多数歌词是受版权保护的,寻找大型数据集来训练歌词生成的深度学习模型是非常具有挑战性的。Bena和Kalita教授因此决定开发一个诗歌生成的深度学习工具。然而,他们并没有像以往的诗歌创作研究那样,关注诗歌的结构或节奏等特征,而是探索了诗歌更富情感和创造性的方面。

Bena在接受TechXplore采访时表示:“在意识到诗歌创作领域的研究和数据要多得多之后,我们将注意力转移到了这个特定的主题上。”这项工作很大程度上是建立在文本生成的首要任务的基础上的,而这一任务与之前的许多研究工作是同时进行的。然而,与之前的努力不同,我们希望更多地关注文本的内容、情感和创造力,而不是之前诗歌生成研究中发现的结构或节奏。”

为了开发他们的诗歌生成系统,Bena和Kalita教授首先从古登堡计划和UC-Santa Cruz梦想银行数据库中收集了大量的文本。他们浏览了古登堡(Gutenberg)数据库,寻找EmoLex中包含的词汇。EmoLex是加拿大国家研究委员会(National Research Council of Canada)开发的情感词汇数据集。

然后,研究人员将得到的数据集分成不同的“情感类别”,观察每个提取片段中包含的EmoLex词汇的数量,并利用这些数据训练一个深度神经网络。他们所训练的模型是对GPT-2的一种适应,GPT-2是一种通过对其所训练的数据中使用的语言风格建模来学习生成新的文本片段的体系结构。

贝纳解释说:“我们还将梦境数据和诗歌结合起来,输入人工神经网络,创造出所谓的‘梦境诗歌’。”“最后,我们有五种不同的情绪模式,分别是喜悦、悲伤、信任、愤怒和期待,但我们也有一个梦诗模式。如前所述,这一体系较少关注大量诗歌创作的结构,更多关注自由诗的风格,这种风格旨在模仿和复制真正诗人的技巧和创造力。”

研究人员要求人类用户评估他们的系统生成的诗歌,同时使用Coh-Metrix工具来评估它生成的诗歌的质量。他们发现,在87.5%和85%的情况下,它所产生的诗歌能有效地引发悲伤和快乐。此外,当对梦数据和诗歌进行训练时,他们的系统生成独特的“梦幻”诗歌,这些诗歌捕捉到了所谓的“梦幻诗歌”的元素,李克特量表(Likert scale)得分为3.2分。

贝纳说:“我们的研究结果表明,实际上,文本可以被生成,从而激发读者的情感,它可以像艺术家希望注入到作品中的那种创造力。”“我们相信我们的研究是创造性诗歌创作领域的一部小说,希望我们的研究能为这一领域的未来工作打开大门。”

贝纳和卡丽塔教授是最早在诗歌创作中展示机器创造力的人之一。在接下来的研究中,研究人员计划提高他们的系统所创作的诗歌的质量,同时也将他们的方法应用到其他语言的诗歌创作中。

贝纳说:“如果我们对训练数据进行更多的整理,我们相信神经网络架构可以更好地捕捉我们想要创作的诗歌的情感和梦境。”“事实上,尽管EmoLex词典是一个非常有用的数据集,但它的词汇量并不能解释古腾堡(Gutenberg)的一些诗歌中出现的所有老式英语。”

在未来,研究人员希望复制他们的实验,重点放在短语或分段级词汇上,因为这可以让他们更有效地捕捉基于情感的文本中的依赖性。他们的研究也可以使用更复杂的基于神经网络的架构进行重复,这可能会提高诗歌的语法和句子结构的质量。

Bena和Kalita教授已经用他们的系统创作了梦诗,他们最终也可以把它应用到其他的创作风格上,比如消除诗歌。擦除诗是通过从现有的文本中提取特定的或随机的单词,然后使用它们来形成新的诗句。

卡丽塔教授说:“最后,我们还在利用迁移学习的方法,用不同的语言创作诗歌。”例如,加州大学科罗拉多斯普林斯分校(UC-Colorado Springs)的硕士研究生肖恩·塔克(Shaun Tucker)一直在用OpenAI预先训练过的gps -2模型,用多种印欧语言创作诗歌。到目前为止,我们已经生成了英语、西班牙语、乌克兰语、印地语、孟加拉语和阿萨姆语的诗歌,我们发现,经过大量英语文本预处理的深度学习生成模式GPT-2,可以用所有这些语言的散文和诗歌进行训练,生成诗歌。”

Top