大数跨境
首页
>
田渊栋等原班人马又一新作：AI生成长篇故事，数千字长文也能连贯、有趣
>
0
0

田渊栋等原班人马又一新作：AI生成长篇故事，数千字长文也能连贯、有趣

田渊栋等原班人马又一新作：AI生成长篇故事，数千字长文也能连贯、有趣 极市平台
2022-12-23
1
↑ 点击蓝字 关注极市平台

来源丨机器之心
编辑丨小舟、陈萍

极市导读

 

以后，写故事这脑力活可以交给 AI 了。 >>加入极市CV技术交流群，走在计算机视觉的最前沿

前段时间，模仿人类写作过程的语言模型 Re^3 发布，该模型不需要微调大模型，而是通过设计 prompt 来生成一致性强的故事。

现在，该研究团队又提出了一个生成故事的新模型 DOC。论文作者 Kevin Yang、田渊栋也在推特上发文宣传了 DOC 模型，表示 DOC 比 Re^3 生成的故事更加连贯、有趣。


DOC 框架意指详细大纲控制（Detailed Outline Control），用于在自动生成数千字长故事时提高情节的连贯性。DOC 由两个互补的组件组成：详细大纲组件（Detailed Outliner）、详细控制器（Detailed Controller）。


论文地址：https://arxiv.org/pdf/2212.10077.pdf

Detailed Outliner 负责创建详细的、分层结构的大纲，将写作创意从起草转移到规划阶段。Detailed Controller 则通过控制故事段落与大纲细节对齐，确保生成结果遵循详细的大纲。

该研究对模型自动生成故事的功能进行了人工评估，DOC 在多个指标上获得了大幅增益：情节连贯性（22.5%）、大纲相关性（28.2%）和趣味性（20.7%），大大优于 Re^3 模型。此外，DOC 在交互式生成环境中更易于控制。

DOC

与 Re^3 类似，DOC 通过将写作过程分解为计划、起草、重写和编辑步骤，生成超过 2000 字、情节连贯的长篇故事。DOC 遵循 Re^3 的高级写作过程和基于结构化提示的段落生成。不过 DOC 删除了耗时的编辑步骤，即便如此，但对最终故事的质量没有影响。

不同于 Re^3 存在的缺点，如无法保持远程情节的连贯性、与周围环境不符的冗长段落、故事经常偏离最初计划等，DOC 旨在通过两项创新来解决这些缺点：通过 Detailed Outliner 实施更详细的规划，通过 Detailed Controller 在起草过程中相应地进行更详细的控制。

DOC 的高层概述。

Detailed Outliner 

Detailed Outliner 递归地生成任意粒度的分层详细大纲。图 3 总结了各个组件。


Detailed Controller 

Detailed Controller 增强了生成器与详细大纲保持相关性的能力。该研究将 Detailed Controller 实现为 FUDGE 控制器，以根据给定的摘要指导段落生成。

在起草过程中，Detailed Controller 的灵活性体现在：

  1. 事件。将事件描述（图 2，橙色文本）逐字输入控制器。 
  2. 设置。如果设置发生变化，该研究通过构建输入摘要来说明角色移动到新设置，与事件描述相比使用较低的控制强度。 
  3. 角色。如果出现了一个没有出现在前一个大纲条目中的角色，该研究还是通过构建一个输入摘要来说明这一点，再次使用较低的控制强度。


实验与评估

该研究比较了处于同一顶级大纲条目的 1000 到 1500 字的段落，而不是完整的故事。评估指标包括三个：连贯性、相关性以及趣味性。

结果如表 1 所示，DOC 生成的段落情节更加连贯且与大纲相关。


表 3 显示了 DOC 根据表 2 中的详细大纲（经大量删节）编写的一个故事（经大量删节）：虽然有些问题仍然存在，但故事还保持整体连贯，遵循大纲内容。



人机交互故事生成：如表 4 所示，在四个人机交互指标上，人类更喜欢 DOC 而不是 RE^3 生成的故事：至少四分之三的人表示 DOC 在每个评估指标上都更优秀。


消融实验

为了评估 DOC 的两个主要组成部分，该研究对 DOC 进行了如下两种修改：

  • DOC-NOOUTLINE，仅根据粗略大纲而不是完整的详细大纲生成故事，使用固定强度的 Detailed Controller。 
  • DOC-NOCONTROL，除了 Detailed Controller 关闭外，其他设置与 DOC 相同。

消融实验的结果如下表 5 所示：


该研究发现，与 Re^3 相比，趣味性的提高主要是由于 DOC 有更详细的大纲；而 Detailed Controller 可能会稍微损害趣味性。该研究通过定性观察发现：进一步增加控制强度会产生更多重复的输出，这些输出越来越狭隘地拟合给定的大纲，而失去了创造力。

如下表 6 所示，该研究又进一步实验证明：Detailed Controller 的作用是大大提高 DOC 在起草过程中遵循大纲细节的能力。


了解更多研究，请参考原论文。


极市干货
技术干货：数据可视化必须注意的30个小技巧总结｜如何高效实现矩阵乘？万文长字带你从CUDA初学者的角度入门
实操教程：Nvidia Jetson TX2使用TensorRT部署yolov5s模型｜基于YOLOV5的数据集标注＆训练，Windows/Linux/Jetson Nano多平台部署全流程

# 极市原创作者激励计划 #


极市平台深耕CV开发者领域近5年，拥有一大批优质CV开发者受众，覆盖微信、知乎、B站、微博等多个渠道。通过极市平台，您的文章的观点和看法能分享至更多CV开发者，既能体现文章的价值，又能让文章在视觉圈内得到更大程度上的推广，并且极市还将给予优质的作者可观的稿酬！

我们欢迎领域内的各位来进行投稿或者是宣传自己/团队的工作，让知识成为最为流通的干货！

对于优质内容开发者，极市可推荐至国内优秀出版社合作出书，同时为开发者引荐行业大牛，组织个人分享交流会，推荐名企就业机会等。


投稿须知：
1.作者保证投稿作品为自己的原创作品。
2.极市平台尊重原作者署名权，并支付相应稿费。文章发布后，版权仍属于原作者。
3.原作者可以将文章发在其他平台的个人账号，但需要在文章顶部标明首发于极市平台

投稿方式：
添加小编微信Fengcall（微信号：fengcall19），备注：姓名-投稿
△长按添加极市平台小编
点击阅读原文进入CV社区
获取更多技术干货

【声明】内容源于网络
0
0
极市平台
为计算机视觉开发者提供全流程算法开发训练平台，以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
内容 8155
粉丝 0
极市平台 为计算机视觉开发者提供全流程算法开发训练平台，以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
总阅读3.2k
粉丝0
内容8.2k