大模型帮你写小说，阶跃星辰推出 Step-2“高性价比版”及“文学大师版”

wowoqu

感谢IT之家网友 Skyraver、風見暉一 的线索投递！
            IT之家 1 月 21 日消息，阶跃星辰昨日上线了 Step-2 系列语言模型的两款新品 —— 参数量小、性价比更高的 Step-2 mini，以及专门针对内容创作领域推出的模型 Step 文学大师版。

IT之家从官方介绍获悉，Step-2 mini 和万亿参数大模型 Step-2 相比，以 3% 左右的参数量保有了其 80% 以上的模型性能。
与此同时，Step-2 mini 拥有更快的生成速度和极高的性价比。在输入 4000 tokens 的情况下，Step-2 mini 的平均首字时延仅 0.17 秒。目前，大家已经可以在阶跃星辰开放平台调用 Step-2 mini 的 API 接口。输入 1 元 / 百万 token；输出 2 元 / 百万 token。

▲ 网页截图Step-2 mini 采用了阶跃星辰自主研发的新型注意力机制架构 ——MFA（Multi-matrix Factorization Attention，多矩阵分解注意力）及其变体 MFA-Key-Reuse，相比于常用的 MHA（Multi-Head Attention，多头注意力）架构，节省了近 94% 的 KV 缓存开销，拥有更快的推理速度并大幅降低了推理成本。
据官方介绍，Step-2 文学大师版是一款专为文字内容创作研发的模型，沿袭了 Step-2 的知识储备、对文字强大的细节把控能力，特色在于具有更加强大的内容创作能力。Step-2 文学大师版力求解决市面上语言模型过度对齐导致的内容“假大空”，缺乏新意和真情实感的问题。
此文章来自:IT之家如有涉及侵权请通过邮箱联系:fnhjeqj@163.com删除。