该公司声称,Blender是迄今为止创建的最大的单一开源聊天机器人。它已经在高达94亿个参数上进行了训练,几乎是谷歌的Meena的4倍,是之前互联网上最大的OS聊天机器人的10倍以上。
Facebook该团队设计出一种方法,将正在训练的神经网络各方面进行孤岛化,并在多个设备上并行工作,同时保持网络的整体效率,并且专注于三种特定行为,同理心、个性和知识的表现能力,以进一步使Blender的反应更加人性化。但与其说Blender能产生这三种行为,不如说它能随着对话的进行在这三种行为之间无缝切换,这要归功于它独特的Blended Skill Talk功能。
Facebook该团队第一次真正表明,可以将所有这些方面的对话无缝融合在一起,同时在这些漂亮的对话技能数据集上进行微调的模型比没有微调的模型更有吸引力,并且更人性化,更有生命力。这意味着,Blender在情感上足够聪明,如果你告诉它你刚在工作中升职,它就会向你表示祝贺,而当你透露你的狗刚刚去世时,它也会表示慰问,在被问及某一个特定的话题时,它能给出更多的粗略的回答。例如,如果你问谷歌助手关于Led Zeppelin乐队,它通常会从乐队的维基百科页面上读出前两句。所以,Facebook该团队设计了一个数据集,打算超越这种表面上的闲聊,更深入地去了解一个主题,并在这些模型中植入更多关于世界的知识。
研究团队首先使用维基百科向导系统对Blender进行了预训练,向聊天机器人传授了广泛的通用知识库,然后用数据对其进行了微调,特别是通过让两个人类就某一特定主题进行对话来收集数据,有助于将机器人的语音模式规范化,使其听起来更像一个自然的回答,而不是机器人对着你读百科全书条目。