常见的对话系统
个人助手
•Apple Siri, Amazon Alexa, Baidu Xiaodu
客户服务•餐厅预定、商品咨询、债务催收
休闲娱乐
•Microsoft XiaoIce,Replika
放域对话系统
检索式系统
生成式系统
Sequence-to-sequence
Generative Pre-training Models
Greedy Decoding
Sampling-based Decoding
每一步,选取最可能的单词(i.e. argmax)
把选取的单词补充到input中,继续下一步解码
停止条件: 继续解码直到产生[EOS] 或者达到了事先定义的最大生成长度
解码策略–总结
Greedy decoding 方法很简单,但效果一般较差
Sampling-baseddecoding可以得到更多样化/随机的回复
•比较适合于开放式/创造性的生成任务,像对话、诗词、故事生成
•Top-k/p sampling 可以通过调节k/p,对生成的多样性进行控制
BLEU
Distinct
人工评估
开放域对话模型演进历史
PLATO-2
总结及展望
手机扫一扫
移动阅读更方便
你可能感兴趣的文章