网站开发如何修改域名,视频制作和剪辑教程,专业做相册书的网站,做自己的网站花多钱你知道的#xff0c;人工智能的大佬们想方设法的让机器具备人一样的能力#xff0c;比如读懂文本的能力。既然机器是在模仿人类#xff0c;那么问题“机器是如何读得懂文本数据的呢#xff1f;”就可以变成“人是如何读得懂文本数据的呢#xff1f;”
一、人是如何读得懂… 你知道的人工智能的大佬们想方设法的让机器具备人一样的能力比如读懂文本的能力。既然机器是在模仿人类那么问题“机器是如何读得懂文本数据的呢”就可以变成“人是如何读得懂文本数据的呢”
一、人是如何读得懂文本数据的 想象你在教一个小孩子阅读一本书如果他在还未学习字母和单词的情况下是无法理解这篇文章的。首先他需要学习各种字母然后学习如何把字母拼接成单词再学习如何把单词连成句子最后才能理解文章的意思。 也就说人类要想读懂文本可以拆解成下面这几个步骤
学习字词的基本含义理解复杂句式理解上下文理解整篇文章主旨
二、机器是如何读得懂文本数据的 “小孩子”变成了“人工智能”机器读取文本数据的过程犹如人类学习语言的过程。依旧要遵循上面总结出来的几个步骤让我们结合“智能小孩”学习如何读懂文本的例子来深入剖析每个步骤中人工智能都是怎么起作用的。
1学习字词的基本含义
① 学习字母——识别符号 开始的时候“智能小孩”并不认识任何字母这本书对它来说就像是一个充满了没有意义的符号的神秘领域。在机器学习中这个阶段相当于我们使用字符级表示其中机器通过大量的训练数据来学习语言的基本构件即字母和它们如何形成文本中的符号序列。比如先训练我们的机器模型识别ASCII字符比如A是65B是66等。就像幼儿园孩子学习ABC一样。在机器学习中这可以通过字符级别的识别来完成用一个简单的神经网络来对每个字符编码。
② 拼写单词——词嵌入和字典 随着训练的进行“智能小孩”逐渐学会识别字母的组合也就是单词。这点可以通过使用词汇表或字典来实现。在机器学习中这个过程是通过词嵌入Word Embeddings来完成的它将每个单词转化为高维空间中的一个向量这些向量能够捕捉单词之间的相似性和语义关系。相似含义的词在这个空间中距离较近。比如“apple”和“orange”作为水果类别的词它们的向量表示在空间上的位置就可能比较接近。
2理解复杂句式 在理解句子层面递归神经网络RNN、长短时记忆网络LSTM、门控循环单元GRU等序列模型发挥了关键作用。这些模型可以捕捉到句子的时间或结构信息例如识别出主语、谓语、宾语之间的关系理解动词的时态和语态以及处理条件句、并列句等复杂句型。比如THE APPLE IS RED。就像孩子开始学习语法规则一样我们可能会用一个RNN/LSTM来捕捉序列中的单词顺序。
3理解上下文 Transformer架构如BERT, GPT系列是目前解决上下文理解问题的重要突破。它通过自注意力机制使得模型在处理每个词时都能考虑整个句子或段落的上下文信息。比如当模型看到“bank”一词时如果前后文是在谈论金融机构则它的含义可能是存钱的地方若前后文是河流环境则可能是指河岸边缘。
4理解整篇文章主旨 对于篇章级别的理解往往需要模型具有抽象概括和逻辑推理的能力。这可以通过预训练-微调框架如BERT用于下游任务时和特定任务的模型设计如文档级别摘要生成模型、主题模型等来实现。模型需要分析各部分之间的联系提取出文章的关键信息并形成对全文主旨的概括或推断。 机器理解文本数据的过程是一个逐步升级的认知过程从底层的词义理解到中层的句子理解再到高层的文章含义理解每一层都在努力模拟并逼近人类的语言认知和思考模式。
