第276章 睡了睡了(2/2)
好书推荐: 嗑CP可以邪门,但别热门
四合院:我易中海,不用你们养老
缅北蚀骨
为了吃软饭,我成了三角洲第一护
末日求生:我的避难小屋
遥望紫星
我儿明明小学生,咋还成帝国将军
红珊瑚之成长
废脉?我以诸天星辰正道
重生:我的空间连通修真界
标题与内容。
分割部分关键代码:
对于其中的每个元素,如果是 positeelement 类型,就提取其中的文本并将其添加到
text_list 中;如果是 table 类型,就将表格的文本表示(可能是 格式)添加到
text_list 中。
将图 3.8 的提取的数据进行拆分,添加到 text_list 中,输出结果如图 3.11 所示。
非结构化文本数据通常非常稀疏,即包含大量的词汇但每个文档只使用其中的一小部分。而结
构化数据则可以通过合并相似信息来降低数据的稀疏性,这有助于生成更加紧凑和有效的嵌入向
量。
结构化数据可以实现更高效的特征提取。结构化数据通常已经按照特定的模式或结构进行了组
织,这使得我们可以更加高效地从中提取有用的特征(如标题、作者、摘要、关键词等)。这些特
征可以作为后续 embedding 的输入,帮助生成具有更强区分性和泛化能力的嵌入向量。结构化数据
中的元素(如主题、类别、属性等)通常具有明确的含义,这些含义可以在 embedding 过程中被保
留下来。因此,基于结构化数据的嵌入向量往往具有更强的解释性,有助于我们更好地理解模型的
预测结果和内部机制。