当谈到两个给我留下深刻印象的APP时，我会选择“Notability”和“Headspace”。以下是关于这两个APP的基础功能以及它们令人印象深刻的原因：
1.Notability
基础功能：
Notability是一款功能强大的笔记应用，主要用于iPad和其他iOS设备上。它允许用户创建、编辑和整理各种类型的笔记，包括手写笔记、打字笔记、录音笔记、图片、PDF文件等。用户可以通过各种颜色和工具来标记和强调笔记内容，还可以添加标签、注释和链接，使笔记更加有序和易于查找。此外，Notability还支持iCloud同步，用户可以在多台设备之间无缝同步笔记内容。
印象深刻的原因：
强大的手写识别功能：Notability的手写识别技术非常出色，能够准确地将手写笔记转换为可编辑的文本，大大提高了笔记的整理效率。
灵活的笔记组织方式：用户可以根据个人喜好和需求，通过文件夹、标签和搜索功能来组织和管理笔记，使查找和使用笔记变得更加便捷。
多样化的内容导入与导出：Notability支持导入多种格式的文件，如PDF、图片等，并可以将笔记导出为PDF、Word等格式，方便用户与他人分享或打印。
优秀的用户体验：Notability的界面设计简洁直观，操作流畅，同时提供了丰富的自定义选项，满足用户个性化需求。
2.Headspace
基础功能：
Headspace是一款专注于冥想和放松的APP，旨在帮助用户减轻压力、改善睡眠和提高专注力。它提供了多种冥想课程，涵盖了从基础入门到高级进阶的各种主题和时长。用户可以根据自己的需求和喜好选择合适的课程，并跟随专业指导进行冥想练习。此外，Headspace还提供了每日提醒、睡眠音乐和呼吸练习等功能，帮助用户更好地融入冥想生活。
印象深刻的原因：
专业的冥想指导：Headspace的冥想课程由专业导师录制，内容科学、系统，能够引导用户逐步进入冥想状态，感受身心的放松和宁静。
丰富的冥想主题：Headspace提供了多种冥想主题，如压力缓解、睡眠改善、专注力提升等，满足不同用户的需求。同时，课程时长灵活多样，方便用户根据自己的时间安排进行练习。
简洁直观的用户界面：Headspace的界面设计简洁直观，用户可以轻松找到所需的功能和课程。同时，APP的音效和动画效果也非常出色，为用户营造了一个舒适、宁静的冥想环境。
科学的数据跟踪：Headspace会记录用户的冥想数据，如练习时长、课程完成情况等，并通过数据分析帮助用户了解自己的冥想习惯和进步情况。这些数据可以作为用户调整冥想计划的参考依据。
ChatGPT是由OpenAI发布的一种大语言模型，能够以问答的形式完成各类任务，包括接受文
字输入，理解自然语言，理解响应并模拟人类对话形式进行输出。再各个自然语言处理子任务具有
优异的表现。相比其他大语言模型拥有更丰富的知识，涵盖自然、社会科学、人文历史等多个领
域。ChatGPT在GPT3.5的基础上引入了RLHF（rercementlearningfromhumanfeedback）
技术，通过将人类的日常对话的语言习惯嵌入模型，并引入价值偏好，使得模型的输出满足人类的
意图。微调过程分为预训练、监督微调、设计奖励模型和反馈优化。桑基韬等人根据ChatGPT的对
话对象和定位将其应用分为四个层次：数据生成器、知识挖掘器、模型调度器和人机交互界面。在
多模态领域，VisualChatGPT、MM-ReAct和HuggingGPT让视觉模型与ChatGPT协同工作来完成视
觉和语音任务。
除此以外，许多类ChatGPT的大模型也同样在自然语言处理方面展示出来了较好的效果。
LLaMA是应该从7billion到65billion参数的语言模型，不需要求助于专有的数据集。清华大学
提出了一种基于自回归填充的通用语言模型GLM在整体基于transformer的基础上作出改动，在一
些任务的表现上优于GPT3-175B。
大语言模型，例如GPT系列、LLama系列、Gemini系列等，在自然语言处理方面取得了显著的
成功，展示了超强的性能，但仍面临诸如幻觉、过时的知识、不可追溯的推理过程等挑战。2020
年，由Lewis等人引入的检索增强生成方法，通过整合来自外部数据库的知识，然后再继续回答问
题或生成文本。这个过程不仅为后续阶段提供信息，而且确保响应是基于检测到的证据的，从而显
著提高输出的准确性和相关性。在推理阶段从外部知识库动态检索信息使RAG能够解决诸如生成幻
觉等问题。RAG与LLM的集成得到了迅速的应用，提高了自然语言处理任务的性能，并且使得模型
能够更好地利用外部知识和背景信息。
知识抽取主要分为命名实体识别和关系抽取两方面。命名实体识别（NER）任务，旨在识别与
特定语义实体类型相关联的文本跨度。该任务最早于1991年由Rau等人提出。随着信息理解、人
工智能等领域的顶级会议对NER任务的评测，其定义逐渐细化和完善，并逐渐成为自然语言处理
（NLP）领域的重要组成部分。然而，不同领域对实体类型的定义存在差异，因此NER模型的构建
取决于特定领域任务需求，通常涵盖人物信息、地点信息和组织机构信息等。对于英语、法语、西
班牙语等外语文本，通常采用单词作为基本单位，因此基于这些语言的NER模型主要关注单词本身。
的语义特征和上下文信息。然而，中文语料文本通常由字符构成，需要考虑字符的语义信息和词汇
特征，同时引入其他表征信息来提升模型性能，如中文分词（CWS）、语义部分标签（POS）等外部
信息，因此构建中文命名实体识别（CNER）模型更为复杂。目前，NER任务的研究方法主要包括基
于词典和规则的方法、基于机器学习（ML）的方法以及基于深度学习（DL）的方法。
目前，联合实体和关系提取神经模型可分为参数共享和序列标注两种方式。然而，许多研究将
实体和关系的联合提取看作是序列标记问题。尽管如此，识别复杂的关系仍然是一个具有挑战性的
任务，需要进一步提高联合提取模型的性能。此外，大多数新兴的联合提取神经模型仅在英语基准
上进行了评估，其在其他语言或特定领域的有效性尚待验证。Google机器翻译团队提出了一种包
括自注意力机制和多头注意力机制的transformer结构。相较于循环神经网络（RNN）或卷积神经
网络（CNN），多头注意力机制具有许多吸引人的优点。在中文命名实体识别任务中，数据集中存在
大量非结构化文本，因此需要从多个角度和多层次来提取文本本身的更多特征。近年来，多头注意
力机制在命名实体识别任务中得到了广泛应用。例如，Li等人采用了基于自注意力机制的深度学
习模型，而Yin等人则提出了一种名为ARCCNER的模型，该模型利用CNN网络学习中文激进特征并
使用自我注意机制自动获取权重。尽管字符特征得到了增强，但激进级别的特征仍然难以获取，这
不仅耗费成本，而且模型性能提升有限，尚未解决BiLSTM网络中的信息遗忘