PROMPT ENGINEERING

MODEL-ZOO

GPT-4o mini微调医疗援助模型

在着手创建由生成式 AI 驱动的聊天解决方案时，效率应该是我们的指导方针。从利用 SaaS 解决方案到从头开始构建模型，选项多种多样。在本文中，我将介绍基于 Azure OpenAI 服务的模型微调，重点是在定制与效率之间取得平衡。 注意：本文中显示的输入数据包含与医学相关的一般问题和答案，目的是开发一个包含一些医学领域信息的模型。由于我不是医学专业人士，我仅将这些数据用于本文所讨论的数据科学工作，而不是建议或表明任何医疗状况或疾病的定义、预防、诊断或治疗。 优先考虑效率意味着并不总是需要选择最大、最强大的模型。定制通常使我们能够使用更轻量的模型版本实现卓越的性能。出于这个原因，我选择了 GPT-4o mini，它是著名的 GPT-4o 模型的较小版本。 在下图中，我们可以在两个阶段使用它：提示工程和 AOAI 模型 FT。 1、为什么微调是一个明智的选择？ 你可能已经熟悉了少样本学习的概念，其中机器学习模型在极少量的标记示例上进行训练，从而提高效率。微调是另一种（尽管是独立的）优先考虑效率的方法，并且与少样本学习相比具有几个优势： * 质量结果：