说米网

在人工智能领域，特定生成型人工智能模型（LLMs）发生错觉现象的问题一直令人困惑。然而，旧金山的AI初创公司Galileo正在尽力处理这一问题，并为(中国代理)用户供给了一系列新的监测和方针功能，以帮助他们更好地理解和解说LLMs的输出。
Galileo Studio是该公司旗下的工具，最新更新运用户不仅能够评估输入和上下文，还能够实时观察输出。这些新的监测功能使Galileo能够更好地解说为什么模型会发生特定的输出，并供给新的方针和防护办法来优化LLMs的功能。
机器人
图源备注：图片由AI生成，图片授权服务商Midjourney
Galileo的联合创始人兼CEO Vikram Chatterji在承受VentureBeat的独家采访中表示:“最近几个月的真正新功能是我们添加了实时监测，由于现在您实际上能够观察到出了什么问题。这已经成为一个端到端的产品，用于不断改进大型言语模型应用。”
LLMs一般依赖于应用程序向LLM宣布API调用以获取呼应。Galileo阻拦了这些API调用，包含输入和生成的输出。经过阻拦这些数据，Galileo能够向用户供给关于模型功能以及输出精确性的准实时信息。
当我们讨论生成的AI输出的现实精确性时，一般会涉及到错觉现象，即生成了与现实不符的输出。Chatterji解说说，LLM实际上是在测验猜测下一个单词应该是什么，但它还有关于下一个备选单词的主意，并为所有这些不同的标记或不同的单词分配概率。
Galileo经过与模型本身连接，使其能够精确了解这些概率，然后供给额外的方针来更好地解说模型输出并理解为什么会出现特定的错觉现象。经过供给这些见地，Galileo的方针是帮助开发人员更好地调整模型和微调以取得最佳成果。
除了错觉问题，LLM基础应用程序供给的呼应可能会引发一些问题，如不精确、不妥的言语或秘要信息泄露。为了处理这些问题，Galileo Studio还引入了新的”防护办法”方针。关于AI模型，防护办法是关于模型能够生成的信息、语气和言语的约束。
关于金融服务和医疗保健等领域的安排来说，存在与信息发表和言语运用相关的监管合规性问题。代理服务器搜索,经过防护办法方针，Galileo用户能够设置自己的防护办法，然后监控和测量模型输出，以保证LLMs不会偏离正轨。
此外，Galileo还跟踪一项被称为”接地性”的方针，用于确认模型的输出是否符合其供给的练习数据的范围。如果一个模型在抵押借款文件上进行练习，但供给了与这些文件彻底无关的答案，Galileo能够经过接地性方针检测到这一状况。这运用户能够知道呼应是否与模型的练习布景相关。
Galileo为用户供给了一套全面的方针，使他们能够更好地理解模型的输出并解说其真实性。这些方针不仅有助于发现错觉现象，还以可视化的方式解说了模型在每个单词基础上的困惑，有助于开发人员优化模型以取得最佳成果。一起，经过防护办法和接地性方针，Galileo还帮助开发人员保证LLMs的输出不会引发问题，如不精确或不合规的呼应。