说米网

Chrome团队宣布，正在探索“内置 AI”概念，即浏览器将具有内置 AI 模型，以便为浏览器功用和网络平台 API 启用设备上的 AI。
image.png
官方介绍称，凭借内置 AI，您的网站或 Web 运用将能够针对基础模型和专家模型运转各种 AI 使命，而无需担心布置和办理上述模型。特别是，Chrome将推出 Gemini Nano，这是 Gemini 模型系列中最小的版别，可在大多数装备 Chrome 的现代台式机和笔记本电脑上本地运转。
image.png
据了解，最新的 Chrome 已经内测内置了 Gemini Nano 大语言模型（4bit3.25B），能够用来做摘要、翻译、写作等使命，而且能够彻底本地运转，离线免费。加入早期预览版方案，体会处于早期阶段的内置 AI API
内置 AI 为 Web 开发者带来的优点
与在设备端 AI 中自行构建模型相比，内置 AI 具有以下优势:
易于布置:浏览器分发模型时，会考虑设备功用并办理模型的更新。这意味着，您无需负责经过网络下载或更新大型模型。您无需解决存储空间逐出、运转时内存预算、传送费用和其他难题。
运用硬件加速功用:（企业邮局系统）浏览器的 AI 运转时经过优化，能够充分利用可用的硬件，无论是 GPU、NPU 仍是回退到 CPU。因此，您的运用能够在每台设备上取得最佳性能。
在设备上运转的优点
运用内置 AI 办法，在设备上执行 AI 使命变得轻而易举，这反过来又具有以下优势:
本地处理敏感数据:设备端 AI 能够改善您的隐私保护故事。例如，如果您处理敏感数据，则能够经过端到端加密为用户供给 AI 功用。
流畅的用户体会:在某些情况下，无需往复于服务器，意味着您能够供给近乎即时的结果。设备端 AI 可能是可行功用与次优用户体会之间的差异。
对 AI 的拜访权限更高:用户的设备能够承担一些处理负载，以交换对功用的更多拜访权限。例如，如果您供给高档 AI 功用，则能够运用设备端 AI 来预览这些功用，以便潜在客户能够看到您产品的优势，而无需付出额定费用。这种混合办法还能够帮助您办理揣度费用，尤其是针对常用（轻云）用户流的揣度费用。
离线运用 AI:即便没有互联网衔接，您的用户也能够运用 AI 功用。这意味着您的根服务器网站和 Web 运用能够离线运用或选用可变衔接方式，按预期运转。