AI图鉴

AI图鉴首页 › AI 资讯 › 在反重力SDK中引入对本地AI模型的支持

在反重力SDK中引入对本地AI模型的支持

来源:Google Developers · 发布时间:10-09 · 由 AI图鉴每小时自动聚合

兹Google Antigravity SDK现在授权开发者通过LiteRT在本地执行离线,代理工作流程,使用Gemma 4 26B A4B等模型。 这个更新 Facil

2026年9月23日,纽约

今天,我们宣布反重力SDK支持本地工作流程,包括各种本地模式及执行方案

Antigravity SDK使开发者能够以同样的代理能力来构建Google Antigravity. 有了这种新的支持,你就可以通过本地模型实现完全离线的代理援助。 我们优化了LiteRT和Gemma 4 26B的工作流程

当地模式执行为代理经验提供了若干好处:

- 成本效率:执行本地代理工作流程,没有API成本或费率限制。

- 隐私:将您的代码和请求完全保存在您的本地机器上,理想的开发者浏览严格的数据隐私要求或者遵守限制的企业环境。

- 离线恢复能力:无缝地执行您的代理工作流程,即使在没有连贯或稳定的互联网连接的环境中也是如此。

- 混合工作流程:将象征性高效的本地流程与基于云的流程结合起来,以最大限度地提高效率,同时在必要时保留更大、更强大的模式。

以下是您如何启动:(我们推荐了一台带有 > 24GB VRAM或统一内存的机器).

python3 - m venv.venv (英语).

来源.venv/bin/激活

Python

复制

pip 安装 google 反重力 Litert-lm

导入 lter- lm \

- 从-huggingface-repo=liter-community/gemma-4-26B-A4B-it-liter-lm - 读取 =

gemma-4-26B-A4B-it-gpu.litertlm \

gemma4-26b 电话

在您的目录中创建一个名为 agy sample.py 的文件。 粘贴以下内容。

导入 Ayncio

导入 Os

从 google.antigravity 导入 Agent, LitERTAgent Config

从 google.antigravity.hooks 导入策略

# UPDATE:指向上一步本地下载的模型(liter-lm导入。

MODEL PATH = os.path.expanduser ("~/.litert-lm/型号/gemma4-26b/model.literlm").

async def 主线( ):

print(f)"正在使用本地的LitERT模型:{MODEL PATH}. 请等待本地推论完成。 这可能需要几分钟。”

配置 = LiteRT Agent Config(模式 path=MODEL PATH). 轻量级()

以 Agent( 配置) 作为 agent 同步:

响应=等待 agent.chat("当前目录中的文件是什么?").

作为响应的符号:

打印( token, end=),冲= True)

如果。.. 名字。.. "... main...":

ayncio.run(主要( ))

在许多情况下,我们看到建筑师-建筑师模式是将云模型尺度与当地模型优势相结合的伟大方式。 在下面与更新的Antigravity SDK搭建的混合演示视频中,一位云建筑师(Gemini 3.8 Flash)担任策划者和导师,而当地Gemma 4 26B的集群例则完全处理举重的端侧。

当承担审计和补丁三个脆弱模块(Auth.py、billing.py和database.py)的任务时,工作流程保持严格的数据隐私,并使我们能够充分利用我们的象征性使用:

- 没有上传代码:Gemini 3.8 Flash计划了策略,并完全根据文件名和任务描述来分解工作——只花费了95个云符号,而没有任何源代码离开机器。

- 自主的本地格鲁莱特:本地Gemma 4 26B型机型接手本地GPU执行对抗性审计循环:复制安全弱点,编写候选修正,刻痕补丁,并验证反回归测试套件。

- 大规模成本和隐私获胜:在本次录制的运行中,97.2%的所有令牌(3,322个令牌)在本地和下线运行时没有呼叫云API,发送经过充分验证的绿色补丁,同时保持专有代码完全安全端侧。

在此检查运行内置的 3 文件 grandlet 的示例项目,或者将其指向自己的 Python 模块和测试套件。

装有Gemma 4 26B A4B的抗重力SDK在建设实用系统公用事业方面表现优异。 在这个例子中,agent建立了一个在终端运行的实时更新资源显示器。 由于一个单一的提示,agent自动写一个Python脚本,使用psutil和丰富的库来跟踪CPU和内存使用,生成必要的要求。 txt文件,甚至测试生成的代码以确保其工作——全部运行在您的本地机器上,并使用Gemma 4 26B.

一个基于 Python 的 CLI 资源监视器工具生成端侧与 Gemma 4 26B

^ cli 资源监视器.py

导入 Ayncio

导入 Os

从 google.antigravity 导入 Agent, LitERTAgent Config

从 google.antigravity.hooks 导入策略

最新消息:您的及时

PROMPT = "利用显示实时更新终端仪表板的psutil和丰富的库来构建命令行界面工具。 它应该显示CPU的使用,内存消耗,以及前5个内存最密集过程的排序表。 将脚本保存为“ monitor. py” 并创建“ requiredments. txt” 文件。 测试它是否有效。"

# UPDATE:指向本地导入的LiteRT-LM模型路径

MODEL PATH = os.path.expanduser ("~/.litert-lm/型号/gemma4-26b/model.literlm").

# UpDate:给 AGY- SDK 写文件的工作空间

Working DIR = os.path.expanduser ("~/agy-test") (中文(简体) ).

os. makedirs( WORKING DIR,存在 ok= True) (韩语).

os.chdir (WORKING DIR) (英语).

async def 主线( ):

print(f)"正在使用本地的LitERT模型:{MODEL PATH}. 请等待本地推论完成。 这可能需要几分钟。”

配置 = LitERT 客户端

模式 path=MODEL PATH

工作空间=[WORKING DIR]

政策=[政策.allow all()]

。轻量级( )

以 Agent( 配置) 作为 agent 同步:

响应=等待 agent.chat(PROMPT)

作为响应的符号:

打印( token, end=),冲= True)

如果。.. 名字。.. "... main...":

ayncio.run(主要( ))

Antigravity SDK也通过LocalOpenAIAgentConfig为任何OpenAI兼容服务器如Ollama,LM Studio,或vLLM提供无缝,插件和播放支持。 这使得你能够灵活地用不同的本地推论后端进行实验,同时保持你的agent管弦乐,工具和工作流程完全不变。

从本地AI开始,检查Antigravity Python SDK README上的指令,并更多地了解如何利用LiteRT在边缘高效运行模型。 请分享您关于反重力 Python SDK GitHub 问题跟踪器的反馈和特性请求。 我们期待着看到你们建造的东西!

致谢:阿比·帕特尔,安德·多博,本·迈尔斯,科马克·布里克,伊恩·巴兰庭,郑静晓,乔纳森·雷伊,基米什·帕特尔,卢旺,玛丽萨·伊科诺米迪斯,马蒂亚斯·格伦德曼,奥利维耶·拉科姆贝,奥马尔·桑塞维罗,里希卡·辛哈,罗德·戴维斯,泰勒·穆伦,泰勒·穆伦,韦荣洛,小明胡,许陈玉辉。

本文由 AI图鉴自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

C-SSH

C-SSH 是跨平台 SSH 工作台,整合持久终端、文件管理、服务器监控和可选 AI 排障助手,支持 Win

Orkas

Orkas 是面向个人创业者和小团队的开源、本地优先桌面 AI 团队,可通过对话协调研究、文档、演示、视频和

1Panel AI 网关

1Panel AI 网关为内部 AI 应用和模型调用提供统一接入入口,支持模型代理、席位管理、用量统计、智能

APIPK

APIPK 汇总 GPT Image、Nano Banana、Seedream 和 Grok 等生图模型的渠

相关免费羊毛

VTEXS

开源开发者免费 VPS(活跃项目可续期)

Google Gemini API

Gemini API 免费层可直接试用

Vercel AI Gateway

每月 $5 免费额度,统一接口

AI21 Labs

$10 试用额度,有效期 3 个月

同源资讯

使用 Google 云 API 网关将您的 REST API 转换为 MCP 工具

Google Developers · 10-10

复制 Olmo 3 7B 在 MaxText 的预训:关于 TPU 的大规模培训案例研究

Google Developers · 10-10

阅读原文(developers.googleblog.com)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI图鉴首页 · 提交工具 · 合作与友链 · 关于本站 · 528 款 AI 工具分类导航 · 每日 AI 热门项目与动态