切换到宽版
  • 579阅读
  • 1回复

[数码讨论]谷歌:手机运行人工智能模型将占用大量内存[1P] [复制链接]

上一主题 下一主题
在线huozm32831

UID: 329002

精华: 1097
职务: 超级斑竹
级别: 玉清道君
 

发帖
106152
金币
1984
道行
19523
原创
29307
奖券
17275
斑龄
190
道券
10126
获奖
0
座驾
 设备
EOS—7D
 摄影级
专家级认证
在线时间: 20018(小时)
注册时间: 2007-11-29
最后登录: 2024-11-22
— 本帖被 兵马大元帅 执行加亮操作(2024-04-08) —

IT之家 3 月 31 日消息,谷歌在 3 月初发布了一个奇怪的声明,称旗下两款新手机 Pixel 8 和 Pixel 8 Pro 中,只有 Pixel 8 Pro 能够运行其最新的人工智能模型“Google Gemini”。尽管两款手机的配置非常相似,但谷歌却以神秘的“硬件限制”为由拒绝在 Pixel 8 上运行该模型。这番言论让人费解,因为谷歌一直宣称 Pixel 8 是以人工智能为核心的手机,并且还专门针对智能手机设计了“Gemini Nano”模型,然而这两者居然无法兼容运行。

几周后,谷歌似乎开始松口,宣布即将在 6 月的季度更新中为 Pixel 8 提供“Gemini Nano”功能,不过有个限制,Pixel 8 Pro 可以直接使用该功能,而 Pixel 8 只能通过隐藏的开发者选项开启,这意味着大多数用户将无法轻易体验到这项功能。
谷歌设备和服务软件副总裁 Seang Chau 在自家的“Made by Google”播客中解释了这一决定,他表示:“Pixel 8 Pro 拥有 12GB 内存,非常适合用来运行‘Gemini Nano’,让我们可以尽情探索它的潜力。但 Pixel 8 只有 8GB 内存,如果贸然启用该功能,可能会影响用户的使用体验。”
Chau 还进一步解释了在手机上运行大型语言模型 (LLM) 的影响,谷歌希望部分 AI 模型能够“常驻内存”,以便随时调用。Chau 称:“‘智能回复’需要模型常驻内存,才能保证随时可用。用户在使用 Gboard 回复消息时,肯定不希望等待模型加载,因此我们选择让它一直保持运行状态。”正因如此,由 Gemini 驱动的“智能回复”功能在 Pixel 8 和 Pixel 8 Pro 上都隐藏在了开发者选项中,常规键盘设置中的“智能回复”功能并非由 Gemini 提供支持。
这意味着 Gemini Nano 可能占用大量系统内存,并且无法轻易释放。目前安卓手机的最低内存配置为 8GB,但未来这个标准可能会进一步提升。目前市面上最高配的手机已经拥有 24GB 内存,主流旗舰机也普遍配备了 12GB 或 16GB 内存。
IT之家注意到,三星 Galaxy S24系列的最低配版本也只有 8GB 内存,但同样可以运行 Gemini Nano 模型,谷歌最初声称 Pixel 8 存在“硬件限制”的说辞似乎站不住脚。这其实取决于用户愿意为运行此功能而放弃多少可用于其他应用程序的内存。
不过,最核心的问题在于,作为普通用户,我们是否真的需要这类功能?生成式人工智能正处于炒作周期的高峰,谷歌大力推广 AI 技术也存在自身的考量 (例如股价)。虽然 ChatGPT 有其用武之地,但真正实用的操作系统级生成式人工智能功能却屈指可数。可以自动生成回复的功能对大多数用户来说并非必需,如果占用大量本可用于其他应用的内存,用户可能会选择将其关闭。
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
  




    
在线jjybzxw

UID: 551814


发帖
102876
金币
1094236
道行
1951
原创
2163
奖券
2124
斑龄
28
道券
567
获奖
0
座驾
设备
摄影级
在线时间: 24700(小时)
注册时间: 2008-10-01
最后登录: 2024-11-23
只看该作者 沙发  发表于: 03-31
是的,Google 确实表示在手机上运行人工智能模型可能会占用大量内存。这是因为人工智能模型通常需要处理和存储大量数据,包括输入数据、中间计算结果以及输出数据。此外,一些人工智能模型还需要大量的计算资源来执行复杂的数学运算。

为了减少在手机上运行人工智能模型所需的内存,研究人员和工程师们正在开发更高效的人工智能算法和模型,这些算法和模型可以在有限的内存和计算资源下运行。此外,他们还在开发专门针对移动设备优化的人工智能框架和库,例如 TensorFlow Lite 和 PyTorch Mobile。

总之,虽然在手机上运行人工智能模型可能会占用大量内存,但研究人员和工程师们正在不断努力开发更高效和优化的解决方案,以实现在移动设备上运行人工智能模型的目标。
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个