昨天Google发布了最新的开源模型Gemma，今天我来体验一下_gemma_lm.generate-程序员宅基地

前言

看看以前写的文章，业余搞人工智能还是很早之前的事情了，之前为了高工资，一直想从事人工智能相关的工作都没有实现。现在终于可以安静地系统地学习一下了。也是一边学习一边写博客记录吧。
昨天Google发布了最新的开源模型Gemma，今天我就来简单体验一下

第一步去Kaggle申请模型权限

https://www.kaggle.com/models/keras/gemma/
先用我的Google账户注册登陆一下Kaggle，然后在点击一下那个红框里面的按钮，填个申请表格，立马就可以了，下面是我申请后的样子
在这里插入图片描述

第二步搞个Kaggle的API key 后面会用到

点击页面右上角的用户头像那里
在这里插入图片描述
选择Settings

创建token

自动下载下来了

第三步，打开Google colab 运行模型

https://colab.research.google.com/

新建一个笔记
在这里插入图片描述
把刚才下载的Kaggle的apikey 填到colab中

填好之后，把开关打开一下
设置两个：KAGGLE_USERNAME KAGGLE_KEY

设置一下运行时
在这里插入图片描述
改为T4 GPU

右上角连接资源后可以查看使用情况

写代码：

# 先安装一下keras
!pip install -U keras-nlp
!pip install -U keras

# 引入包，验证一下keras版本，不能低于3.0
import keras
import keras_nlp
import numpy as np
print(keras.__version__)

#设置环境变量
import os
from google.colab import userdata
os.environ["KAGGLE_USERNAME"] = userdata.get('KAGGLE_USERNAME')
os.environ["KAGGLE_KEY"] = userdata.get('KAGGLE_KEY')

# 选择一个较小的模型试试
gemma_lm = keras_nlp.models.GemmaCausalLM.from_preset("gemma_instruct_2b_en")

# 文本补全任务调用generate函数
gemma_lm.generate("Keras is a", max_length=30)

# generate函数，也可也完成批量补全
gemma_lm.generate(["Keras is a", "The sky is blue because"], max_length=30)

执行结果：
在这里插入图片描述
资源占用：

感觉好慢。。。
而且显存占用太多了。。。

结果

后面再写一篇本地部署运行的文章，看看效果怎么样
我的电脑配置：
CPU: 12th Gen Intel Core i7-12700F 2.10 GHz
内存32G，显卡RTX3060 12G

本文链接：https://blog.csdn.net/zhoushenghuang/article/details/136238424

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

字节流和字符流详解-程序员宅基地

文章浏览阅读2.6w次，点赞73次，收藏313次。1.流的概念在编程中是一种抽象的概念，就好比“水流”，从一段流向另一端在程序中所有的数据都是以流的方式进行传输或保存的，程序需要数据的时候要使用输入流读取数据，而当程序需要将一些数据保存起来的时候，就要使用输出流完成。程序中的输入输出都是以流的形式保存的，流中保存的实际上全都是字节文件。2.流的分类按照流向可以分为：输入流（如：键盘，麦克风），输出流（如：显示器，音箱）按照传输单位可以分为：字节流和字符流3.什么是字节流，什么是字符流字节流：它处理单元为1个字节（byte），操作字节和_字节流和字符流

问题 A: 算法7-12：有向无环图的拓扑排序_读入一个无向图的邻接矩阵（即数组表示），建立无向图-程序员宅基地

文章浏览阅读2.2k次，点赞3次，收藏9次。问题 A: 算法7-12：有向无环图的拓扑排序时间限制: 1 Sec 内存限制: 32 MB 献花..._读入一个无向图的邻接矩阵（即数组表示），建立无向图

各平台Linux以及windows安装redis6.0.6_redis 6.0 window版本升级-程序员宅基地

文章浏览阅读5.6k次。官网：https://redis.io/中文网：http://www.redis.cn/项目地址：https://github.com/redis/redisLinux关于Linux下手动编译一定要注意gcc版本gcc --version，如果太低可能导致编译失败，升级gcc版本就可以了centos安装前的准备工作# 安装gcc套件yum install cpp binutils glibc glibc-kernheaders glibc-common glibc-devel gcc _redis 6.0 window版本升级

sysctl优化linux网络_net.ipv4.conf.eth0.accept_redirects-程序员宅基地

文章浏览阅读466次。1, 优化网络设备接收队列 net.core.netdev_max_backlog=3000 该文件表示在每个网络接口接收数据包的速率比内核处理这些包的速率快时，允许送到队列的数据包的最大数目。默认值：Red Hat Linux release 9 (Shrike)默认为300 rhel5 默认为1000 建议值为30002，_net.ipv4.conf.eth0.accept_redirects

基于灰狼优化深度置信网络(GWO-DBN)的数据分类预测，优化参数为隐藏层节点数目，迭代次数，学习率。多特征输入单输出的二分类及多分类模型。程序内注释详细，直接替换数据就可以用。程序语言为ma_灰狼优化bp数据分类-程序员宅基地

文章浏览阅读76次。基于灰狼优化深度置信网络(GWO-DBN)的数据分类预测，优化参数为隐藏层节点数目，迭代次数，学习率。多特征输入单输出的二分类及多分类模型。程序内注释详细，直接替换数据就可以用。程序语言为matlab，程序可出分类效果图，迭代优化图，混淆矩阵图。_灰狼优化bp数据分类

CPP编译流程知识点_cpp文件如何编译-程序员宅基地

文章浏览阅读1k次，点赞18次，收藏18次。介绍cpp编译流程_cpp文件如何编译